Hm, apparemment, tu n'as pas compris mon premier message:
Je ne nie pas du tout qu'un algorithme n'est pas parfait et ne peut pas avoir de biais.
Par contre, ce que je dis, c'est qu'un algorithme peut plus facilement (et plus objectivement) être contrôlé qu'un être humain.

Dans le cas présent, si l'algorithme désigne Johnny Halliday en passage dans l'aéroport comme étant un extrèmiste musulman fiché, ce que va faire l'algorithme, ce n'est pas monter sur ses petites papattes et aller arrêter Johnny en pointant un Colt sur son visage. L'algorithme va simplement prévenir les vigiles, qui eux, appuyeront sur le bouton "non, c'est un faux positif", et éventuellement remonteront les disfonctionnements.
S'ils ne font pas ça, c'est que les vigiles eux-mêmes auraient fait la faute, et donc, auraient eux-mêmes été arrêter Johnny même en absence d'algorithme.

Par contre, les vigiles, s'ils le souhaitent, s'ils ont eux-mêmes deux-trois tendances humaines qui font qu'ils n'aiment pas trop les bronzés (ou qu'ils considèrent inconsciemment les bronzés comme a priori suspect), ils peuvent facilement se focaliser sur les étrangers. Et comment fais-tu pour contrôler ça ? Tu peux éventuellement mettre un vigile qui contrôle les vigiles, mais, pas de bol, si les premiers vigiles étaient réglos et pas assez "anti-bronzés" au gout du second vigile, le second vigile pourra lui-même influencer les contrôles en faisant pression sur les premiers vigiles.

Alors, non, au contraire, je ne débranche pas mon cerveau, je constate que la technologie est complémentaire: pas du tout meilleure, pas forcément beaucoup pire non plus, mais a des biais différents, et qu'en confrontant 2 opinions ayant des biais différents ensemble, on réduit les faux positifs.

Encore à propos du contrôle:
À l'heure actuelle, les aéroports sont déjà contrôlés, par des vigiles humains qui font ce qui leur chantent.
En ajoutant un algorithme, on ne va donc pas rajouter une perte de contrôle: si l'algorithme est incontrôlable, alors, les vigiles le sont forcément encore plus.
Par contre, comme donné dans l'article donné en lien, ça tombe bien: la question du contrôle (par la CNIL) est déjà ouverte. La CNIL n'est p-e pas le truc le plus génial qu'on puisse imaginer, et certains trucs peuvent passer entre les mailles de son filet, mais ça montre que l'affirmation comme quoi tout contrôle est impossible est fausse.

Face à ça, que faire ?
La solution de sammyfisherjr: pointer du doigt l'algorithme comme l'outil de la société panoptique, alors que celui-ci ne changera rien dans la capacité d'espionnage qui continuera à progresser sans aucun contrôle. Au final, c'est juste détourner l'attention du vrai problème sans apporter aucun élément pour lutter contre celui-ci.
Ma solution: profiter de l'ouverture pour renforcer le contrôle de la vie privée: créer un mouvement qui s'inquiète des dérives que peut avoir un tel système et forcer la création d'un organe de contrôle plus puissant, qui impose des mesures plus efficaces en coupant l'herbe sous le pied des arguments bidons. Par exemple, cette mesure est poussée avec l'argument de renforcer la sécurité. Si on propose d'imposer un algorithme open-source, dont les biais peuvent alors être rendu publique lorsque découvert et ensuite corrigés, et conçus tel que les données sont non utilisable pour une surveillance globale (par exemple, les données sont envoyées chez un autre organe dont le travail est de protéger la vie privée, et l'obtention de ces données à des fins de renseignement ne peut être faite qu'après une demande justifiée), alors, l'argument "pour renforcer la sécurité" ne permet pas de refuser cette proposition.

D'où mon "on débranche son cerveau parce que les flics sont méchants": on avait une bonne opportunité de prendre les "méchants" (que j'ai appelé "flics", que tu as appelé "la violence légale de l'état", on avait tout les deux la même chose en tête) à leur propre jeu, mais, parce que c'est une proposition des "méchants", alors, on rejette tout en bloc, y compris les éléments qui pourraient en fait nous aider.
(Permalink)