"Ton exemple est d'emblée biaisé : si c'est un dénommé Mohamed Fahta qui est signalé comme extrémiste fiché, lesdits vigiles ne se poseront même pas la question. Et lui casseront probablement la gueule au passage, persuadés en outre de faire du bon travail."
Dans ce cas, ils auraient été lui cassé la gueule même sans l'usage d'algorithme d'identification. Car sans ça, ce sont les vigiles eux-mêmes qui regardent qui passent et qui vont casser la gueule à celui qui ressemble à la personne suspectée.
Tu dis que le logiciel va permettre que les vigiles puissent arrêter d'utiliser leur propre jugement et donc d'être plus directs, plus agressifs, moins responsables.
Oui, c'est UNE POSSIBILITÉ. Mais de nouveau, si on profite de l'occasion pour imposer des règles intelligentes (en signalant aux vigiles qu'ils restent les responsables des bavures), cela n'arrive pas plus qu'à l'heure actuelle.
"Encore une fois, j'aimerais partager ton optimisme."
Ce n'est PAS une question d'optimisme. Le fait que ça soit possible est un fait objectif. Le fait que tu penses qu'il y a de trop gros obstacles est autre chose, qui ne change pas ce fait.
Par ailleurs, comme expliqué, cela ne change rien: si il est impossible de contrôler le programme, il est impossible de contrôler les vigiles.
L'avantage, c'est qu'ici, on a un pied dans la porte: réformer les vigiles, ça n'arrivera pas (à moins d'un très très gros incidents, car des incidents "normaux" ont lieu tout le temps sans que ça ne change quoi que ce soit), mais pointer les dangers de la surveillance automatique et en profiter pour imposer la mise en place d'un contrôle, ça, c'est déjà plus facile.
"C'est gentil donc, mais, pardon, un peu naïf."
De nouveau, ce n'est pas naïf, c'est un fait. Est-ce que tu as plus confiance en un script open-source que tu lis et puis exécutes ou en un type à qui tu demandes de trifouiller dans ta machine pendant que tu fermes les yeux ?
Ce n'est PAS être naïf que de dire: ne faisons PAS confiance aux êtres humains, mettons en place des systèmes qui peuvent objectivement prouver les dérives (cela n'implique pas qu'il n'y aura pas de dérive, mais au moins, on aura un point de contrôle sur ces dérives).
"As-tu l'impression que les gens ... aient changé quelque chose à leurs pratiques internet"
Justement, c'est parce que les gens n'ont pas bougé le petit doigt que ta solution est inefficace: les gens ne bougeront pas le petit doigt non plus lorsque les vigiles feront n'importe quoi (et je dis "feront" juste pour respecter la contexte de la phrase, le bon verbe est "font").
À l'heure actuelle, il n'y a aucun système de contrôle et il n'y en aura jamais.
La seule façon qu'il y ait un contrôle, c'est si durant une reforme on en profite pour imposer un système bien conçus pour lequel les arguments sécuritaires ne peuvent pas être utilisés pour le rejeter. Et dans ce système bien conçus, le recours à un logiciel "objectifs" (le logiciel n'est pas neutre, mais il suit les instructions, il ne peut pas dire "non mais cet individu bronzé paraissait réellement suspect, vous ne pouvez pas prouvé que je l'ai ciblé pour sa couleur de peau") est simplement un plus.
Par contre, ton attitude est de rejeter en bloc cette opportunité, pour défendre un statu-quo sur lequel tu avoues toi-même n'avoir aucun moyen d'intervenir.
"Et tant que le pouvoir n'aura pas changé (ce qui n'arrivera peut-être pas de mon vivant, voire jamais), je continuerai à "pointer du doigt l'algorithme comme l'outil de la société panoptique", parce que c'est exactement ce qu'il est."
C'est sur qu'avec toi, cela n'arrivera jamais. Ta façon de changer le pouvoir, c'est soit de maintenir le statu-quo, soit de proner une révolution qui est 100x plus difficile à mettre en mouvement qu'un organe de contrôle.
Non, l'algorithme n'est pas l'outil de la société panoptique. L'algorithme est un outil, qui peut être utilisé par la société panoptique, ou qui peut être utilisé pour lutter contre elle. Ce que je te reproche, c'est de bêtement perdre les pédales de la logique: sous prétexte que tu as peur de l'usage qui peut être fait d'un tel outil (à raison, je suis TOTALEMENT d'accord là-dessus), tu critiques l'outil en lui-même.
Au final, cela revient à ce que je disais plus tôt: si tu critiques cette technologie, ce n'est pas à cause de la technologie, c'est à cause de ses utilisateurs. C'est extrêmement naïf: si on construit une technologie sans garde-fou qui provoquerait des dégâts dès que reprise par le pouvoir, toi, tu seras d'avis de soutenir cette technologie (simplement parce que "pas utilisé par le pouvoir = pas de danger", tandis que "utilisé par le pouvoir = danger") (si ce n'est pas le cas, peux-tu me pointer vers de telles critiques que tu as formulées. de telles technos existent bel et bien, je te laisse les identifier par toi-même, cela fait partie de l'exercice de maïeutique).
(
Permalink)