OpenNews
Constat d'autant plus inquiétant dans un monde où l'algorithme devient une déité à part entière. Un problème ? C'est impossible, l'algorithme est tout puissant, impersonnel et impartial : comment un algorithme pourrait-il être raciste ? Après tout, pour reprendre la formule d'httqm, l'imprimerie est-elle responsable de ce qu'elle imprime ? C'est oublier bien vite que derrière l'algorithme et derrière l'imprimante, il y a des humains. Des humains avec des convictions et des biais. Des humains qui, s'ils peuvent ignorer les effets futurs de leurs technologies, l'ont vendue comme infaillible et l'ont déifiée comme solution universelle à tous les problèmes (voir la philosophie de la silicon valley à ce sujet).
En outre, dès lors que ces humains ont connaissance des effets de bords de leurs algorithmes ou des cochonneries qui sont imprimées par leurs machines, que peut on interpréter de leur inaction, si ce n'est une approbation implicite de ces comportements ?
(Permalink)
HowTommy | Liens et actu en vrac
(Permalink)
Httqm's Links
Article intéressant, mais qui mérite tout de même quelques bémols. Le titre, pour commencer :

> "Google est devenu raciste parce que ses utilisateurs le sont"

Et qui est répété, et précisé dans le corps de l'article :

> En d'autres termes : comme les utilisateurs racistes étaient plus susceptibles de cliquer sur ces publicités quand ils cherchaient des noms noirs, l'algorithme de Google se transformait pour proposer ces publicités en lien avec des noms identifiés comme noirs.
> Pour le dire encore autrement : Google devenait raciste parce que ses utilisateurs racistes l'entraînaient à l'être.

Ce qui me chiffonne dans cette formulation, c'est qu'elle disant "google est ceci ou cela", elle mélange :
- google : le site web
- google : le moteur de recherche (les robots, les bases de données, les algorithmes, ...)
- google : l'entreprise qui fait tourner le moteur de recherche et vend des espaces publicitaires (entre autres choses)
- google : l'ensemble des personnes qui travaillent pour cette entreprise

Or, le comportement décrit par danah boyd est AMHA, un effet de bord indésirable du comportement des algorithmes, comme l'est le Google bombing. Je ne pense pas qu'il y ait, dans toutes les choses qu'on peut appeler "google" des intentions racistes.

> La technologie n'est pas neutre : elle reproduit les préjugés et les inégalités du monde qui l'a créée.
C'est confondre le message et le messager : ce n'est pas parce qu'on a pu imprimer des affiches racistes que l'imprimerie est raciste.

> Mais si nous voulons vraiment créer un monde meilleur, nous allons devoir faire réellement attention aux outils qui apparaissent, et apprendre à poser des questions qui fâchent : comment peut-on s'en servir pour améliorer la vie des gens ordinaires ?
Alors là, je souhaite bien du plaisir à ceux qui voudraient répondre à cette question. Aucun outil créé par une grande entreprise n'est conçu pour améliorer la vie de qui que ce soit, mis à part celle de son conseil d'administration et de ses actionnaires.

(via : http://liens.vader.fr/?qLu2Ng)
(Permalink) (Profil)
Les piti liens de Vader
"Pour le dire encore autrement  : Google devenait raciste parce que ses utilisateurs racistes l’entraînaient à l’être."

"Quand mes pairs et moi avons imaginé des outils avec lesquels on pouvait cartographier tout le réseau de ses connaissances ou rendre public ses intérêts et ses goûts, ce n’est pas à ça que nous pensions. Nous n’avions pas créé des architectures pour reproduire les préjugés, mais nous n’avions pas conçu de systèmes pour les combattre non plus."

"Nous sommes au bord d’un nouveau précipice. La plupart des activistes des médias concentrent leurs efforts sur la question du libre accès à Internet. Bien sûr, c’est une question cruciale. Mais je voudrais vous inciter à pousser la réflexion encore plus loin.

Nous sommes en train d’entrer dans un monde de prédictions, où de plus en plus de gens vont pouvoir juger d’autres gens, grâce à des données.

L’analyse de ces données pourra évaluer combien valent les gens, en tant que travailleurs, parents, emprunteurs, apprenants et citoyens. Ces analyses existent depuis des décennies mais elles pèsent de plus en plus dans la prise de décision, dans de nombreux secteurs. Et la plupart des gens ne comprennent pas du tout comment elles fonctionnent."
(Permalink) (Profil)