vous vous rappeler le post de cory doctorow sur l'escroquerie de la supposée IA et des chatbots qui sont en fait pas du tout en capacité de remplacer les humains mais sont suffisamment convaincants pour que la direction s'imagine que c'est une bonne idée et qu'ils vont dégager "de la valeur pour les actionnaires" en virant des humains pour mettre des bots à la place ? [1]

Et bien en voila un exemple récent où le chatbot d'une compagnie aérienne à improvisé et sorti de son cul une politique de remboursement imaginaire à un client, qui s'est vu opposé un refus quand il a voulu la mettre en oeuvre. petit tout au tribunal où la compagnie aérienne a tenté une défense "c'est pas moi, c'est lui" en invoquant qu'il ne faut pas faire confiance et croire le chatbot, qu'ils ne sont pas responsables de ce qu'il raconte parce que ce serait une autre entité juridique distincte responsable de ses propres actions.

le tribunal a tranché, la compagnie doit appliquer ce que le chatbot a inventé et rembourser le client ainsi que ses frais de justice. le chatbot a depuis disparu du site.

[1] : https://pluralistic.net/2024/01/29/pay-no-attention/#to-the-little-man-behind-the-curtain
— Permalink