Des pirates sont parvenus à tromper l'intelligence artificielle Bing Chat de Microsoft grâce à de fausses publicités ! Dans ses réponses, l'IA fait la promotion de sites de téléchargement qui distribuent des logiciels malveillants !

Le chatbot IA Bing Chat est disponible à partir du navigateur Microsoft Edge, mais aussi avec un raccourci dans la zone de recherche de Windows 11. C'est un concurrent à Google Bard et ChatGPT d'OpenAI. Lancé en février 2023 sans publicités, Microsoft a commencé à intégrer des publicités dans les réponses de son chatbot à partir de mars 2023 afin de générer des revenus à partir de cette nouvelle fonctionnalité accessible gratuitement.

Les pirates, déjà adeptes de campagnes de malvertising dans les moteurs de recherche, ont vu l'arrivée des publicités dans Bing Chat comme une nouvelle opportunité de piéger les utilisateurs. Ceci est d'autant plus vrai que le fait de converser avec une IA peut inspirer une confiance injustifiée, comme si elle était infaillible et qu'elle ne pourrait nous faire que de bonnes recommandations.

Quand Bing Chat répond à une question, il intègre plusieurs liens pour justifier ses propos et permettre à l'utilisateur d'approfondir ses recherches. Jusque là, c'est plutôt intéressant. Par contre, c'est plus inquiétant quand ce lien renvoie l'utilisateur vers un site malveillant.

Les chercheurs en sécurité de Malwarebytes ont repéré des publicités malveillantes dans les réponses de Bing Chat ! Ils ont remarqué que lorsque vous demandiez à Bing Chat comment télécharger le logiciel "Advanced IP Scanner", le chatbot IA retournait directement un lien de téléchargement dans le chat. En survolant ce lien, le chatbot affiche le résultat et dans ce cas il peut y avoir deux liens : une publicité en premier, et le premier résultat "naturel" en second. Dans le cas présent, le lien publicitaire était un lien malveillant menant tout droit vers un malware. Cette publicité malveillante a été créée par un pirate qui a préalablement compromis le compte publicitaire d'une société australienne.

En cliquant sur le lien, l'utilisateur est redirigé vers un premier domaine qui traite les utilisateurs et les robots différemment, avant de rediriger l'utilisateur vers le site "advenced-ip-scanner[.]com" qui est une copie du site officiel. Le nom de domaine est proche de l'original puisqu'il y a seulement une lettre remplacée : un "a" par un "e". Le téléchargement offert à l'utilisateur correspond à un package d'installation MSI sauf qu'il s'agit d'une version modifiée qui contient un malware. Malheureusement, Malwarebytes n'est pas parvenu à identifier ce malware, ni même ce qu'il fait sur la machine, mais il est probable que ce soit un info-stealer (voleur d'informations).

Source

The post Bing Chat : des publicités malveillantes repérées dans les réponses du chatbot IA ! first appeared on IT-Connect.