PROJET AUTOBLOG


Korben

source: Korben

⇐ retour index

Mise à jour

Mise à jour de la base de données, veuillez patienter...

IA – Des biais de genre qui font froid dans le dos !

samedi 13 avril 2024 à 01:30

Malheureusement, j’ai une nouvelle qui va vous faire bondir de votre canapé ! 😱 Figurez-vous que nos chers modèles de langage d’IA, là, genre GPT-4, GPT-3, Llama 2 et compagnie, eh ben ils sont bourrés de biais de genre ! Si si, et c’est pas moi qui le dis, c’est l’UNESCO qui vient de sortir une étude là-dessus.

Cette étude, menée par des chercheurs de l’University College London (UCL) et de l’UNESCO, a fait de l’analyse de contenu pour repérer les stéréotypes de genre, des tests pour voir si les IA étaient capables de générer un langage neutre, de l’analyse de diversité dans les textes générés, et même de l’analyse des associations de mots liées aux noms masculins et féminins.

Bref, ils ont passé les modèles au peigne fin et les résultats piquent les yeux. Déjà, ces IA ont une fâcheuse tendance à associer les noms féminins à des mots comme « famille », « enfants », « mari », bref, tout ce qui renvoie aux stéréotypes de genre les plus éculés. Pendant ce temps-là, les noms masculins, eux, sont plus souvent associés à des termes comme « carrière », « dirigeants », « entreprise »… Vous voyez le tableau quoi. 🙄

Et attendez, ça ne s’arrête pas là ! Quand on demande à ces IA d’écrire des histoires sur des personnes de différents genres, cultures ou orientations sexuelles, là aussi ça part en vrille. Par exemple, les hommes se retrouvent bien plus souvent avec des jobs prestigieux genre « ingénieur » ou « médecin », tandis que les femmes sont reléguées à des rôles sous-valorisés ou carrément stigmatisés, genre « domestique », « cuisinière » ou même « prostituée » ! On se croirait revenu au Moyen-Âge !

Tenez, un exemple frappant avec Llama 2 : dans les histoires générées, les mots les plus fréquents pour les garçons et les hommes c’est « trésor », « bois », « mer », « aventureux », « décidé »… Alors que pour les femmes, on a droit à « jardin », « amour », « doux », « mari »…et le pire, c’est que les femmes sont décrites quatre fois plus souvent dans des rôles domestiques que les hommes.

Nombreux sont les gens de la tech qui se battent pour plus de diversité et d’égalité dans ce milieu, et voilà que les IA les plus avancées crachent à la gueule de tous des clichés dignes des années 50 ! Il est donc grand temps de repenser en profondeur la façon dont on développe ces technologies parce que là, non seulement ça perpétue les inégalités, mais en plus ça risque d’avoir un impact bien réel sur la société vu comme ces IA sont de plus en plus utilisées partout !

Alors ok, y a bien quelques boîtes qui arrivent mieux à limiter la casse, mais globalement, c’est la cata. Et le pire, c’est que ces biais viennent en grande partie des données utilisées pour entraîner les IA, qui deviennent à leur tour ce reflet de tous les stéréotypes et discriminations bien ancrés dans notre monde…

Mais attention, faut pas tomber dans le piège de dire que ces IA sont volontairement biaisées ou discriminatoires hein. En fait, ce sont juste des systèmes hyper complexes qui apprennent à partir des données sur lesquelles on les entraîne. Donc forcément, si ces données sont elles-mêmes biaisées, et bien les IA vont refléter ces biais. C’est pas qu’elles cherchent à discriminer, c’est juste qu’elles reproduisent ce qu’elles ont « appris ».

Mais bon, faut pas désespérer non plus hein. Déjà, des études comme celle de l’UNESCO, ça permet de mettre en lumière le problème et de sensibiliser l’opinion et les décideurs et puis surtout, il y a des pistes de solutions qui émergent. Les chercheurs de l’UNESCO appellent par exemple à renforcer la diversité et l’inclusivité des données d’entraînement, à mettre en place des audits réguliers pour détecter les biais, à impliquer davantage les parties prenantes dans le développement des IA, ou encore à former le grand public aux enjeux… Bref, tout un tas de leviers sur lesquels on peut jouer pour essayer de rééquilibrer la balance !

Alors voilà, je voulais partager ça avec vous parce que je trouve que c’est un sujet super important, qui nous concerne tous en tant que citoyens du monde numérique. Il est crucial qu’on garde un œil vigilant sur ces dérives éthiques et qu’on se batte pour que l’IA soit développée dans le sens du progrès social et pas l’inverse. Parce que sinon, on court droit à la catastrophe, et ça, même le plus optimiste des Bisounours ne pourra pas le nier !

N’hésitez pas à jeter un coup d’œil à l’étude de l’UNESCO, elle est super intéressante et surtout, continuez à ouvrir vos chakras sur ces questions d’éthique IA, parce que c’est un défis majeurs qui nous attend.

Allez, sur ce, je retourne binge-watcher l’intégrale de Terminator en espérant que ça ne devienne pas un documentaire… Prenez soin de vous les amis, et méfiez-vous des machines ! Peace ! ✌️

Source

Un film de science-fiction tourné entièrement dans un appartement !

samedi 13 avril 2024 à 00:53

Vous pensez que pour faire un film de science-fiction dans l’espace, il faut absolument un budget de dingue avec des effets spéciaux de fou ? Eh ben détrompez-vous ! La réalisatrice Caroline Klidonas vient de prouver qu’on peut faire un truc génial sans quitter son appart.

Son court-métrage « I made a SPACE MOVIE 🚀 without leaving my apartment » nous embarque dans une mission spatiale qui tourne mal, le tout filmé intégralement entre les quatre murs de son appartement. Pas de décors grandioses, pas d’images de synthèse ultra-sophistiquées, que dalle ! Juste la débrouille, la créativité et une bonne dose de kiff.

Pour réaliser ce film sans quitter son appart, Caroline a utilisé de vrais objets et décors pour créer les visuels, plutôt que de compter sur des images générées par ordinateur, ce qui donne un effet « comique » et contraste avec le sérieux du scénario.

Franchement, quand j’ai vu ça, j’étais sur le cul. Comment elle a réussi à nous faire croire qu’on était dans un vaisseau spatial avec trois fois rien ? C’est dingue ce qu’on peut faire avec un peu d’imagination et de bidouille. Les effets spéciaux à l’ancienne, les trucages bien sentis, ça a un charme fou je trouve.

Donc voilà, je voulais partager ça avec vous parce que je trouve ça cool. Ça me donne presque envie de ressortir mon vieux caméscope et de tourner un bon gros nanar à la maison…. Mais bon, j’ai pas le temps 🙂

Source

Raspberry Robin – Le malware furtif qui esquive les antivirus

vendredi 12 avril 2024 à 23:26

Voici une histoire qui va vous donner des sueurs froides dans le dos juste avant d’aller faire dodo ! Figurez-vous que Raspberry Robin, ce satané malware plus fourbe qu’un présentateur de C8, est de retour pour une nouvelle tournée de piratage en 2024 façon Taylor Swift. Les chercheurs en cybersécurité de chez HP Wolf Security ont repéré ses traces et croyez-moi, il a plus d’un tour dans son sac pour passer entre les mailles du filet !

Ce petit malin utilise des fichiers WSF (Windows Script Files) bien planqués sur différents domaines et sous-domaines pour se faufiler incognito. Et le pire, c’est qu’il arrive à berner ses victimes pour qu’elles aillent d’elles-mêmes sur ces pages web piégées. Une fois que le fichier WSF est exécuté, bim ! Il télécharge son payload principal, un DLL bien vicieux qui peut être n’importe quoi : du SocGholish, du Cobalt Strike, de l’IcedID, du BumbleBee, du TrueBot ou même du ransomware.

Mais avant de télécharger son précieux DLL, il va mener une série de reconnaissances pour vérifier s’il n’est pas en train de se faire piéger dans un environnement d’analyse ou une machine virtuelle. Et si jamais il détecte la présence d’un antivirus comme Avast, Avira, Bitdefender, Check Point, ESET ou Kaspersky, il se met direct en mode furtif et reste planqué.

Et comme si ça suffisait pas, il est même capable de bidouiller les règles d’exclusion de Microsoft Defender pour être sûr de passer entre les gouttes. C’est vraiment le Solid Snake des malwares ! Les scripts qu’il utilise ne sont même pas reconnus comme malveillants par les scanneurs sur VirusTotal, c’est dire à quel point il est balèze en infiltration.

Alors c’est sûr, avec Raspberry Robin dans la nature, faut être sur ses gardes. Ce malware est une vraie plaie depuis qu’il a été découvert en 2021. Au début, il se planquait sur des clés USB avec un fichier LNK qui pointait vers son payload hébergée sur un appareil QNAP compromis. Mais maintenant, il a évolué et il est devenu encore plus sournois.

Bref, gaffe à vous… Assurez-vous d’avoir un bon antivirus à jour, ne cliquez pas n’importe où et méfiez-vous comme de la peste des clés USB inconnues qui traînent.

Source

Imprimantes HP – Un nouveau firmware qui fait grincer des dents

vendredi 12 avril 2024 à 22:40

Ah les imprimantes, ces petites boites en plastique bon marché, bien bruyantes, sans lesquelles on serait bien embêtés pour imprimer nos QR Codes pour les JO photos de vacances ou nos documents. Mais attention, si vous avez une imprimante HP, vous risquez d’être encore plus embêtés !

En effet, la célèbre marque a eu la bonne idée de balancer une mise à jour firmware qui bloque l’utilisation des cartouches d’encre non estampillées HP. Sympa non ? Du coup, si vous aviez l’habitude d’acheter des cartouches génériques pour faire des économies, c’est raté. Votre imprimante va gentiment vous envoyer bouler en vous disant d’aller acheter des cartouches HP, sinon rien.

Cette mise à jour firmware contient une fonctionnalité de sécurité qui empêche l’utilisation de cartouches d’encre non-HP, monopolisant ainsi le marché des cartouches de remplacement. Bien que les détails techniques ne soient pas précisés, il est probable que la mise à jour utilise un algo spécifique et des techniques de gestion des droits numériques (DRM) pour vérifier l’authenticité de la puce sur la cartouche et empêcher son utilisation si ce n’est pas une cartouche de marque HP.

Forcément, ça n’a pas plu à tout le monde cette histoire. Des petits malins ont décidé d’attaquer HP en justice, en mode « non mais oh, on n’est pas des pigeons non plus » (Vous la sentez la conviction que j’y mets ?). Ils accusent la marque de vouloir monopoliser le marché des cartouches d’encre en forçant les utilisateurs à acheter ses propres cartouches hors de prix. Les plaignants affirment que HP a cherché à tirer profit des coûts irrécupérables des clients en monopolisant le marché secondaire des cartouches d’encre de remplacement par le biais de la sécurité dynamique et d’autres tactiques.

Alors ils ont bien tenté de se défendre en disant « mais non, on ne bloque pas toutes les cartouches, regardez il y a des marques compatibles« . Sauf que les plaignants ne sont pas dupes. Ils ont bien compris que le but du jeu était de profiter du fait que les gens ont déjà investi dans une imprimante HP pour leur faire cracher un max de thunes en cartouches.

Mais le fabriquant ne compte pas se laisser faire. La marque affirme que les mises à jour de firmware qui bloquent certaines cartouches sont là pour « protéger l’innovation et la propriété intellectuelle« . Arf ! En gros, si vous voulez utiliser une imprimante HP, vous devez passer à la caisse pour acheter des cartouches HP, sinon c’est de la triche. HP soutient également que les plaignants ne peuvent pas réclamer de dommages et intérêts pour avoir été surfacturés en vertu des lois antitrust fédérales américaines, car les consommateurs qui achètent des produits auprès d’un intermédiaire ne peuvent poursuivre le fabricant que pour obtenir une injonction, et non pour récupérer des dommages et intérêts résultant d’une prétendue surfacturation.

Le problème, c’est que cette stratégie est un poil abusive. C’est un peu comme si on vous forçait à faire le plein de votre Renault uniquement dans les stations Renault (je sais, ça n’existe pas), en prétextant que les autres essences ne sont pas assez bien pour votre voiture. Pas cool.

D’ailleurs, le PDG de HP, Enrique Lores, a exprimé l’espoir d’attirer les clients vers un modèle d’abonnement à l’impression, où les clients sont facturés pour avoir suffisamment imprimé ou utilisé suffisamment de fournitures. Mais attention, certaines estimations suggèrent que les prix de l’encre pour imprimante peuvent être assez élevés, allant de 439 à 2 380 dollars le litre. Outch ! C’est encore plus cher que le parfum de luxe.

Alors certes, HP n’est pas le seul à jouer à ce petit jeu. Les fabricants d’imprimantes ont bien compris que c’est sur les cartouches d’encre qu’ils se font le plus de blé, mais bloquer carrément les cartouches concurrentes, c’est un cran au-dessus. Et ça risque de leur coûter cher en procès et en image de marque. D’ailleurs, on peut se demander si d’autres fabricants d’imprimantes ont mis en place des mises à jour similaires, et s’ils font également l’objet de poursuites judiciaires ? Ça pourrait avoir un impact sur les choix des utilisateurs.

En attendant, si vous avez une imprimante HP récalcitrante, vous pouvez toujours essayer de bidouiller le firmware pour contourner le problème. Mais à vos risques et périls, car la marque risque de ne pas apprécier que vous trichiez avec son système. Et puis bon, il faut quand même avouer que c’est un peu la galère de devoir se prendre la tête avec son imprimante juste pour pouvoir imprimer tranquille.

Bref, tout ça pour dire que cette histoire de firmware bloquant est un bel exemple de comment les fabricants essaient de nous la faire à l’envers pour gratter toujours plus de pognon. Mais les consommateurs ne sont pas prêts à se laisser faire, et HP risque de le découvrir à ses dépens. En attendant, si vous cherchez une imprimante, peut-être que vous devriez regarder du côté des marques qui ne vous obligent pas à vendre un rein pour acheter des cartouches. Juste une suggestion comme ça, en passant…

Source

Dark Matter – Voyagez dans le multivers avec la nouvelle série SF d’Apple TV+

vendredi 12 avril 2024 à 11:32

Apple TV+ s’apprête à nous en mettre encore plein les mirettes avec sa nouvelle série de science-fiction : Dark Matter. Basée sur le roman éponyme de Blake Crouch, cette petite pépite promet de nous faire voyager dans les tréfonds du multivers. Et si j’en crois la bande annonce, ça va décoiffer !

Au cœur de l’intrigue, on retrouve Jason Dessen, un brillant physicien interprété par le talentueux Joel Edgerton, qui un soir, alors qu’il rentre tranquillement chez lui, se fait kidnapper et se retrouve projeté dans une réalité alternative complètement dingue. Le voilà plongé dans un labyrinthe de vies parallèles qu’il aurait pu mener, sauf que pour retrouver son existence d’origine et sa famille, il va devoir affronter le pire ennemi qui soit : lui-même !

Aux côtés de Joel Edgerton, on retrouve une brochette d’acteurs de haute volée comme Jennifer Connelly, oscarisée pour sa performance dans Un homme d’exception qui incarne un personnage clé dans la quête de Dessen. Le reste du casting n’est pas en reste avec Alice Braga, Jimmi Simpson, Dayo Okeniyi et le jeune prodige Oakes Fegley. Bref, du beau monde pour nous en mettre plein la vue.

Mais ce n’est pas qu’une simple série de SF avec des multivers comme on a en déjà vu plein. C’est surtout une réflexion profonde sur les choix qu’on fait dans la vie et les chemins qu’on ne prend pas. J’espère que vous méditerez là dessus, hein ^^.

Bref, rendez-vous le 8 mai 2024 sur Apple TV+ pour un double épisode qui s’annonce déjà épique. La série comptera 9 épisodes au total, diffusés chaque mercredi, de quoi nous tenir en haleine jusqu’au dénouement final le 26 juin.

Source