Expérimentation de la première loi de la robotique d'Asimov - Korben
mercredi 17 septembre 2014 à 15:18pandouillaroux, le 17/09/2014 à 15:18
Enfin!
(Permalink)
Httqm, le 17/09/2014 à 16:10
Très intéressant !
Les 3 (4?) Lois de la Robotique d'Asimov me turlupinent, car je me demande si elles ne sont qu'une idée (géniale !) d'un auteur de SF, ou si elles sont le seul moyen de construire des robots qui doivent évoluer au milieu des humains. Comment définir le comportement à adopter pour un robot dans l'infinité des cas possibles autrement qu'avec des règles qui servent de base au reste du comportement du robot ?
Je me fais plein de nœuds au cerveau sur ce sujet, ces temps-ci. Je crois que c'est apparu quand j'ai commencé à regarder la série "Real Humans (http://fr.wikipedia.org/wiki/Real_Humans_:_100_%25_humain)
(Permalink)
nekoblog > Httqm, le 17/09/2014 à 19:45
J'ai pas pris le temps de regarder la vidéo de l'article de Korben, mais je me permets de copier ton commentaire :
« Les 3 (4?) Lois de la Robotique d'Asimov me turlupinent, car je me demande si elles ne sont qu'une idée (géniale !) d'un auteur de SF, ou si elles sont le seul moyen de construire des robots qui doivent évoluer au milieu des humains. Comment définir le comportement à adopter pour un robot dans l'infinité des cas possibles autrement qu'avec des règles qui servent de base au reste du comportement du robot ?
Je me fais plein de nœuds au cerveau sur ce sujet, ces temps-ci. Je crois que c'est apparu quand j'ai commencé à regarder la série "Real Humans (http://fr.wikipedia.org/wiki/Real_Humans_:_100_%25_humain) »
Ce que j'aime dans ton commentaire (et dans l'article), c'est de voir l'impact d'un auteur de SF sur notre IRL. :)
Reste que je pense que tout est relatif. Relatif à la tâche à laquelle le robot (ou la pseudo IA) sera destinée, relatif à la situation à laquelle le robot sera confronté. J'entends par là qu'à l'heure actuelle, une IA ne peut prendre une décision qu'en rapport aux "choix" qu'il lui seront possible de faire et que c'est sûrement aux concepteurs/développeurs d'essayer d'anticiper les multiples cas et d'essayer de proposer des solutions intermédiaires à l'IA (pour reprendre l'exemple de l'article de Korben, est ce que ce ne serait pas mieux d'envoyer la voiture dans l'arbre si on développe à côté une solution qui permet au conducteur de rester en vie ?). Les lois d'Asimov, en ça, ne sont peut-être qu'une bonne base de travail.
Tout ça, évidemment, en admettant que ces concepteurs aient un minimum d'éthique et œuvrent pour le "bien de l'espèce humaine" (un peu pompeuse comme formulation). Parce qu'en parlant d'éthique, le cas du robot militaire peut aussi poser bcp de questions (mais là il y a un risque de dériver sur le gros sujet qu'est la guerre, les fabricants d'armes, etc).
Enfin bref, ma réponse est pas mal orientée pour des IA bcp moins évoluées que celles d'Asimov. La question restera certainement entière si on en arrive un jour à des cas d'IA polyvalentes qui devront prendre des décisions dans des situations complexes et inédites (capacités d'apprentissage, toussa toussa).
"My 2 cents" à froid, reste que je note pour Real Humans, je connaissais pas (enfin je crois pas).
EDIT : À froid, à froid, j'ai quand même bien passé 30min à écrire ce bout de texte en fait. ^^
EDIT² : Vu dans les commentaires de Korben : https://fr.wikipedia.org/wiki/Dilemme_du_tramway (tl;dr)
EDIT³ : http://sammyfisherjr.net/Shaarli/?XSTmsg Pour ma part, j'ai pas mal de lacunes dans les écrits d'Asimov, la faute à une liste de lecture interminable. :/
(Permalink)
Sammy Fisher Jr > nekoblog, le 17/09/2014 à 21:19
Merci pour cette réflexion ; j'ai adoré (et à peu près tous lu, je crois) les livres d'Asimov sur les robots.
Les robots d'Asimov sont sensés avoir une IA hyper-développés (et un "cerveau positronique"), partons du principe que cela se produira dans un futur à moyen terme : les "3 lois" sont, d'après Asimov, implémentées au plus profond des circuits constitutifs du robot (il doit expliquer quelque part qu'elles sont sensées être l'équivalent de la conscience pour un humain, sauf qu'un humain peut faire quelque chose qui va contre la morale, le bon sens ou la protection des autres, et qu'un robot ne peut pas désobéir -directement en tout cas- aux 3 lois), et obéissent à une hiérarchie très stricte : la loi 1 est plus forte que la 2, qui est elle-même plus forte que la 3.
Je pense que tu fournis un début de réponse en parlant des robots militaires : un robot fera toujours ce qu'il a été programmé pour faire, ni plus, ni moins. Les lois d'Asimov ne seront donc jamais générales et absolues, ou alors appliquées seulement à des robots "d'aide aux personnes".
Très bon la série "Real humans", j'avais tenté de la regarder, mais... pas pû. Faudrait que je la trouve en DVD ou "autre" un jour...
(Permalink)
Enfin!
(Permalink)
Httqm, le 17/09/2014 à 16:10
Très intéressant !
Les 3 (4?) Lois de la Robotique d'Asimov me turlupinent, car je me demande si elles ne sont qu'une idée (géniale !) d'un auteur de SF, ou si elles sont le seul moyen de construire des robots qui doivent évoluer au milieu des humains. Comment définir le comportement à adopter pour un robot dans l'infinité des cas possibles autrement qu'avec des règles qui servent de base au reste du comportement du robot ?
Je me fais plein de nœuds au cerveau sur ce sujet, ces temps-ci. Je crois que c'est apparu quand j'ai commencé à regarder la série "Real Humans (http://fr.wikipedia.org/wiki/Real_Humans_:_100_%25_humain)
(Permalink)
nekoblog > Httqm, le 17/09/2014 à 19:45
J'ai pas pris le temps de regarder la vidéo de l'article de Korben, mais je me permets de copier ton commentaire :
« Les 3 (4?) Lois de la Robotique d'Asimov me turlupinent, car je me demande si elles ne sont qu'une idée (géniale !) d'un auteur de SF, ou si elles sont le seul moyen de construire des robots qui doivent évoluer au milieu des humains. Comment définir le comportement à adopter pour un robot dans l'infinité des cas possibles autrement qu'avec des règles qui servent de base au reste du comportement du robot ?
Je me fais plein de nœuds au cerveau sur ce sujet, ces temps-ci. Je crois que c'est apparu quand j'ai commencé à regarder la série "Real Humans (http://fr.wikipedia.org/wiki/Real_Humans_:_100_%25_humain) »
Ce que j'aime dans ton commentaire (et dans l'article), c'est de voir l'impact d'un auteur de SF sur notre IRL. :)
Reste que je pense que tout est relatif. Relatif à la tâche à laquelle le robot (ou la pseudo IA) sera destinée, relatif à la situation à laquelle le robot sera confronté. J'entends par là qu'à l'heure actuelle, une IA ne peut prendre une décision qu'en rapport aux "choix" qu'il lui seront possible de faire et que c'est sûrement aux concepteurs/développeurs d'essayer d'anticiper les multiples cas et d'essayer de proposer des solutions intermédiaires à l'IA (pour reprendre l'exemple de l'article de Korben, est ce que ce ne serait pas mieux d'envoyer la voiture dans l'arbre si on développe à côté une solution qui permet au conducteur de rester en vie ?). Les lois d'Asimov, en ça, ne sont peut-être qu'une bonne base de travail.
Tout ça, évidemment, en admettant que ces concepteurs aient un minimum d'éthique et œuvrent pour le "bien de l'espèce humaine" (un peu pompeuse comme formulation). Parce qu'en parlant d'éthique, le cas du robot militaire peut aussi poser bcp de questions (mais là il y a un risque de dériver sur le gros sujet qu'est la guerre, les fabricants d'armes, etc).
Enfin bref, ma réponse est pas mal orientée pour des IA bcp moins évoluées que celles d'Asimov. La question restera certainement entière si on en arrive un jour à des cas d'IA polyvalentes qui devront prendre des décisions dans des situations complexes et inédites (capacités d'apprentissage, toussa toussa).
"My 2 cents" à froid, reste que je note pour Real Humans, je connaissais pas (enfin je crois pas).
EDIT : À froid, à froid, j'ai quand même bien passé 30min à écrire ce bout de texte en fait. ^^
EDIT² : Vu dans les commentaires de Korben : https://fr.wikipedia.org/wiki/Dilemme_du_tramway (tl;dr)
EDIT³ : http://sammyfisherjr.net/Shaarli/?XSTmsg Pour ma part, j'ai pas mal de lacunes dans les écrits d'Asimov, la faute à une liste de lecture interminable. :/
(Permalink)
Sammy Fisher Jr > nekoblog, le 17/09/2014 à 21:19
Merci pour cette réflexion ; j'ai adoré (et à peu près tous lu, je crois) les livres d'Asimov sur les robots.
Les robots d'Asimov sont sensés avoir une IA hyper-développés (et un "cerveau positronique"), partons du principe que cela se produira dans un futur à moyen terme : les "3 lois" sont, d'après Asimov, implémentées au plus profond des circuits constitutifs du robot (il doit expliquer quelque part qu'elles sont sensées être l'équivalent de la conscience pour un humain, sauf qu'un humain peut faire quelque chose qui va contre la morale, le bon sens ou la protection des autres, et qu'un robot ne peut pas désobéir -directement en tout cas- aux 3 lois), et obéissent à une hiérarchie très stricte : la loi 1 est plus forte que la 2, qui est elle-même plus forte que la 3.
Je pense que tu fournis un début de réponse en parlant des robots militaires : un robot fera toujours ce qu'il a été programmé pour faire, ni plus, ni moins. Les lois d'Asimov ne seront donc jamais générales et absolues, ou alors appliquées seulement à des robots "d'aide aux personnes".
Très bon la série "Real humans", j'avais tenté de la regarder, mais... pas pû. Faudrait que je la trouve en DVD ou "autre" un jour...
(Permalink)