Gaspard Delanuit Gaspard Delanuit 22 janvier 05:42

@perlseb

"Mais encore une fois, les IA ont des réponses qui surprennent complètement leur concepteur (qui, encore une fois, n’ont pas écrit de programme pour leur comportement)."

L’exemple que vous donnez est très intéressant car il montre de manière flagrante comment le commentateur d’une expérience peut se livrer à des interprétations anthropomorphiques biaisées.

Le concept de "tricherie" est une surinterprétation entièrement sortie de l’imagination du commentateur. C’est comme si un plombier disait que l’équipe de molécules d’eau, en trouvant le moyen de s’échapper par un joint défectueux, "triche" lors de sa confrontation à l’équipe de molécules de cuivre constituant la canalisation censée l’empêcher de fuir. La personne qui décrit cette vidéo semble ne pas se rendre compte qu’elle utilise une métaphore au sens littéral. Quand on dit que "le Soleil se couche", on sait généralement que c’est une métaphore. Mais si on la prend au sens littéral, on va pouvoir dire que le Soleil se "couche" parce qu’il est fatigué d’avoir travaillé toute la journée ; et ajouter que les étoiles doivent, au contraire du Soleil se reposer le jour après une dure nuit de brillance ; puis on pourra prétendre développer une cosmogonie et une astrophysique sur la base de cette "observation". 

Que se passe-t-il en réalité dans cette expérience ? Les concepteurs sont surpris par le déroulement de leur programme parce qu’ils constatent des phénomènes qu’ils n’avaient pas souhaité ni envisagé. Et alors ? C’est ce qui arrive à tous les concepteurs de systèmes, et ce que l’on peut constater même en restant sur un plan complètement "matérialiste" avec les plombiers et les électriciens. Dans le domaine de la robotique, un aspirateur programmé pour aspirer tout ce qu’il peut aspirer va probablement aussi aspirer des choses que n’avaient pas prévu son concepteur ou son utilisateur ; il pourra aussi "profiter" d’une porte ouverte pour aller aspirer chez le voisin de palier. Et s’il enregistre le chemin pour aller chez le voisin, on pourra dire au sens métaphorique qu’il a appris et développé de nouvelles stratégies pour étendre son domaine d’action (peut-être va-t-il aspirer l’univers entier s’il devient "inamical" ?) À un moment, le commentateur dit qu’un des personnages virtuel du jeu "profite" d’un bug pour faire quelque chose d’imprévu : je ne sais s’il faut rire ou pleurer de tels enfantillages chez une personne adulte. Avec des raisonnements aussi enfantins, nous pourrions tous croire au sens littéral que notre voiture nous joue des tours ou nous fait des caprices quand l’ordinateur de bord produit des phénomènes que son concepteur n’a pas souhaité ni prévu. Bref, la croyance dans les prétendues "intelligences artificielles" est une tentative de réenchanter la science qui montre la même naïveté que la plupart des croyances religieuses. 


Ajouter une réaction

Pour réagir, identifiez-vous avec votre login / mot de passe