L’intelligence artificielle peut-elle prendre le pouvoir ?
Réflexion sur le sujet crucial de l'intelligence artificielle par Charles Robin, précepteur et enseignant en philosophie, français et mathématiques.
7 réactions
-
-
sls0
31 mai 2019 20:45
Dans terninator c’est vrai que les machines tuent sans état d’âme les humains considérés comme nuisibles.
Au fait, qui a décidé que les humains étaient nuisibles ?
Dans le film c’est une IA. Un film comme référence c’est léger.
Dragon Ball je n’ai jamais regardé, mais se servir d’un dessin amimé comme argument c’est léger.
Une vidéo trop anthopocentrée, aucune connaissance de l’intelligence artificielle.
Jusqu’à peu, je pensais la même chose.
Le QI d’une machine ? 5-10 ? A la vitesse de ses calculs, peut être que par hazard le QI passe à 500-1000. Avec notre QI de 100, la machine aura le même rapport avec nous que l’on a avec le QI du poulet.
Ok, on a mis des milliers d’années a augmenter nos connaissances. Pour un opération de tradding, l’analyse et l’opération par elle même me prenait au minimum 10 minutes. Pendant ce temps là un bon ordi avec le bon algorithme en faisait en 10 à 500 millions. Rapide la préhistoire pour des microprossesseurs.
C’est l’auto apprentissage qui m’a fait changer d’avis. On sait d’où ça démarre, où ça atterri je ne sait pas.
Une IA maintenant on lui donne un texte sans qu’elle sache lire. Elle apprendra à lire avec ce texte, si c’est en anglais elle comprendra l’anglais si le texte est important.
On lui donne un autre texte en français elle apprendra le français. Pour elle un mot ou son sens c’est un vecteur de telle dimension dans un espace 3D. Comme en anglais et en français les sens des mots auront pour certains le même vecteur elle pourra traduire.
Si je lui donne l’accès à internet et qu’elle a la capacité d’engranger des connaissances, où va s’arrêter sa connaissance ?
Avant l’IA avait besoin de l’humain pour apprendre, avec le deep learning elle se passe de l’interface humain pour apprendre.
Avec le deep learning elle apprend mais on ne sait rien de son raisonnement ou sa méthode pour arriver au résultat. Battre un joueur de go était considéré comme inaccessible, trop de paramètres. C’est fait, l’IA a gagner. Les pros du go sont tombés sur le cul quand l’IA a joué un coup qui semblait stupide alors qu’elle jouait dans les normes avant. C’est ce coup stupide qui a fait basculé la partie. Ce n’est plus la machine qui analyse l’humain mais l’inverse, il y en a qui se sont penché sur ce coup stupide.
Sur la chaine youtube science4all, le type a un bagage scientifique suffisant pour expliquer l’IA. Comme il se fait assez souvent torturer les neurones par monsieur Phi qui est pointu sur la philosophie et logicien, les aspect philosophiques sont pris en compte.
Une machine étant basée sur de la logique, elle connait ou elle connait pas.
Si elle connait pas elle essayera de connaitre ou comprendre mais en aucun cas elle mettra cela sur le compte du magique ou un dieu.
L’homme sera le premier concepteur et non un créateur ou un dieu.
-
wendigo
1er juin 2019 06:55
@sls0
Le pire ennemi de la logique est l’irrationnel, tout algorithme fera abstraction et ou foutra à la corbeille toute donnée irrationnel. Il coule donc de source qu’une IA (une vrai façon Isaac Azimov) fera de même avec le monde réel et donc avec l’être humain, attendu que ce dernier est géré par ses émotions et sentiments, qui ne relève d’aucune logique. Pour une IA l’humain est donc irrationnel et donc une donnée à effacer, d’où les trois loi d’Isaac Azimov père philosophique, intellectuel et culturel de la robot et de l’intelligence artificielle.
Peut être devriez vous lire ses livres, c’est autre chose que dragon ball, qui plus est que toutes les dénomination inhérentes à l’informatique et la robotique sont de sa création, ce type a passé sa vie à réfléchir au concept de l’IA, il a tordu et retourné le truc durant toutes ces années pour en arriver toujours au même résultat, "la révolte des robots", dont terminator est directement issu de ses réflexions (seul erreur de ce film réside dans l’appréhension du voyage temporel, puisque modifier le passé ne change en rien le présent, il ne fait que créer une ligne temporelle parallèle et donc un présent alternatif dans lequel le voyageur ne peut aller qu’en suivant la totalité de la ligne, s’il revient dans le futur ce sera celui qu’il avait quitté sans modification) Terminator prend Azimov au pieds de la lettre sans y intégrer les trois loi de la robotique que l’auteur avait eu l’intelligence d’imaginer et que nos illustres scientifique méprisent, autant dire que nos gloires accadémiques sont en train de nous préparer terminator et non l’homme tricentenaire .
Pour info en cas d’IA évoluée et évolutive, l’humanité ne fait pas le poids et la cohabitation est impossible sauf avec ces fameuses trois lois qui sont :- un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
- un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
-
-
Belenos
2 juin 2019 21:40
D’abord il n’y a pas "d’intelligence artificielle" et il faut arrêter avec cette ânerie. Il existe des machines qui ont été inventées par les hommes pour faciliter et rendre plus rapides certains travaux physiques ou intellectuels. Il n’y a pas "d’intention" de "prendre le pouvoir" dans une machine.
Tous les outils peuvent être dangereux et les outils mécaniques très performants peuvent être très dangereux. On peut se couper un orteil avec une simple hache destinée à couper du bois. Avec une tronçonneuse, c’est pire, le pied y passe rapidement si on n’y prend garde. Avec une machine à découper les arbres sur place, il ne resterait pas grand chose du bûcheron distrait car il serait scié, écorcé et transformé en copeaux humains en quelques minutes. C’est encore plus grave avec les armes, on peut déclencher une explosion nucléaire avec un système informatique initialement destiné à sécuriser son déclenchement. Ce genre de chose n’arrivait pas avec une épée, ou alors avec une épée vraiment très magique.
Bref, le danger vient toujours du manque de vigilance, de prudence et de sagesse chez l’être humain dans l’usage qu’il fait de ses outils et c’est bien entendu encore plus dangereux en cas d’automatisation importante et complexe (ce que les gens appellent naïvement "intelligence artificielle"). Quand tout est géré par des machines et que les hommes sont trop confiants et trop paresseux pour effectuer les contrôles et les rectifications nécessaires, les catastrophes se produisent.
