La super-intelligence, le Graal de l’IA ?
Avec Cédric VILLANI - Mathématicien, médaillé Fields, ancien député auteur de la stratégie nationale sur l'intelligence artificielle
Edouard GRAVE - Chercheur scientifique de KyutAI
Aurélie JEAN - Data scientist, essayiste
Animation : Marine PROTAIS - Journaliste à La Tribune et Philippe MABILLE - Directeur éditorial de La Tribune
519 réactions
-
Gaspard Delanuit
18 novembre 2024 12:34
@micnet
Je fais référence à un propos de Y2 plus haut qui dit que l’IA n’est pas une calculette. Comme, cette fois il dit, après avoir bien réfléchi et repoussé d’autres définitions de plusieurs dictionnaires, que l’intelligence de l’IA se définit comme "la capacité à résoudre un problème", je me contenterais de sa réponse sur la calculette programmable. Si on part sur les outils manuels, qui sont une autre famille d’objets, il va en profiter pour se défiler comme une anguille comme d’habitude."Pourquoi se limiter à la calculette programmable ?"
-
TchakTchak
18 novembre 2024 12:40
@Gaspard Delanuit
Je suis d’accord qu’on abuse de l’usage du mot "intelligent". Il en est de même avec le mot "quantique".
Vous avez indiqué à micnet une définition datée de l’intelligence, induisant qu’elle est le propre des humains, qui doit être suffisante avec l’âge vénérable des académiciens.
Et vous-même contredisez la définition que vous avez choisie :
C’est là que vous acceptez ou refusez le débat sur l’intelligence qui nécessite une actualisation, ce que dit bien Aurélie Jean, puisque nous sommes tous d’accord là-dessus.Il est raisonnablement facile d’admettre qu’il existe une intelligence dans la nature, et même qu’elle puisse être une propriété du vivant. De fait, l’intelligence intervient clairement dans la sélection naturelle, je crois que c’est difficile à nier en observant les animaux. Et pourquoi pas dans les végétaux, les champignons, les bactéries, etc. ?
Maintenant, comment désigner qui est intelligent et qui ne l’est pas dans la nature et le monde vivant ? Exercice difficile, dans doute impossible. De même : quelle créature vivante est consciente et laquelle ne l’est pas ? C’est pareil.
Et c’est dans tout ce flou qu’on en profite pour étiqueter les capacités de plus en plus étendues du numérique : "intelligence artificielle". Et ce n’est plus la définition de l’Académie qui va servir de talisman. Apréciser que le numérique est un langage, pas une machine (et donc pas une calculette). Par contre, il gère de plus en plus les machines, à la place des humains, pouvant les dépossédez progressivement.
Vous m’aviez écrit que les machines font plus que notre conscience, en capacité d’action, mais pas mieux. Ce qui est intéressant à regarder. Encore faut-il que la simili conscience du système numérique ne vampirise pas la nôtre, comme la mauvaise monnaie qui chasse la bonne. Ce qui suppose définir ce qu’est la nôtre.
Mais j’expliquais que notre conscience est justement indéfinissable, car de l’ordre du sensible et non du rationnel.
Il me semblait qu’il faut repartir de la maxime d’Aristote pour reconnaître ces "tout" qui gèrent les mondes, afin de singulariser celui numérique de celui humain. Mais c’est toute une définition paradigmatique à faire.
-
Gaspard Delanuit
18 novembre 2024 12:44
@micnet
Et par ailleurs je trouve déjà très significatif que pour justifier l’usage du mot "intelligence" dans l’acronyme IA, on en soit réduit, justement, à réduire le sens commun et général du mot. Si on réduisait autant le sens du mot "amour", on pourrait en conclure qu’il est justifié d’affirmer scientifiquement qu’une poupée gonflable ou en latex est capable d’aimer. Etc. On serait ainsi entouré de plein d’objets "intelligents" qui nous "aiment", tout en ayant perdu par la même occasion la totalité du sens commun.
-
TchakTchak
18 novembre 2024 12:47
@TchakTchak
Mais c’est toute une définition paradigmatique à faire.
Remplacer par :
Mais c’est un autre paradigme à installer. -
micnet
18 novembre 2024 12:52
@yoananda2
Bon alors voici la définition de l’intelligence que propose ton lien :
« Fonction mentale d’organisation du réel en pensées chez l’être humain, en actes chez l’être humain et l’animal. «
Déjà cette définition se situe à des années-lumière de celle-ci : « intelligente = capacité à résoudre des problèmes ». Bref, tu n’as manifestement pas d’idée précise sur ce sujet on dirait. Maintenant si on considère ton lien à propos de l’intelligence artificielle, on trouve ceci :
« Intelligence artificielle. ,,Recherche de moyens susceptibles de doter les systèmes informatiques de capacités intellectuelles comparables à celles des êtres humains`« Ben voilà, il n’est nullement indiqué que les systèmes informatiques possèdent en eux-mêmes leur propre intelligence mais qu’on cherche à les doter de moyens « comparables » aux capacités intellectuelles des humains. —-> compare donc les deux définitions, celle de « l’intelligence » tout court et de « l’intelligence artificielle » de ton propre lien et si tu ne constates pas comme une « légère différence » entre les deux, alors on a un sacré problème de vocabulaire…
-
Gaspard Delanuit
18 novembre 2024 12:56
@TchakTchak
Pas exactement, elle n’est pas obsolète (le dictionnaire est revu tous les ans et on peut avoir accès aux anciennes définitions) mais ce n’est que la définition générale et commune de l’intelligence. La méthodologie du dictionnaire l’impose ainsi. Ensuite viennent des ouvertures importantes et des applications spécifiques nombreuses. Voyez, par exemple :"Vous avez indiqué à micnet une définition datée de l’intelligence"
"Par extension. Aptitude à adapter son comportement à une situation nouvelle, adresse qu’on montre dans une situation donnée, habileté dans le choix des moyens qu’on emploie pour parvenir à un certain résultat."
Un arbre ou une bactérie, ou la nature, ou la vie, pourrait donc être doués "d’intelligence" même selon le dictionnaire de l’Académie.
-
yoananda2
18 novembre 2024 13:02
@micnet
Bon alors voici la définition de l’intelligence que propose ton lien :
« Fonction mentale d’organisation du réel en pensées chez l’être humain, en actes chez l’être humain et l’animal. «
ha, en fait, tu ne sais pas lire correctement. Tu as lu la première ligne et paf ...
C’est UNE définition qui est proposée, mais tu as bien remarqué, j’espère que la page était longue et qu’il y a plusieurs définitions proposées, et même des "approches" ou simplement des utilisations en contexte du mot intelligence.
C’est le problème récurrent de nos discussions, tu simplifie trop, trop souvent.
Bref, tu n’as manifestement pas d’idée précise sur ce sujet on dirait.
pas assez précise en effet. Mais à ma décharge, lis la page, tu verras que je ne suis pas le seul
Ben voilà, il n’est nullement indiqué que les systèmes informatiques possèdent en eux-mêmes leur propre intelligence mais qu’on cherche à les doter de moyens « comparables » aux capacités intellectuelles des humains. —-> compare donc les deux définitions, celle de « l’intelligence » tout court et de « l’intelligence artificielle » de ton propre lien et si tu ne constates pas comme une « légère différence » entre les deux, alors on a un sacré problème de vocabulaire…
Je la constate, ça ne veut pas dire que je suis d’accord avec.
Moi je suis plus orienté "anglo-saxon" dans mon approche (tout ce que je lis sur le sujet des sciences cognitives dont l’IA fait partie est en anglais, jamais en français), je vais rarement consulter les sites français. Je fais un effort paske là, je parle avec toi.
Je t’ai mis la définition anglaise, je préfère celle là.
Je ne vois pas pourquoi elle serait moins valable qu’une autre.
-
Gaspard Delanuit
18 novembre 2024 13:03
@yoananda2
Et donc clous et cailloux sont doués d’intelligence, "selon nombre de chercheurs sur la question" ?"En effet, un clou résoud un problème. Un caillous placé au bon endroit ou lancé sur la bonne personne résoud un problème."
"l’intelligence au sens large, c’est très difficile à définir correctement, et on a des débats sans fin sur le facteur g, sur les formes d’intelligence, etc... pour moi ce sont des questions oiseuses. d’ou le choix de nombre de chercheurs sur ces questions "c’est la capacité à résoudre des problèmes".
-
micnet
18 novembre 2024 13:03
@yoananda2
« Pourquoi se limiter à la calculette programmable ? En effet, un clou résoud un problème. Un caillous placé au bon endroit ou lancé sur la bonne personne résoud un problème.«
Voilà donc en clair et de façon tout à fait sérieuse, tu considères que tout objet quelqu’il soit possède en lui-même une intelligence ?
-
micnet
18 novembre 2024 13:14
@yoananda2
« C’est le problème récurrent de nos discussions, tu simplifie trop, trop souvent. »
Ben le problème avec toi, c’est que tu n’arrives pas à répondre de façon claire et synthétique à des questions pourtant simples (au passage, je n’ai toujours pas compris ta définition de la « conscience » de ton message précédent, tu es parti dans tous les sens sur cette question). Autant, je peux comprendre qu’un esprit littéraire ait cette tendance à faire des longueurs mais venant d’un esprit scientifique comme toi, j’avoue que je suis surpris. Alors évidemment, quand on écrit des pavés comme toi, on a beau jeu ensuite d’expliquer à son interlocuteur : « ah mais non tu m’as mal lu, il fait prendre en compte la 25e ligne de mon message de 300 lignes »
-
Gaspard Delanuit
18 novembre 2024 13:14
@TchakTchak
"Il me semblait qu’il faut repartir de la maxime d’Aristote pour reconnaître ces "tout" qui gèrent les mondes, afin de singulariser celui numérique de celui humain. Mais c’est toute une définition paradigmatique à faire."
Vous voyez que parfois il est bon de repartir sur d’anciennes propositions et définitions, pour voir où on en est.
Je pense que ce travail demande la combinaison d’une grande clarté et d’une grande souplesse, et qu’il ne faut ni se réfugier dans la rigidité pour se préserver de la souplesse ni invoquer la souplesse pour justifier son manque de clarté. Dans le débat avec Y2, je vois qu’il manque d’une culture générale (sémantique, philosophique, méthodologique, etc.) et cela rend impossible la conversation, car il bute sur presque chaque raisonnement, puis s’agace Je ne le lui reproche pas ; il n’y est pour rien ; il cherche à s’informer sur Internet, mais Internet n’est un bon professeur que si on a eu auparavant une solide instruction classique. (Je dois m’absenter, je reviens ce soir.) -
Gaspard Delanuit
18 novembre 2024 13:19
@micnet
Bon, si tout est intelligent, pourquoi pas les IA ?
Mais aussi la robe de chambre de ma belle-mère.
Et donc ce n’est pas peine de récolter des milliards et de faire tout un foin sur les avantages prodigieux et les terribles dangers. Est-ce que l’intelligence de la robe de chambre de ma belle-mère inquiète l’humanité ? -
yoananda2
18 novembre 2024 13:20
@micnet
(au passage, je n’ai toujours pas compris ta définition de la « conscience » de ton message précédent, tu es parti dans tous les sens sur cette question)
J’ai déjà donné une définition à plusieurs reprises ... il te faut quoi de plus ?
je la redonne encore une fois :
d’abord, je n’ai jamais parlé de conscience.
Je parle de conscience phénoménale et j’ai dit : c’est le vécu subjectif, le ressenti.
ça y est c’est bon tu as lu ma définition ?
les autres formes de conscience, je pense que c’est pas vraiment utile de les définir précisément et je ne connais pas ces définitions par coeur.
Alors évidemment, quand on écrit des pavés comme toi, on a beau jeu ensuite d’expliquer à son interlocuteur
on parle de sujets complexes... et je t’assure faire l’effort de simplifier autant que je le peux.
-
TchakTchak
18 novembre 2024 13:22
@Gaspard Delanuit
Ah, oui, j’avais regardé moi-même et pas vu ce paragraphe ajouté. J’étais tombé sur la définition précédente, la 8ème.
Reste que vous avez sélectionné la définition de tête de l’Académie Française, qui n’est pas pertinent pour notre sujet.
Et ce paragraphe ajouté est l’intelligence qui consiste à pouvoir s’adapter aux situations pour parvenir au résultat. C’est celle que vous aviez déjà contesté en disant que c’était la définition anglo-saxonne et réductrice de l’intelligence. Maintenant, vous l’acceptez, soit.
Une voiture sans pilote connectée à un réseau numérique peut se déplacer d’un point à un autre en s’adaptant aux situations rencontrées dans son parcours. Elle satisfait aux définitions des deux premiers items, et, semble-t-il, du troisième item du paragraphe que vous avez rajouté.
Comment dire que cette voiture n’est pas intelligente d’après ce paragraphe ? -
yoananda2
18 novembre 2024 13:22
@micnet
Voilà donc en clair et de façon tout à fait sérieuse, tu considères que tout objet quelqu’il soit possède en lui-même une intelligence ?
Non. Un caillou n’est pas intelligent. La définition que j’ai entendue et reprise est juste imprécise. On peut l’améliorer mais ça ne change pas le fond de mon propos.
-
micnet
18 novembre 2024 13:27
@yoananda2
« d’abord, je n’ai jamais parlé de conscience.«
Ah ben c’est con parce que c’était justement ma question. Je demandais la définition des deux termes : « intelligence » (tout court. Ça tu y as répondu) et « conscience » (tout court). Donc si tu veux bien avoir l’obligeance de me donner ta définition de la conscience (tout court), je t’en serais gréé
-
TchakTchak
18 novembre 2024 13:29
@Gaspard Delanuit
Oui, je suis d’accord. C’est pour cela que j’aime bien l’holobionte, car c’est une discipline met ceux qui y travaillent en plein dans cet exercice. Mais pour généraliser cela en débat public, il y a gap. Et ce n’est pas que ce soit compliqué en soi, c’est même simplifiant, éclairant dans la complexité. Mais cela demande de penser complètement différemment.Je pense que ce travail demande la combinaison d’une grande clarté et d’une grande souplesse, et qu’il ne faut ni se réfugier dans la rigidité pour se préserver de la souplesse ni invoquer la souplesse pour justifier son manque de clarté.
-
yoananda2
18 novembre 2024 13:34
@micnet
Donc si tu veux bien avoir l’obligeance de me donner ta définition de la conscience (tout court), je t’en serais gréé
j’ai dit que c’est un terme polysémique. Je ne sais pas le définir (pour de vrai).
c’est encore pire qu’intelligence, un vrai bourbier.
On peut prendre l’étymologie ("savoir avec"), mais je ne pige pas ton insistance, puisque pour ma part, je n’ai pas utilisé ce terme,
si ce n’est pour dire que personne ne parle de "conscience artificielle", et que intelligence n’est pas obligatoire lié à conscience ou a vivant (ce qui est une hyppothèse métaphysique entendable si elle est posée en tant que tel et non en tant que certitude, donc de façon religieuse).
C’est toi qui utilise ce terme, définis le. Je ne vois pas pourquoi je devrais définir les mots employés par les autres.
-
Gollum
18 novembre 2024 13:49
Pour info et repartir sur de nouveaux crêpages de chignons à propos de l’intelligence : https://www.mnhn.fr/fr/le-blob-l-organisme-sans-tete-qui-revolutionne-l-etude-de-l-intelligence
Voilà un truc (je dis truc parce qu’on ne sait pas ce que c’est) unicellulaire, capable d’intelligence..
Est-il conscient ? On ne sait pas mais sans doute a t il une conscience minimale..
À propos d’IA il est bon de savoir aussi que certains testent des IA à base de neurones biologiques : https://www.sciencesetavenir.fr/high-tech/intelligence-artificielle/des-ordinateurs-bases-sur-des-neurones-vivants-passera-t-on-bientot-de-l-intelligence-artificielle-ia-a-l-intelligence-organoide-io_169639
-
micnet
18 novembre 2024 14:05
@yoananda2
je ne pige pas ton insistance, puisque pour ma part, je n’ai pas utilisé ce terme,
Si, tu avais écrit ceci à Gaspard dans un de tes messages :
"Les IA (ça dépends des modèles bien sûr) ont une conscience perceptive, mais pas phénoménale. Elles n’ont pas de conscience morale en revanche. Mais elles ont une conscience de soi (certaines passent le test du mirroir)."
C’est toi qui utilise ce terme, définis le."
Moi je me contente de prendre la définition du dictionnaire. En l’occurrence le dico en donne deux :
- Connaissance, intuitive ou réflexive immédiate, que chacun a de son existence et de celle du monde extérieur.
2) Représentation mentale claire de l’existence, de la réalité de telle ou telle chose : L’expérience lui a donné une conscience aiguë du danger.
—> Tu es d’accord avec ça ? En tout état de cause, ma question est légitime puisque tu as affirmé que les IA "ont une conscience de soi"
-
yoananda2
18 novembre 2024 14:06
@Gollum @micnet @Tchaktchak
je vous propose une petite expérience. Plutôt que de définir l’intelligence par des mots, je propose une définition par une situation. Je préfère cette approche personnellement, ou moins je préfère intégrer cette approche situationnelle plutôt que strictement propositionnelle (qui ne mène qu’à des débats stériles in fine... on va finir par tenter de définir ce qu’est une définition si on continue, et d’ailleurs, j’en suis pas loin ! lol)https://x.com/MetodoMoreira/status/1857954586692137139
vous en pensez quoi ?
On est bien face à de l’intelligence la, vous en conviendrez non ? (je parle de celle du gus évidement hein ...) -
yoananda2
18 novembre 2024 14:14
@micnet
"Les IA (ça dépends des modèles bien sûr) ont une conscience perceptive, mais pas phénoménale. Elles n’ont pas de conscience morale en revanche. Mais elles ont une conscience de soi (certaines passent le test du mirroir)."
tu vois bien que j’ai parlé de conscience perceptive morale, de soi, mais jamais de conscience tout court, non ?
tu le vois ou tu le vois pas ?
j’ai fait exprès parce que je ne sais pas définir "conscience" tout court.
Connaissance, intuitive ou réflexive immédiate, que chacun a de son existence et de celle du monde extérieur.
ha oui, mais moi j’ai fait une expérience une fois avec un dico.
Tu prends n’importe quel mot, puis tu remonte la définition de proche en proche.
Fais le avec conscience tu vas voir.
Tu prends conscience, on te parle de connaissance. Puis tu prends connaissance et il vont te parler de je sais pas quoi, et puis, très vite tu vas revenir à conscience.
Les définitions sont des trucs qui tournent en rond.
Je le sais, mais tu semble ne pas le savoir.
Ca ne veut rien dire, c’est pour ça que bon ... je veux bien préciser un terme imprécis, mais le recours au dictionnaire, c’est une béquille qui peut aider parfois, mais qui est limitante.
Que penses tu de ma proposition précédente pour sortir de là ?
—> Tu es d’accord avec ça ?
oui ça peut me convenir mais ça va dépendre du contexte d’utilisation.
-
Gollum
18 novembre 2024 14:27
@yoananda2
Mais elles ont une conscience de soi (certaines passent le test du mirroir)."
Il serait bon que tu nous donne les références là-dessus car j’avoue avoir tiqué aussi sur cette proposition.
Parce que pour moi conscience de soi veut dire conscience tout court. Bref conscience phénoménale d’un être vivant.
Autant je comprends qu’un éléphant, ou un dauphin, puisse passer le test du miroir, autant avec une IA j’ai du mal..
-
TchakTchak
18 novembre 2024 14:44
@Gollum
Le truc unicellulaire se reproduit sexuellement, ou par fragmentation, au choix. Il a une mémoire et une capacité d’apprentissage, mais pas de cerveau. Il se dessèche et revit, on ignore sa durée de vie, peut-être qu’il est immortel.
C’est peut-être mieux réussi que l’ornithorynque, avec tout plein d’options, mais qui ne facilitent pas forcément l’existence du bestiau. C’est un mammifère, mais ovipare. Mammifère quand même car la femelle a des mamelles. Sauf qu’elles n’ont pas de tétons. Alors le lait s’écoule le long de la fourrure. A charge pour les ptiots sortis des oeufs de lécher la fourrure de maman. Avec leurs becs... Quand aux organes génitaux, je n’ai toujours pas compris.
Je pressens qu’après la sixième extinction des espèces, Dame nature refera l’ingénierie à partir du blob plutôt qu’à partir de l’ornithorynque.
-
micnet
18 novembre 2024 14:47
@yoananda2
Ca ne veut rien dire, c’est pour ça que bon ... je veux bien préciser un terme imprécis, mais le recours au dictionnaire, c’est une béquille qui peut aider parfois, mais qui est limitante.
Ben c’est pareil dans tous les domaines, on peut aussi estimer que le code de la route est "limitant", même que les lois actuelles le sont, etc... Seulement il faut bien définir des règles communes à un moment donné, aussi imparfaites soient-elles.
Donc si d’emblée on rejette les définitions communément admises (= celles du dictionnaire), on peut le faire mais dans ce cas il faut qu’on soit capable d’en donner d’autres qui fassent également (à peu près) consensus. Sauf que là, je crois comprendre qu’il n’y en a pas d’autres et que tu essaies de te bricoler tes propres définitions. Là encore pourquoi pas après tout mais dans ce cas mets-toi à la place de tes interlocuteurs qui n’ont pas la même vision que toi et pose bien tes prérequis en début de conversation.
En tout cas très clairement, tous les désaccords qu’on peut noter sur la perception des IA tient au fait que nous employons tous des termes que nous comprenons de manière différente. Au-moins ces échanges auront été utiles de ce point de vue -
TchakTchak
18 novembre 2024 14:55
@yoananda2
Et quand c’est un fil qui se casse ?
Ou alors un véhicule sauteur. Mais s’il sert à transporter des oeufs, ça ne va pas le faire.Moi j’en étais à la maxime d’Aristote. Un blob n’a de toute façon pas le même état de conscience, ni la même forme d’intelligence que l’humain. De quoi s’amuser avec les fourmis : intelligence personnelle ou collective ? Intelligence distribuée, comme on dit, alors conscience distribuée aussi ?
Et Dame Nature, et l’Univers.... Peut-on parler de conscience et intelligence d’une galaxie ? A quoi cela ressemblerait ?Bref, de quoi éclaircir dans le paysage, pouvoir mieux caractériser chacun de ces ’tout", constater les similarités, différences ,singularités, corrélations....
Et ranger ainsi le système numérique avec sa singularité reconnue. -
Gollum
18 novembre 2024 14:57
@TchakTchak
Alors le lait s’écoule le long de la fourrure.
Oui c’est un mammifère primitif. Les premiers mammifères étaient sur le même modèle avec le lait qui coulait dans la fourrure..
Ce qui montre que le Dieu chrétien, censé être capable de miracles, ben il n’en fait pas dans la nature...
La nature progresse lentement pas à pas... et le finalisme chrétien passe aussi aux oubliettes quand on étudie un tant soit peu la question..
Par exemple le vol des oiseaux n’est pas né par finalité pure mais par tâtonnements, les plumes servaient au début essentiellement à se protéger du froid.. Et il y a eu une longue période de plumes sans vol.
-
TchakTchak
18 novembre 2024 15:00
@Gollum
Oui c’est un mammifère primitif. Les premiers mammifères étaient sur le même modèle avec le lait qui coulait dans la fourrure..
Je n’étais pas au courant. C’est vrai que les tétons, c’est sympa, même pour les adultes.
-
yoananda2
18 novembre 2024 15:14
@Gollum
Parce que pour moi conscience de soi veut dire conscience tout court. Bref conscience phénoménale d’un être vivant.
Autant je comprends qu’un éléphant, ou un dauphin, puisse passer le test du miroir, autant avec une IA j’ai du mal..
aie. Je manque de temps. Je vais faire court.
Je ne sais pas si tu as une conscience. Je sais que moi j’en ai une. Subjectivité oblige.
Entre humain on peut discuter, donc on est assez sûr que les autres ont une conscience aussi.
Mais les animaux, ne parlent pas. Donc, comment tester s’ils ont une conscience phénoménale comme nous ?
On peut pas.
Donc on utilise un "proxy", un truc qu’on se dit que si on passe le test on doit sûrement avoir une conscience.
Un bébé ne passe pas le test du mirroir, c’est à partir d’un certain age, mais il a certainement une conscience bien avant.
C’est imparfait. C’est juste qu’on n’a pas eu de meilleure idée.
Mais un poulpe, il doit s’en battre les tentacules d’avoir un mirroir en face de lui.
Donc ce qu’on appelle le "test du mirroir" a été adapté, ou du moins, certains essayent d’adapter pour chaque espèce animale.
Pour une IA, c’est pareil, il faut adapter.
Une IA actuelle, peut percevoir via une image (ça évolue rapidement). Donc le test consiste à prendre une photo d’écran de la discussion qu’on a avec une IA et de lui demander ce qu’elle voit. Et elle reconnait que c’est la discussion en cours et que c’est elle qui réponds.
C’est la déclinaison IA du test du mirroir.
Il y a des robots... je ne sais pas si c’est un fake donc j’en ai pas parlé, qui semblent passer le test du mirroir pour de vrai, et c’est très très perturbant de voir leur réaction ... mais j’en ai pas parlé parce que je n’ai pas vérifié cette info. Si c’est vrai, c’est encore plus pire.
Mais pour moi le premier test avec les photos d’écran, c’est de la conscience de soi.
Pas de la conscience phénoménale, l’IA n’a aucun vécu, aucun ressentit, elle ne souffre pas. La "conscience de soi", c’est une fonction cognitive. Les IA le passent. C’est un pas de plus.
c’était moins court que prévu... mais ça n’aurait pas eu de sens sinon.
-
yoananda2
18 novembre 2024 15:15
@TchakTchak
Et quand c’est un fil qui se casse ?
Ou alors un véhicule sauteur. Mais s’il sert à transporter des oeufs, ça ne va pas le faire.ça c’est ce qu’on appelle l’intelligence générale. Il n’en est pas question dans ce débat, en tout cas, pas de ma part. Je fais la distinction entre les 2.
-
yoananda2
18 novembre 2024 15:17
@TchakTchak
De quoi s’amuser avec les fourmis : intelligence personnelle ou collective ? Intelligence distribuée, comme on dit, alors conscience distribuée aussi ?
Intelligence distribuée oui j’en ai déjà parlé. Conscience distribuée ? aucune idée. Possible, mais difficile à établir.
Et Dame Nature, et l’Univers.... Peut-on parler de conscience et intelligence d’une galaxie ? A quoi cela ressemblerait ?
Je ne sais pas. Moi j’aimerais que ça existe. Mais une galaxie à priori ne prends aucune décision, donc c’est difficile de se dire qu’elle a plus de conscience qu’un caillou ... la conscience semble jouer un rôle dans la délibération. Sinon du point de vue évolutif, on ne sait pas expliquer sa présence.
-
Gollum
18 novembre 2024 15:36
@yoananda2
Ok, mais cette reconnaissance de la discussion en cours, c’est de l’émergent ou du programmé ?
Car si c’est de l’émergent c’est bluffant quelque part. Ceci dit tu dissocies donc test du miroir et conscience phénoménale (consciente de soi) donc ?
Bon pourquoi pas.. c’est le terme "conscience de soi" qui me semble assez problématique, faudrait inventer autre chose car on a la sensation qu’il s’agit de conscience phénoménale et donc ça a quelque chose d’un peu choquant..
-
yoananda2
18 novembre 2024 16:27
@Gollum
Ok, mais cette reconnaissance de la discussion en cours, c’est de l’émergent ou du programmé ?
émergent. La seule chose qui soit programmée dans les IA type chatbot ce sont les réseaux de neuronnes, tout le reste est émergeant.
Ce qui disent qu’elles en font que répéter ce qu’il y a sur le net ne comprennent pas ce qu’il y a dans les IA actuelles.
C’est pour ça que c’est très différent des trucs comme les IA d’échecs car, eux, ont été programmés dans leur immense majorité, mais, il y a tout de même (de mémoire, faudrait que je relise) une partie apprentissage, spécifique de l’intelligence (qu’on nomme IA faible parce que c’est pas émergeant pour le coup). Pareil pour le Go.
On est loin des anciens systèmes experts (qui eux étaient programmés pour le coup, sans aucune émergence).
Car si c’est de l’émergent c’est bluffant quelque part.
Oui.
Ceci dit tu dissocies donc test du miroir et conscience phénoménale (consciente de soi) donc ?
Oui. De toute manière, la conscience phénoménale, elle se dissocie de beaucoup de processus cognitifs, y compris dans l’humain. Le livre "le code de la conscience" de Stanislas Dehaene le montre très bien.
Il y a plein de processus cognitifs en nous qui n’ont pas besoin de la conscience phénoménale, qui se font de façon inconsciente.
C’est l’une des raisons pour lesquelles c’est impossible de lier celle ci à l’intelligence... parce que plein de trucs "intelligents" ne nous se font sans conscience (phénoménale).
Sans parler donc de l’intelligence distribuée.
La conscience d’accès, conscience de soi, et d’autres sont des trucs qui se font sans conscience phénoménale. Je ne pourrais pas citer de mémoire et peut être que je déforme, mais à la lecture de Dehaenne ça m’a semblé clair.
J’avait été étonné de cette distinction à l’époque, mais ses travaux sont non seulement des références mondiales, mais très convaincants.
Je recommande leur lecture (même si je ne suis pas d’accord avec lui quand il dit que le difficile problème sera dissolu plutôt que résolu).
-
Gaspard Delanuit
18 novembre 2024 23:38
@TchakTchak
Je l’accepte comme une extension possible, pas comme la définition principale, ni surtout comme une définition exclusive. La définition principale en langue française est : "faculté de comprendre"."Et ce paragraphe ajouté est l’intelligence qui consiste à pouvoir s’adapter aux situations pour parvenir au résultat. C’est celle que vous aviez déjà contesté en disant que c’était la définition anglo-saxonne et réductrice de l’intelligence. Maintenant, vous l’acceptez, soit."
-
Gaspard Delanuit
19 novembre 2024 00:36
@TchakTchak
"Une voiture sans pilote connectée à un réseau numérique peut se déplacer d’un point à un autre en s’adaptant aux situations rencontrées dans son parcours. Elle satisfait aux définitions des deux premiers items, et, semble-t-il, du troisième item du paragraphe que vous avez rajouté.
Comment dire que cette voiture n’est pas intelligente d’après ce paragraphe ?"
Deux réponses peuvent être apportées à votre question :
> Cette voiture n’est pas intelligente parce qu’elle n’a pas de "comportement", pas "d’adresse", pas "d’habileté", pas "d’intention" de parvenir à un certain "résultat". Elle n’est pas intelligente pour la simple raison qu’elle n’est pas. Ce n’est pas un être. Et ce n’est pas non plus un corps. La définition "Par extension. Aptitude à adapter son comportement à une situation nouvelle, adresse qu’on montre dans une situation donnée, habileté dans le choix des moyens qu’on emploie pour parvenir à un certain résultat." concerne de toute évidence, par la manière dont elle est écrite, un être ; pas nécessairement un être humain, mais un être capable de se fixer un certain résultat, donc capable d’intentionnalité et de stratégie.
> La voiture sans pilote s’adaptera seulement aux situations prévues pas son programmateur, elle sera incapable de s’adapter à une situation nouvelle. Je sais qu’on prétend le contraire, mais toutes les prétendues preuves que j’ai examinées à ce sujet étaient des falsifications. La voiture sans pilote correspond au modèle du thermostat, en plus élaboré. Le thermostat d’un radiateur ou d’un réfrigérateur permet aussi d’adapter la marche et l’arrêt selon la température extérieure. Il s’agit d’une adaptation mécanique précise mais entièrement déterminée par un programme fixé à l’avance.
-
TchakTchak
19 novembre 2024 07:15
@Gaspard Delanuit
.La définition principale en langue française est : "faculté de comprendre".
Et "comprendre" pour l’Académie Française, c’est "saisir par l’intelligence". Dans une boucle on peut avancer sans fin....Cette voiture n’est pas intelligente parce qu’elle n’a pas de "comportement", pas "d’adresse", pas "d’habileté", pas "d’intention" de parvenir à un certain "résultat". Elle n’est pas intelligente pour la simple raison qu’elle n’est pas.
Et la voiture n’a pas d’intentionnalité, je peux entendre tout ça..Le Larousse et le Robert sont un peu moins paresseux que l’Académie Française en parlant d’IA comme simulation de certains traits de l’intelligence humaine.Vous êtes quand même un peu culotté de ressortir votre thermostat de radiateur :Le thermostat d’un radiateur ou d’un réfrigérateur permet aussi d’adapter la marche et l’arrêt selon la température extérieure. Il s’agit d’une adaptation mécanique précise mais entièrement déterminée par un programme fixé à l’avance.
Vous évacuez le problème en réduisant à de la mécanique et à un horodateur. C’est faux. Le numérique n’est pas de la mécanique, c’est de l’encodage, de la programmation permettant de saisir et conduire des machines, et d’utiliser des capteurs pour traiter des situations, Le numérique est de la circulation d’informations pour les recueillir, prescrire et fabriquer, via des machines, absorbant des systèmes de plus en plus vastes et complexes dans nos sociétés de vivants humains. La voiture automatique est un terminal, un passif, piloté par le numérique, qui est son actif.Ce simili de l’intelligence humaine est ambivalent : il augmente les capacités humaines comme il s’empare d’elles.L’intelligence n’est pas une ontologie, elle est produite par une source, et peut-être aussi par un ensemble d’interactions.La conscience elle-même est une formation dans l’intangible. Un bébé humain ne comprend rien à sa naissance, il ne sait même pas qu’il a des yeux qui voient quelque chose. C’est son cerveau reptilien qui gère, avec les sensations utilisées pour (faire) réagir. C’est avec l’accumulation d’images et situations mémoires, qu’il commence un soi (plus exactement un moi), une conscience, pour interagir, puis agir, puis élaborer. J’envisage même ici que le bébé ne naît pas intelligent, elle vient avec la formation de sa conscience et le jeu des interactions, émotionnelles, mécaniques, situationnelles.Entre l’intelligence humaine et le simili numérique, on rentre dans des sables mouvants.Je suis en entre deux, incertain sur ce sujet. Car les pensées et concepts élaborés qui ont fait notre langage et nos existences humaines ne sont plus à jour avec l’émergence du monde numérique. C’est peut-être plus qu’une adaptation, une redéfinition de la société qui et en cours. Et si on ne s’occupe pas conceptuellement, voire paradigmatiquement du numérique, c’est lui qui s’occupe (déjà) de nous. -
TchakTchak
19 novembre 2024 07:24
@Gollum
La nature progresse lentement pas à pas...Par exemple le vol des oiseaux n’est pas né par finalité pure mais par tâtonnements, les plumes servaient au début essentiellement à se protéger du froid..Oui, et tout avance par tâtonnements, l’Univers comme l’existence humaine. C’est pour cela que les questions entre le hasard et la nécessité, du libre arbitre, de la finalité, me semblent complètement abstraites. Ce sont des contraintes internes et externes, psychiques ou matérielles pour les humains, avec lesquelles les entités arrivent à organiser ou qu’elles arrivent à repousser. Sachant qu’au bout ça disparaît.Pour la Terre, on voit bien avec les six ères géologiques, que les animaux ont mis du temps à sortir des océans, qu’ils ont évolué du petit au maousse, peut-être un peu trop pour les végétaux que les dinosaures mangeaient en grande quantité.Petit à petit, Dame nature améliore son œuvre, qui ressemble à la démarche essai-erreur. Et les humains... -
nono le simplet
19 novembre 2024 07:54
@Gollum
les plumes servaient au début essentiellement à se protéger du froid
voui ... pareil pour les couettes qui ne volent toujours pas ... -
Gaspard Delanuit
19 novembre 2024 08:51
@TchakTchak
Pas seulement pour ce dictionnaire. Tout dictionnaire de n’importe quelle langue est nécessairement une boucle, puisque les mots s’expliquent les uns avec les autres, les uns par les autres. La boucle est simplement plus ou moins longue. L’infini se définit par ce qui n’a pas de limite et la limite se définit par ce qui n’est pas infini. Le véritable "sens" des mots et des choses est toujours intuitif, pas descriptif. D’où l’importance des exemples d’utilisation présents dans les dictionnaires. D’ailleurs nous n’apprenons pas le sens des mots de notre langue maternelle en lisant des dictionnaires mais en écoutant, en observant et en comprenant. Et tout est plus ou moins comme ça, surtout les concepts premiers. Bien sûr, les mots qui décrivent des détails et des accessoires, par exemple les parties d’un mécanisme, relèvent davantage de la pensée analytique mais ils n’ont aucune portée philosophique ou scientifique ; et d’ailleurs même ces "petits mots" doivent se référer au final à des "grands mots" qui ne pourront pas être soumis à une analyse. Comment pourriez-vous analyser le mot "indicible" ? Le mot "indéfinissable" ? Ou simplement "liberté" ? Soyons francs et simples : le mot "intelligence" n’a pas besoin de définition pour une personne intelligente et sincère dans une conversation intelligente et sincère. Quand on commence sur un forum à devoir se demander quelles sont les définitions des mots racines renvoyant aux idées intuitives fondamentales auxquelles se rattachent toutes les définitions, c’est que le dialogue est déjà mort. On peut demander la définition du mot "vilebrequin" mais le mot "conscience" n’a pas besoin de définition pour des personnes conscientes. Et les personnes qui manquent d’intelligence et de conscience, qui vont toujours réduire la philosophie à de la l’ingénierie, ne seront pas plus intelligentes ou conscientes en regardant les définitions de ces termes dans un dictionnaire. Quand vous aimez quelqu’un, vous n’avez pas besoin de dictionnaire pour comprendre ce que signifie aimer. Si la personne que vous aimez a besoin d’un dictionnaire pour comprendre ce que vous dites lorsque vous lui dites que vous l’aimez, c’est qu’elle n’est ni aimante ni aimable, point barre. Vous ne vous en sortirez pas en essayant de lui "expliquer" ou de lui "décrire" ce qu’est l’amour. Fuyez, tout simplement. Si sur un forum quelqu’un vous déclare ne pas savoir ce que signifie "comprendre" cela signifie simplement qu’il n’est pas sincère et/ou que vous ne pouvez de toute façon pas dialoguer avec lui.Et "comprendre" pour l’Académie Française, c’est "saisir par l’intelligence". Dans une boucle on peut avancer sans fin...
-
yoananda2
19 novembre 2024 09:09
@TchakTchak
d’accord avec votre post. qq commentaires.Et "comprendre" pour l’Académie Française, c’est "saisir par l’intelligence". Dans une boucle on peut avancer sans fin...
hé oui, j’ai soulevé ce problème hier en répondant à micnet, content de voir que je ne suis pas le seul à l’avoir identifié.
Et la voiture n’a pas d’intentionnalité, je peux entendre tout ça.
J’ai déjà soulevé ce point aussi (plusieurs fois). Il faut séparer intelligence, "conscience" (phénoménale), vie, et agentivité (l’intentionnalité en fait partie). Les IA n’ont pas d’agentivité. Rien à voir avec l’intelligence.
Tous ces aspects sont associés dans le biologique.
C’est son cerveau reptilien
Je précise que c’est une métaphore. Cette théorie a été réfutée et n’a plus cours aujourd’hui.
-
Gaspard Delanuit
19 novembre 2024 09:11
@TchakTchak
"Vous êtes quand même un peu culotté de ressortir votre thermostat de radiateur"
"Le numérique est de la circulation d’informations"
Je vous invite à considérer les implications des informations et des raisonnements que vous trouverez sur cette page.
https://interstrate.com/2016/10/18/cybernetique-et-theorie-des-systemes/
"Je suis en entre deux, incertain sur ce sujet."
L’incertitude n’est pas mauvaise en soi, c’est le signe d’une ouverture d’esprit. Cependant, pourriez-vous me dire si cette incertitude repose sur vos expériences personnelles avec l’informatique... ou seulement sur ce que vous avez entendu et lu de plus ou moins fascinant sur le sujet ?
-
yoananda2
19 novembre 2024 09:14
@TchakTchak
Petit à petit, Dame nature améliore son œuvre,
la, on entre dans une notion ambigue. L’idée d’amélioration suppose la téléologie. Cette notion est irrecevable chez la majorité des scientifiques actuel, qui s’en passent très bien au prix de grosses contorsions mentales.
Je suis plus réservé. Je ne sais pas s’il y a un "but" contre lequel on pourrait mesure "l’amélioration" ... mais en tout cas notre cerveau est très tenté de voir une direction dans les forces de la nature.
Pour l’instant, j’estime qu’on ne peut pas trancher cette question dans un sens ou dans l’autre.
Donc je dirais, est-ce que dame nature "améliore" son oeuvre ? ptet ben qu’oui, ptet ben qu’non.
Si elle ne l’améliore pas, alors, on est juste dans un univers, on doit se démerder comme on peut. Il n’y a pas de dame nature qui veille au grain, on n’est pas une "anomalie" qu’elle va corriger.
Si elle améliore, alors, on n’est sûrement qu’un état temporaire avant la prochaine étape.
-
Gollum
19 novembre 2024 09:25
@Gaspard Delanuit
Cependant, pourriez-vous me dire si cette incertitude repose sur vos expériences personnelles avec l’informatique... ou seulement sur ce que vous avez entendu et lu de plus ou moins fascinant sur le sujet ?
Et vous vos certitudes elles viennent de quel ouvrage que vous avez lu ? Rudolf Steiner ? Huummm ?
-
yoananda2
19 novembre 2024 09:26
@Gollum
Pas forcément. Les choses s’"améliorent" parce qu’à force de tâtonnements la vie s’auto-complexifie... et ce sans téléologie ou but.
tu as mis "amélioration" entre guillemet. C’est nous qui disons que ça s’améliore. L’univers, s’il faut, pour lui, il considère que c’est l’inverse, que ça empire (avec la vie, la conscience, l’intelligence, toussa toussa). Ou bien il s’en branle.
C’est nous qu’on dit que l’humain est une amélioration comparé au dinosaure.
Et pour classifier, il faut une flèche, une direction, donc une téléologie.
D’ailleurs tu le dis toi même, ta télélologie, c’est la complexification : plus complexe = plus mieux.
Ben c’est ça une téléologie
-
Gollum
19 novembre 2024 09:36
@yoananda2
C’est nous qui disons que ça s’améliore.
Bien sûr. Il n’empêche. Cela s’améliore bien pour nous, globalement, et la téléologie c’est nous même qui la fournissons en raison même de nos facultés psychiques..
Qu’il n’y ait pas de téléologie au niveau cosmique, pourquoi pas, personne n’en sait rien, mais au niveau humain, être pensant, ça s’améliore parce qu’on fait tout pour..
Même s’il peut y avoir des régressions temporaires, ou un gros coup de frein cosmique (supernova qui explose et qui grille tout, etc)
Bien sûr ces améliorations sont souvent temporaires, on pourrait donc dire, au global, il se passe rien..
Mais quand il y a psychisme (et c’est valable pour tout vivant) il y a toujours tentatives d’améliorer les choses.. Les migrations animales sont des tentatives d’améliorer les choses.. Fait trop froid ici, hop, au lieu d’y rester à claquer de froid on va voir ailleurs... ou bien on se couvre de plumes.. comme mes dinosaures à plumes.. etc, etc..
-
Gaspard Delanuit
19 novembre 2024 09:44
@TchakTchak
"Le numérique" n’est pas un ange qui flotte dans quelque dimension éthérée. Les processus numériques sont opérées par des machines à encoder sur un mode de représentation binaire. C’est donc mécanique aussi sûrement qu’un chat est un chat. Et comme c’est de l’ingénierie, cela peut se définir et se décrire techniquement. Il n’y a rien de mystérieux ou de métaphysique dans cette boîte."Le numérique n’est pas de la mécanique, c’est de l’encodage"
https://www.yildizoglu.fr/infoaes/cours/node4.html# : :text=L’ordinateur%20est%20une%20machine,lesquelles%20il%20a%20%C3%A9t%C3%A9%20programm%C3%A9.
-
Gaspard Delanuit
19 novembre 2024 09:50
@Gollum
Rudolf Steiner aurait selon vous écrit un ouvrage sur "l’intelligence artificielle" plusieurs décennies avant l’invention de la machine de Turing ? Voilà un homme en avance sur son temps. Vous avez les références ?"Et vous vos certitudes elles viennent de quel ouvrage que vous avez lu ? Rudolf Steiner ? Huummm ?"
-
yoananda2
19 novembre 2024 09:52
@Gollum
oui mais généralement quand on parle de teleologie, on parle de la nature (l’univers donc), pas de nous.
Moi, à titre perso, je considère en effet que je suis un amélioration par rapport aux eukaryotes qui étaient, à une époque, le truc le plus badass de la planète.Tous les humains sont à peu près d’accord que tout ce qui précède est une amélioration, qui a aboutit, à eux !
(lol, mais c’est comme ça)Mais alors se pose la question de la "prochaine étape" de cette amélioration...
et là...
les avis divergent. -
yoananda2
19 novembre 2024 10:11
@Gollum
Ben là c’est le brouillard complet...
tu as ceux qui veulent préserver le statut quo. Le chrétien, le muzz, le républicain, était le but ultime, ça y est, c’est bon, on a réussit, on s’arrête là.
tu as ceux qui considèrent que l’homme n’a pas fini d’évoluer (mais qu’il restera humain).
tu as ceux qui considèrent que l’homme n’était qu’une étape vers autre chose (de pas forcément humain).
La téléologie ça marche surtout quand on regarde le passé.
-
Gaspard Delanuit
19 novembre 2024 10:14
@Gollum
Vous avez bien raison."Pas besoin d’IA chez Steiner pour y pomper des à-priori spiritualistes.."
-
Gollum
19 novembre 2024 10:18
@yoananda2
tu as ceux qui veulent préserver le statut quo. Le chrétien, le muzz, le républicain, était le but ultime, ça y est, c’est bon, on a réussit, on s’arrête là.
C’est si vrai. Au point que les chrétiens s’imaginent taper la discute avec papa, maman, leurs rejetons, leurs potes dans l’au-delà de telle sorte qu’il n’y a aucune différence de nature entre les deux existences.. C’est le refus de toute métamorphose.. et le refus de la mort aussi. -
Gollum
19 novembre 2024 10:31
À propos d’évolution darwinienne, certains veulent que les IA s’en occupent !...
Voir ici : https://www.youtube.com/watch?v=nY5pzXe8EQo
Décidément tout s’accélère et personne n’est à l’abri...
-
Gaspard Delanuit
19 novembre 2024 10:38
@TchakTchak
Aurélie Jean a justement fait une conférence qui remet les pendules à l’heure sur le sujet qui nous occupe ici :"C’est là que vous acceptez ou refusez le débat sur l’intelligence qui nécessite une actualisation, ce que dit bien Aurélie Jean, puisque nous sommes tous d’accord là-dessus."
https://www.youtube.com/watch?v=WSTcrL6ujsY
Note : contrairement aux remarques ignorantes énoncées sur ce fil de discussion à son sujet, Aurélie Jean n’est pas une "pauvre larguée du microcosme franchouillard".
Après son parcours universitaire, elle travaille notamment presque deux ans chez Bloomberg comme développeuse informatique sur des questions de modélisation, avant d’être nommée en septembre 2018 consultante senior par le Boston Consulting Group (...) et enseigne à la Sloan School of Management (MIT)
https://fr.wikipedia.org/wiki/Aur%C3%A9lie_Jean
-
TchakTchak
19 novembre 2024 11:23
@Gaspard Delanuit
Votre premier message est une longue digression que je laisse.A votre deuxième message, vous passez du thermostat avec horodateur à la notion de systèmes d’informations. C’est mieux. Et ça tombe bien, il y a corrélation entre échanges complexes d’informations et intelligence. Alors diagramme de Venn : un système d’informations n’est pas de l’intelligence. Mais pour estimer l’étendue d’intersection : c’est justement le fond du problème depuis le début de notre échange.Les physiciens ont ajouté à l’énergie et la matière dans l’Univers que c’est aussi de l’information et une architecture de celle-ci dans toute sa complexité. Raison pour laquelle, sans doute, un certain nombre d’entre eux s’interrogent si l’Univers ne serait pas intelligent. C’est même depuis l’irruption de l’informatique que le sujet de l’Univers comme système d’informations a émergé, d’ailleurs. Avant, c’était juste "il y a des lois physiques" et ça s’arrêtait là.Cependant, pourriez-vous me dire si cette incertitude repose sur vos expériences personnelles avec l’informatique... ou seulement sur ce que vous avez entendu et lu de plus ou moins fascinant sur le sujet ?
Comme vous, j’ai un expérience de vie et des lectures avec lesquelles de fais des analyses et forme des opinions."Le numérique" n’est pas un ange qui flotte dans quelque dimension éthérée. Les processus numériques sont opérées par des machines à encoder sur un mode de représentation binaire. C’est donc mécanique aussi sûrement qu’un chat est un chat.
Le numérique est un langage soit uniquement avec des chiffres, comme les algorithmes, soit avec toutes sortes de programmes informatiques de langage. Quand deux personnes discutent entre elles, elles ne pratiquent pas la mécanique, mais du langage. Quand des machines interagissent entre elles à distance, c’est par du langage. -
TchakTchak
19 novembre 2024 11:38
@yoananda2
Petit à petit, Dame nature améliore son œuvre,
la, on entre dans une notion ambigue. L’idée d’amélioration suppose la téléologie. Cette notion est irrecevable chez la majorité des scientifiques actuel, qui s’en passent très bien au prix de grosses contorsions mentales.
Il y a une biosphère sur la Terre, pas de vie sur Mars. A la comparaison, n’importe qui dira que la Terre est une planète plus riche que Mars.Si vous deviez inventorier l’existence de la végétation et du bestiaire sur 5 ha parmi les dunes de sable du Sahara, le résultat tiendrait peut-être sur une feuille. Si vous aviez à faire la même chose dans la forêt amazonienne, au bout d’un mois, vous n’auriez sans doute pas fini votre travail. Stérile, fertile : il y a différence de richesse.Durant le Cambrien, (541 – 485 millions d’années) des premiers animaux qui sont autre choses que des cellules apparaissent : arthropodes, mollusques, ancêtres d’oursins et étoiles de mer. Aucun animal sur les terres émergées. Au Trias (252 à 201 millions d’années), les animaux occupent les océans, les terres et les airs, les espèces sont très variées avec toutes sortes de caractéristiques déployées.Pas besoin de téléologie pour expliquer cela, le tâtonnement avec le temps suffit.Par contre, cela induit l’hypothèse, très recevable pour moi, que Dame Nature a une intelligence, une conscience, un tout, ou autre dénomination, pour changer une bonne partie des espèces après chaque extinction. Une hypothèse peut-être encore trop dure à envisager pour des scientifiques matérialistes.. -
Gaspard Delanuit
19 novembre 2024 12:13
@TchakTchak
"Comme vous, j’ai un expérience de vie et des lectures avec lesquelles de fais des analyses et forme des opinions."
Bien sûr, mais est-ce que votre "entre-deux" vient d’une sensation que vous ressentez en utilisant, par exemple un robot conversationnel, une aide à la conduite automobile, ou je ne sais quoi d’autre nommé "objet intelligent" ? Ou bien d’histoires que vous avez entendues ou lues ? Je vous pose cette question parce qu’il y a de nombreux mensonges qui circulent à ce sujet. Lorsqu’on démonte les supercheries et les exagérations, l’IA n’a plus rien de troublant.
Je ne suis pas sûr de comprendre le sens ou la pertinence de cette phrase. La télécommande existe et c’est pratique. Et alors ?"Quand des machines interagissent entre elles à distance, c’est par du langage."
-
TchakTchak
19 novembre 2024 12:30
@Gaspard Delanuit
Ben, ça, c’est ce qui disent votre expérience de vie et vos lectures. Quand je regarde la vidéo mise en lien au dernier message de Gollum, ça me trouble. Mais vous, peut-être pas.Je vous pose cette question parce qu’il y a de nombreux mensonges qui circulent à ce sujet. Lorsqu’on démonte les supercheries et les exagérations, l’IA n’a plus rien de troublant.
Le numérique est un moyen d’échange d’informations et d’injonctions. Des appareils sont reliés entre eux par ce moyen, comme le GPS, ou ce qu’on appelle "l’Internet des Objets" (IoB).Je ne suis pas sûr de comprendre le sens ou la pertinence de cette phrase. La télécommande existe et c’est pratique. Et alors ?
-
Gaspard Delanuit
19 novembre 2024 12:41
@TchakTchak
Bien sûr, c’est ce que nous faisons en ce moment, grâce à cette machinerie complexe."Le numérique est un moyen d’échange d’informations et d’injonctions."
-
TchakTchak
19 novembre 2024 12:52
@Gaspard Delanuit
Oui, mais les machines aussi le font, pas que les humains. Je ne sais pas, vous avez peut-être une méconnaissance complète des réalités du numérique (ou de l’IA", que j’évite d’employer). Ce n’est pas juste un sujet de philo.Bien sûr, c’est ce que nous faisons en ce moment, grâce à cette machinerie complexe.
Après avoir vu la vidéo mise en lien par Gollum, vous vous sentez toujours serein sans rien qui vous trouble avec le numérique ?
-
Gaspard Delanuit
19 novembre 2024 12:52
@TchakTchak
Je l’ai vue (et bien d’autres), et non, cela n’a rien de troublant quand on comprend comment ça fonctionne. Vous allez vous y habituer, comme aux précédentes applications de l’informatique."Quand je regarde la vidéo mise en lien au dernier message de Gollum, ça me trouble. Mais vous, peut-être pas."
-
TchakTchak
19 novembre 2024 12:57
@pemile
Oui : IoT, je me suis trompé.
L’IoB, c’est l’Internet of Bodies (des corps). Des corps pucés, parfois même à plusieurs endroits reliés à un environnement d’objets connectés. C’était par exemple une annonce prospective de Deloitte pour les grandes entreprises. Ça n’avance pas trop, je ne vais pas m’en plaindre.
-
yoananda2
19 novembre 2024 13:02
@TchakTchak
Par contre, cela induit l’hypothèse, très recevable pour moi, que Dame Nature a une intelligence, une conscience, un tout, ou autre dénomination, pour changer une bonne partie des espèces après chaque extinction.
Oui tout à fait, et je vois de nombreux scientifiques en parler, avec des termes différents parfois, et même explicitement.
C’est un débat différent de la question téléologique.
Une hypothèse peut-être encore trop dure à envisager pour des scientifiques matérialistes..
Oui, ceux qui sont restés coincés à l’époque de Descartes et Newton et qui sont monistes matérialistes (il n’existe que la matière). Certains pensent même que la conscience est une illusion ! lol. Mais c’est en train de changer heureusement. Cf le paragraphe précédent.
Mais faut comprendre aussi : cette histoire d’intelligence de la nature est "suspecte" parce que de Dame nature on glisse vite à Dieu le père, au petit jésus d’amour et autres superstitions.
Au final, toute la question consiste à bien comprendre cette intelligence "autre".
Et ça rejoint, quelque part, la quête de la vie sur Mars : c’est aussi une manière de se rapprocher de cette intelligence "autre".
Et l’éthologie aussi.
-
TchakTchak
19 novembre 2024 13:03
@Gaspard Delanuit
Comme on s’habitue aux drones de surveillance à Paris. Il y a 10 ans, cela aurait été encore écrit dans un roman dystopique pour esprits impressionnables. Les caméras de reconnaissance faciale des passants dans la rue ont été installées pour les JO de cette année et n’ont pas été démontées.
Mais oui, on s’habitue à tout, c’est même comme ça que ça marche. -
micnet
19 novembre 2024 13:08
@tous
Au vu de ces échanges qui, de mon point de vue ont été fructueux, je constate une chose : rien, absolument rien ne démontre à ce stade que l’IA puisse être qualifiée « d’intelligente » au regard de la définition actuelle officielle (qui, sauf erreur de ma part, se limite au dictionnaire). Ce qui ne signifie pas pour autant qu’on n’ arrive pas un jour à le démontrer mais clairement aujourd’hui ça n’est pas le cas. Aussi ceux qui affirment qu’une IA est intelligente (et je ne parle même pas de « consciente ») ne sont pas dans une démarche rationnelle mais se situent dans la croyance. Il n’y à aucun mal à être croyant dans quelque domaine que ce soit mais à condition de l’assumer comme tel et ne pas prétendre à être rationnel sur un sujet alors que ce n’est pas le cas. Me concernant, je n’ai pas d’avis tranché. Je ne me prétends même pas être dans un « entre-deux » car j’estime ne pas maîtriser suffisamment le sujet pour me faire une réelle idée à ce stade. La seule chose qui me parait clair sur ce sujet, c’est que rien ne l’est aujourd’hui…
-
TchakTchak
19 novembre 2024 13:10
@yoananda2
Ben s’il y a un dieu pour l’univers, une déesse pour la Terre, un dieu pour les océans, un(e) autre pour les forets.... Ça s’appelle du polythéisme, je crois, cela ne va pas me perturber...Mais faut comprendre aussi : cette histoire d’intelligence de la nature est "suspecte" parce que de Dame nature on glisse vite à Dieu le père, au petit jésus d’amour et autres superstitions.
Sinon, globalement d’accord avec votre post. La téléologie, ca ne m’a jamais parlé et les chrétiens, je m’en fiche.
-
Gaspard Delanuit
19 novembre 2024 13:11
@TchakTchak
Les machines se transmettent des informations parce qu’elles sont construites et programmées par des humains pour le faire. Heureusement que ça marche ! Et alors ?"Oui, mais les machines aussi le font, pas que les humains."
J’utilise pour mon activité tous les systèmes algorithmiques (IA) disponibles. Une fois passé le côté bluffant parce que nouveau, ça devient un outil comme un autre. Question intelligence : zéro. C’est con comme un machine, mais très pratique (faut quand même pas s’y fier et toujours vérifier).Je ne sais pas, vous avez peut-être une méconnaissance complète des réalités du numérique (ou de l’IA", que j’évite d’employer). Ce n’est pas juste un sujet de philo.
C’est toujours la méconnaissance complète ou partielle de son fonctionnement qui fait qu’on s’étonne des résultats d’une machinerie complexe.
Après avoir vu la vidéo mise en lien par Gollum, vous vous sentez toujours serein sans rien qui vous trouble avec le numérique ?
Ce qui m’étonne, c’est que vous soyez étonné. Expliquez-moi, je voudrais comprendre.
-
yoananda2
19 novembre 2024 13:12
@TchakTchak
Mais oui, on s’habitue à tout, c’est même comme ça que ça marche.
c’est inévitable Mr Anderson...
les jeunes qui naissent dans le monde avec surveillance par drone n’ont pas à "s’habiter", c’est juste la norme pour eux. Ils devront s’habituer à autre chose, comme nous nous habituons aux changements de notre époque.
Un gus du moyen age qui verrait notre monde, ça serait terrible pour lui et vice versa. Très difficile de s’habituer.
Je trouve perso qu’il faut, à la fois s’habituer (on n’a pas toujours le choix de toute manière), et conserver le sentiment d’étrangeté du monde, ne pas s’habituer (ça on a le choix).
-
TchakTchak
19 novembre 2024 13:15
@pemile
C’était avec cet IoB là, que j’avais confondu :
https://iatranshumanisme.com/2021/10/18/quest-ce-que-internet-des-corps-iob/Après cet acronyme peut renvoyer à autre chose, celui des behaviors aussi...
-
yoananda2
19 novembre 2024 13:16
@TchakTchak
Ben s’il y a un dieu pour l’univers, une déesse pour la Terre, un dieu pour les océans, un(e) autre pour les forets.... Ça s’appelle du polythéisme, je crois, cela ne va pas me perturber...
ça pourrait aussi rentrer dans de l’animisme aussi (je connais moins, mais je pense qu’ils ont des "esprits" de différentes puissances qui ont le même pouvoir symbolique que les polythéismes).
Le polythéisme me convient plutôt bien personnellement. Tant qu’on comprends que les "Dieux" sont des personnages anthropomorphiques (ou zoomorphiques) qui symbolisent des forces de la nature, pour moi, c’est raccord avec la démarche scientifique et les connaissances actuelles.
C’est une manière d’aprehender le mystère.
Et le mystère n’est en rien éliminé par la science, bien au contraire, je trouve même qu’il est, certe repoussé, mais revivifié.
-
Gaspard Delanuit
19 novembre 2024 13:18
@TchakTchak
Ah, les applications technologiques du numérique peuvent être terrifiantes, cela ne fait aucun doute. Si c’est cela que vous appelez "troublant", alors j’ai peut-être mal compris vos messages précédents. Ce qui est inquiétant, au fond, c’est la docilité et la passivité des populations."Comme on s’habitue aux drones de surveillance à Paris. Il y a 10 ans, cela aurait été encore écrit dans un roman dystopique pour esprits impressionnables. Les caméras de reconnaissance faciale des passants dans la rue ont été installées pour les JO de cette année et n’ont pas été démontées.
Mais oui, on s’habitue à tout, c’est même comme ça que ça marche."
-
TchakTchak
19 novembre 2024 13:28
@Gaspard Delanuit
C’est en se sens là que je parlais de "trouble", mais si je n’en suis pas surpris. Le numérique pour créer des protéines générant de nouvelles fonctions biologiques aux créatures vivantes, cela, je n’aime pas du tout.Ah, les applications technologiques du numérique peuvent être terrifiantes, cela ne fait aucun doute. Si c’est cela que vous appelez "troublant", alors j’ai peut-être mal compris vos messages précédents. Ce qui est inquiétant, au fond, c’est la docilité et la passivité des populations.
Sur la docilité des populations, ce ne sont pas elles en tant que généralité qui font de l’"IA", mais les dirigeants, gestionnaires qui conduisent les sociétés humaines. La malfaisance commence là, pas parmi les populations qu’on "habitue", pour qui on applique la tactique permanente du fait accompli. Avec les applaudissements médiatiques permanents qui expliquent ce que pense l’opinion publique.Je vais me coucher.
-
Gaspard Delanuit
19 novembre 2024 13:46
@TchakTchak
Dialectique du maître et de l’esclave. Si l’esclave est prêt à mourir pour être libre, il n’y a plus de maître.
La population accepte la bergerie numérique et consent à sa moutonnerie chaque jour. La preuve en est que certains béliers noirs résistent. Si quelques-uns résistent, il peut être reproché à ceux qui ne résistent pas de ne pas résister (peut-être simplement par paresse, par mollesse d’âme, par le fait de choisir le confort et la facilité plutôt que la liberté, et non par manque de courage devant un danger réel).
-
TchakTchak
20 novembre 2024 02:50
@yoananda2
C’est son cerveau reptilien
Je précise que c’est une métaphore. Cette théorie a été réfutée et n’a plus cours aujourd’hui.
Oui, parce que c’est moi qui ai envie de garder "cerveau reptilien" : "tronc rachidien" je trouve ça repoussant et "tronc cérébral" à peine moins pire.
Bien d’accord que le cerveau triunique est maintenant trop rudimentaire. Reste que c’est utile pour première approche, même on comprend vite que c’est interdépendant qu’il ne s’agit de fixer des frontières. C’est bien le tronc cérébral qui joue le rôle crucial dans la gestion des fonctions automatiques et vitales de notre organisme, y compris lorsque nous dormons. Il gère la respiration, les battements cœur, la pression artérielle, la régulation de la température, utiles au métabolisme. Y compris le déclenchement de réflexes à caractère vital.
C’est pour cela que je m’interroge si le bébé humain a une conscience à ses premiers jours.Les autres mammifères ont une "programmation" plus avancée à la naissance : ils cherchent le téton très rapidement après expulsion. Ceux à pattes courtes (chiens, chats, ours...) rampent vers les mamelles. Ceux à pattes longues (vaches, chevaux, cerfs...) se mettent debout tout de suite. Ils ont ensuite cette façon de mettre la tête en avant quelques instants, les yeux dans le vide. Forcément, ils sortent d’un sac serré, ils ne connaissaient pas le vide. Et ils font première expérience de leur singularité. Ensuite le vide et le dur qui a des formes... Bref, ils sont actifs.
— — -
Concernant la vie sur Mars, pour anecdote, c’est James Lovelock qui a conduit la mission demandée par la NASA pour répondre à cette question. Il a envoyé des appareils en mesure pour détecter des indices de vie (je passe les détails) : sa réponse a été : non.
Sur notre planète, c’est dans l’eau que la vie est apparue et elle a mis un temps fou à en sortir. Sur Mars, il y a des calotte glaciaires aux pôles. Mais sur Terre, ce ne sont pas les périodes glaciaires qui ont été favorables à la vie, au contraire. L’atmosphère de jadis sur Mars a pratiquement disparu, les radiations atteignait la surface. Bref, il faudrait au moins bosser à la loupe pour encore chercher.ça pourrait aussi rentrer dans de l’animisme aussi (je connais moins, mais je pense qu’ils ont des "esprits" de différentes puissances qui ont le même pouvoir symbolique que les polythéismes).
Le polythéisme me convient plutôt bien personnellement. Tant qu’on comprends que les "Dieux" sont des personnages anthropomorphiques (ou zoomorphiques) qui symbolisent des forces de la nature, pour moi, c’est raccord avec la démarche scientifique et les connaissances actuelles.
C’est une manière d’aprehender le mystère.
Et le mystère n’est en rien éliminé par la science, bien au contraire, je trouve même qu’il est, certe repoussé, mais revivifié.
Oui, je confirme qu’attribuer des dieux à des éléments naturels, c’est animiste. Il y a des restes chez moi, c’est très agréable. Les raisons à ne pas détruire les forêts sont purement matérielles (avec des Sandrine Rousseau dans le wagon). S’il y avait un dieu ou une déesse, il y aurait en plus une raison spirituelle au respect, une autre considération de la matière, un sentiment que nous ne sommes pas les seuls vivants dans un "environnement", comme on dit, un simple décor ajouté pour spectacle. Si l’écologisme a remplacé "nature" par "environnement" cela traduit bien une façon de penser. Ce n’est pas pareil d’aller se promener dans "l’environnement" que parmi des mondes habités.
Et, oui, quand le spirituel et la science ne vont pas ensemble, c’est que quelque chose ne va pas, soit en spiritualité, soit en science, soit les deux. Quand ça fonctionne ensemble, c’est un signe de bonne santé mentale des individus et sociétés.
-
TchakTchak
20 novembre 2024 03:08
@Gaspard Delanuit
Dialectique du maître et de l’esclave. Si l’esclave est prêt à mourir pour être libre, il n’y a plus de maître.
Oui, ça joue, mais on sait bien qu’une société a toujours une élite, quelle qu’elle soit.
Quand il y a malfaisance, il faut commencer par chercher qui la produit.
Je ne rentre pas dans cette propension à dire que si on a les dirigeants qu’on a, c’est la faute du populo. Ceux qui le disent ne sont pas forcément ceux qui manifestent, ou agissent en associations, comme le fait une partie de ce même populo. Les G.J. (première période) ont montré qu’il y avait du bon grain dans ce populo : justement celui que n’intéresse pas l’élite telle qu’elle est aujourd’hui et qu’il a fallu absolument éradiquer pour se préserver. Cette posture révèle souvent le refus de remettre en cause l’élite, car ce sont des diplômés, intelligents, malalfas, ont réussi, ont le pouvoir, l’argent, la vie comme ils veulent qui fait envie : et du coup, la malveillance, ça ne compte plus.Pour le numérique, cela développe d’autres types de réponses de se demander si c’est bien ou pas bien, ou se demander qui le gère et pourquoi...
-
Gaspard Delanuit
20 novembre 2024 10:00
@TchakTchak
Bien sûr. Mais le remède à la malfaisance ne vient jamais de ceux qui la produisent. Le remède vient (ou pas) de ceux qui décident de ne plus la subir."Quand il y a malfaisance, il faut commencer par chercher qui la produit."
Oui et se demander qui a intérêt à faire croire que c’est "intelligent" et pourquoi.Pour le numérique, cela développe d’autres types de réponses de se demander si c’est bien ou pas bien, ou se demander qui le gère et pourquoi...
-
Gollum
20 novembre 2024 10:10
@Gaspard Delanuit
se demander qui a intérêt à faire croire que c’est "intelligent" et pourquoi.
Bof.. Cette phrase pour moi c’est de la paranoïa complotiste..Il s’agit juste d’un abus de langage par pragmatisme pur faut pas chercher ailleurs..
Tout ce qu’on demande aux IA c’est de l’efficacité en espérant qu’elles ne prennent pas trop d’autonomie au point qu’on n’arrive plus à les contrôler.
S’imaginer qu’on complote par derrière pour persuader les gens que les IA sont réellement intelligentes donc vivantes c’est du délire. J’en vois pas l’intérêt d’ailleurs.
-
yoananda2
20 novembre 2024 10:23
@Gollum
S’imaginer qu’on complote par derrière pour persuader les gens que les IA sont réellement intelligentes donc vivantes c’est du délire.
personne ne dit que les IA sont vivantes, mais intelligentes.
personne ne dit que les IA sont intelligentes "comme nous" mais qu’elles ont une forme d’intelligence (elles "comprennent", et la vidéo de Mr Phi à ce sujet est vraiment bien).
La raison est simple.
Les IA peuvent rendre certains services équivalents à ceux d’une personne intelligente.
Alors je nuance un peu cette affirmation : pour l’instant, les IA sont très "pavloviennes", disons, à 95% ? (je ne sais pas exactement). Le réflexe de Pavlov, c’est un embryon d’intelligence. En gros beaucoup de mémoire, et une intelligence textuelle, de la reconnaissance de pattern, du systeme 1.
Je nuance ma nuance : depuis o1, de plus en plus d’IA apprennent à raisonner. C’est l’équivalent du systeme 2 de Khaneman.
La, on se rapproche de l’intelligence "normale". Et ce, de manière très rapide.
Les prochaines versions, celles qui vont débouler dans quelques ... mois ? semaines ? jours ? vont être plus autonomes, et disposer de nouvelles capacités (comme la mémoire à long terme) et elles vont commencer à résoudre des problèmes de plus en plus similaires à ce qu’une personne (très) intelligente pourrait faire.
Mais... on n’est pas encore à l’AGI, l’IA générale.
Beaucoup confondent l’IA et l’AGI... c’est pas la même chose.
L’AGI, ce sera quand l’IA saura résoudre comme nous, non pas tous les problèmles, mais des problèmes auxquels elle n’a pas été confronté avant.
On n’en est peut-être plus très loin. (on s’en rapproche avec la multimodalité mais c’est difficile de savoir vraiment)
-
Gaspard Delanuit
20 novembre 2024 11:43
@Gollum
Réellement intelligentes donc vivantes ?"S’imaginer qu’on complote par derrière pour persuader les gens que les IA sont réellement intelligentes donc vivantes c’est du délire."
Oui, ce que vous ne voyez pas ne peut pas exister. Et puis ce n’est pas comme si on vivait dans un monde où des gens seraient capables de surévaluer leurs entreprises, leurs inventions et au final des produits courants, dans le but mesquin de les vendre plus cher avec un petit parfum de science-fiction, hein ! En plus, devenir milliardaire, c’est devenu ringard. Tout le monde il est bô, tout le monde il est écolo, tout le monde il est philanthropo, comme Bill Gates"J’en vois pas l’intérêt d’ailleurs."
https://www.leroymerlin.fr/produits/terrasse-jardin/piscine/robot-et-nettoyage-de-piscine/robot-piscine/robot-piscine-electrique/robot-aspirateur-intelligent-pour-carrelage-dur-poils-animaux-et-tapis-noir-vendos85-93428539.html"Cette phrase pour moi c’est de la paranoïa complotiste."
Vous avez raison. Heureusement qu’il reste des gens de bon sens comme vous qui gardent les pieds sur Terre, heu, sur l’île...
-
Gollum
20 novembre 2024 11:52
@Gaspard Delanuit
dans le but mesquin de les vendre plus cher avec un petit parfum de science-fiction, hein !
Sincèrement vous délirez. Les investisseurs ne sont pas dupes des éléments de langage utilisés. Vous fantasmez de façon claire. Ils se renseignent figurez vous.
Et la pub pour le robot "intelligent".. Vous croyez sincèrement que ça change quoi ?
Que ça va se vendre plus ? Ben non.. ça marche pas comme ça (sauf décérébrés mais ils sont très minoritaires en fait)Heureusement qu’il reste des gens de bon sens comme vous qui gardent les pieds sur Terre
Ah c’est bien de le reconnaitre.
Sinon l’enfant c’est vous, z’avez encore peur des méchantes sorcières cachées sous votre lit. Détendez vous. Y a rien.
Zen. 
-
yoananda2
20 novembre 2024 12:27
@Gollum
Les investisseurs ne sont pas dupes des éléments de langage utilisés.
évidement que non, ils ne sont pas débiles et ce n’est pas comme ça que ça marche. Même s’il y a un effet "hype" et "fomo", comme pour la bulle internet. il ne faut pas non plus croire que c’est simplement du buzz.
Gaspard est dans une posture religieuse. on le reconnait parce qu’il n’y a aucune nuance épistémique dans son discours. Il décrète. Point. Ensuite la réalité doit s’aligner avec son décret. Comme ezechiel.
Sinon l’enfant c’est vous, z’avez encore peur des méchantes sorcières cachées sous votre lit. Détendez vous. Y a rien. Zen.
La modernité, la technologie, la nouveauté font peur. On assiste à un retour en réaction des obscurantismes, qui peuvent prendre plusieurs formes.
-
micnet
20 novembre 2024 12:33
@Gollum
« Cette phrase pour moi c’est de la paranoïa complotiste.. «
Ce que Gaspard essaie de t’expliquer, c’est qu’à une époque de consumérisme complètement débridée telle que la nôtre et de la nouveauté que constituent les IA, beaucoup essaient de profiter de cette situation. Cela n’a strictement rien de complotiste, c’est juste le fonctionnement de la logique capitalistique qui s’applique à un « produit nouveau ». Pas besoin de faire intervenir des francs macs, illuminatis ou autres sorcières pour faire ce simple constat. C’est quand même dingue qu’un guenonien comme toi qui n’avait pas de mots assez durs contre la Modernité il n’y encore pas si longtemps puisse faire un virage à 180 degrés comme ça. J’ai l’impression de lire des éditos de Caroline Fourest quand je lis tes commentaires en ce moment
. J’ai du mal à reconnaître le Gollum d’avant…
Que ça va se vendre plus ? Ben non.. ça marche pas comme ça (sauf décérébrés mais ils sont très minoritaires en fait)
. J’ai du mal à reconnaître le Gollum d’avant…