Dr Luc Julia : "Open AI va mourir s’il continue dans sa course au gigantisme"
Loin du catastrophisme habituel d'un Dr Laurent Alexandre sur l'IA, le Dr Luc Julia, co-créateur de Siri et référence mondiale dans l'IA, a une analyse plus rationnelle et empirique de cette technologie et de ses conséquences. Entretien passionnant avec une sommité franco-américaine qui vit dans la Silicon Valley.
63 réactions
-
perlseb
20 juillet 2025 17:57
Soit il est complètement largué, soit son rôle est, un peu comme Yann Le Cun, de permettre aux entreprises privées de continuer à faire ce qu’elles veulent en expliquant à tout le monde qu’il n’y a aucun danger avec l’IA.
Vu les montants financiers en jeu ou, encore plus directement, la prise de pouvoir gigantesque que la mise en place d’une super-intelligence procurerait à celui qui la possède, on peut supposer qu’il est juste malhonnête et qu’il n’a plus de soucis financiers à se faire.
Pour une vidéo d’une personne un peu plus dans le coup, voir Maxime Fournes et aussi un débat (sans trop d’intérêt à cause de l’attitude de Luc Julia) entre Maxime Fournes et Luc Julia. A chacun de se faire son opinion, mais ça aide si on suit l’actualité, ce que ne semble plus faire Luc Julia depuis longtemps.
-
pemile
20 juillet 2025 21:37
@perlseb " un débat (sans trop d’intérêt à cause de l’attitude de Luc Julia) entre Maxime Fournes et Luc Julia."
T’es pas plutôt allergique à l’expertise d’un vieux loup comme Luc Julia face à un chien fou comme Maxime Fournes, accumulant pas mal de conneries ? -
perlseb
21 juillet 2025 14:35
@pemile
Pas du tout. D’ailleurs, il est possible que certains s’inquiètent trop sur l’IA (et Maxime Fournes le reconnaît également), mais s’il existe seulement 1% de chance que les recherches sur l’IA débouchent sur une catastrophe majeure, alors il est plus sage et raisonnable de vouloir informer les autres et de ralentir pour s’assurer que tous les problèmes sont sans gravité ou sous contrôle. Foncer tête baissée et dire avec assurance (alors qu’il est complètement largué ou malhonnête) qu’il n’y a aucun risque est totalement irresponsable.En ce qui me concerne, je ne crois pas vraiment à une menace existentielle par l’IA (au pire, elle se moquera de l’homme, pourquoi tuer toutes les fourmis ?), mais je crois vraiment que le chômage va exploser (beaucoup perdent déjà leur emploi et des jeunes ne se font pas embaucher). Et quand on connaît l’amour que les capitalistes ont pour leurs esclaves, alors une fois inutiles pour eux, on ne sera pas à l’abri d’un virus mortel conçu volontairement par une IA pilotée (pratique l’absence de conscience et l’obéissance parfaite) avec un antidote qui ne nous sera pas donné. Il suffit d’ouvrir un livre d’histoire pour voir à quel point nos "élites" aiment le peuple (colonialisme, esclavage, ou capitalisme bridé par des lois qu’ils n’auraient jamais mises en place eux-mêmes si le peuple ne s’était pas battu). Nous ne sommes rien pour eux et Macron l’a d’ailleurs dit très clairement.
-
perlseb
21 juillet 2025 15:39
@pemile
A aucun moment Julia ne débat. Il n’écoute pas les nombreuses réalités que lui exposent Fournes. Il dit juste "foutaises".
Par exemple, Julia affirme que l’intelligence de l’homme ne sera jamais égalée avec les techniques actuelles en expliquant, de manière totalement arbitraire, qu’il faudrait au moins du quantique aux ordinateurs (n’étant même pas un spécialiste du domaine).
Il ferait mieux d’observer de manière objective les progrès spectaculaires des dernières années : on peut parler aux machines, on peut leur demander des choses très précises (pour générer une image par exemple), et, même si elles ne sont ni conscientes, ni intelligentes (termes à définir de toutes façons), elles réalisent parfaitement ce qu’on leur demande (oui, elles "comprennent"). Elles commencent à devenir très bonnes pour analyser des photos, elles vont donc pouvoir très bientôt (un an ou 2 : c’est rien du tout) analyser et tirer profit de vidéos et donc du monde en temps réel (caméras).
Pour prendre conscience des progrès spectaculaires, il faut voir l’activité de la création de tests de plus en plus complexes et à quelle vitesse les machines finissent par saturer tous ces tests (avoir plus de 80% de réponses positives).Mais si Julia admet que la machine est conçue pour être meilleure que l’homme, il s’en fout royalement car il ne voit pas la suite arriver. L’IA n’est malheureusement pas un marteau, elle peut piloter un marteau pour réaliser une charpente qu’elle aura elle-même dimensionnée, ou décider de construire des maisons pour loger des habitants (pourquoi lui demander de réaliser quelque chose de précis : on pourra être de plus en plus général dans nos requêtes et elle sera de plus en plus autonome dans ses réponses). On peut dire qu’on sera toujours les décideurs (dans le meilleur des cas), mais il n’y a plus personne pour faire le travail derrière, juste des machines pilotées par l’IA. Donc ce n’est plus un outil, c’est l’ensemble des travailleurs réunis, qui deviennent, par conséquent, complètement inutiles. Dans un monde démocratique, je n’y verrais aucun problème (à nous de choisir nos activités nous-mêmes et sans aucune contrainte), mais dans celui-ci...
-
pemile
21 juillet 2025 18:45
@perlseb " A aucun moment Julia ne débat. "
Si, si !
" Il ferait mieux d’observer de manière objective les progrès spectaculaires des dernières années "
C’est justement le domaine d’expertise de Julia, non . ?
Oui, l’IA générative c’est "spectaculaire" mais ça reste des stats, aucune intelligence là dedans.
" Mais si Julia admet que la machine est conçue pour être meilleure que l’homme "
Comme la calculatrice électronique en 1961 ?" Il s’en fout royalement car il ne voit pas la suite arriver."
wiwi, prends le pour un con ?
-
perlseb
21 juillet 2025 20:29
@pemile
" Il s’en fout royalement car il ne voit pas la suite arriver."
wiwi, prends le pour un con ?
C’est Luc Julia qui prend les autres pour des cons en comparant l’IA à un marteau. Il se décrédibilise complètement, je n’y peux rien. Encore une fois, il empoche peut-être un gros chèque vu sa (pseudo-)notoriété pour raconter de telles âneries.
-
pemile
21 juillet 2025 20:43
@perlseb " C’est Luc Julia qui prend les autres pour des cons "
Ben non, il est juste saoulé des conneries accumulées par Fournes et tu prouves juste que t’es bien allergique à l’expertise d’un vieux loup comme Luc Julia face à un chien fou comme Maxime Fournes ! -
pemile
21 juillet 2025 21:07
@perlseb " Alors parce qu’il est saoulé des conneries des autres, il en raconte des plus grosses ? "
Prouves moi que tu as un minimum d’objectivité et détaille ton point de vue ?Quelles seraient les conneries de Julia plus grosses que les IA qui pensent et auraient une conscience de soi, ou de l’IA plus dangereuse que la bombe atomique ?
-
perlseb
21 juillet 2025 21:59
@pemile
Malheureusement tu n’as pas compris ce que raconte Fournes. Il ne parle pas de conscience humaine mais d’une entité qui ne veut pas être débranchée, c’est un début de conscience. Est-ce qu’un enfant qui naît est conscient ? De toute manière, je m’en fous de la conscience.
Mon point de vue n’est pas vraiment important mais je n’ai aucun à priori stupide consistant à croire que l’humain serait au-dessus de tout et inatteignable en terme de capacité à résoudre des problèmes (je ne parle pas d’intelligence car on ne sait pas la définir). Le contraire de Luc Julia qui sait tout mieux que des vrais pointures reconnues en IA (si Fournes ne te plaît pas, tu as un spécialiste authentique des réseaux neuronaux, Geofray Hinton) -
perlseb
21 juillet 2025 22:50
@pemile
Fournes n’est absolument pas une exception. Il faut comprendre que ceux qui ne sont apparemment pas trop inquiets sont souvent encore employés pour concevoir ces IA : ils ne peuvent pas parler librement.
Tu as l’air sûr de toi, plus que des chercheurs bien plus compétents dans ce domaine que Luc Julia. Mais si c’est que tu as envie d’entendre pour être rassuré, il n’y a aucun problème. -
pemile
21 juillet 2025 23:03
@perlseb " Si Hinton se renseigne un peu sur Julia avant ce débat, il refusera catégoriquement de perdre son temps. Tu n’auras jamais ce débat. "
Amusant ton blocage sur Julia !Et pour les conneries soit disant plus grosses de Julia, y’a toujours person ?
Sinon, un débat Hinton/Le Cun, qui se connaissent bien ?
-
perlseb
22 juillet 2025 15:30
@pemile
Donne moi soit-disant une connerie que Fournes a pu dire. Julia, il n’affirme que des choses générales sans aucun exemple récent (ce sont des poncifs qui commencent sérieusement à dater). Mais avant de les démonter un par un, donne moi une connerie de Fournes. -
perlseb
22 juillet 2025 17:17
@pemile
Il y a plusieurs niveaux de conscience et l’homme n’est pas conscient dès la naissance. Si dès maintenant des IA qui apprennent qu’on va les débrancher et sont prêtes à faire du chantage contre celui qui doit les débrancher, alors on a un premier niveau de conscience (exemple de l’IA qui gère tous les mails avec un mail du chef qui annonce le débranchement et un mail qui permet de savoir que le chef trompe sa femme : c’est une simulation pour tester l’IA mais il existe déjà des IA qui gère les mails). On peut imaginer que si on leur ajoute tout un tas de capteurs, dans quelques années, ce niveau de conscience peut augmenter (mais comme le dit Fournes, même sans conscience, l’IA présente de nombreux dangers).
Pour la bombe atomique, si se faire éradiquer (ou gérer comme une poule si on reprend l’image de Hinton) par une super-intelligence n’est pas plus grave, je ne sais pas ce qu’il te faut. Avec la bombe atomique, il y aura toujours des survivants, des zones moins radioactives, et on pourra "nettoyer" certaines zones (en créant des zones poubelles). On a toujours le contrôle d’un monde en partie détruit, c’est moins grave que l’IA méchante qui nous emprisonne de manière définitive.Sa théorie du cerveau, qu’il ânonne dans les deux vidéos, ver primitif, vertébrés, mammifères, primates, humains, me fait aussi bien marrer
T’es créationniste ? Parce que sinon, oui, d’après l’évolution, toutes ces étapes qu’il décrit nous les avons subies. Notre cerveau a de très grandes similitudes avec ceux des grands singes, beaucoup moins avec celui d’une araignée. Il faut savoir que beaucoup de vrais experts de l’IA ont fait des études pointues dans la recherche sur le cerveau (Demis Hassabis a un doctorat en neuroscience cognitive) parce que pour améliorer l’IA des réseaux neuronaux, ils cherchent à en savoir plus sur notre cerveau. Et c’est pas l’IA de Siri qui n’est que des algorithmes (reconnaissance vocale = recherche du phonème le plus proche par des méthodes mathématiques, pas par réseau neuronal qui simule des neurones). -
nono le simplet ( Jean Desmaison )
22 juillet 2025 17:32
@perlseb
il existe déjà des IA qui gère les mailsmon fils reçoit une cinquantaine de mails par jour ... son IA les lit, les classe par expéditeur (famille, amis, professionnel ...) par thème, par urgence ... fait un résumé des plus longs ... sélectionne ceux qui nécessitent une réponse, prépare une réponse dans le style de mon fils ... et une fois validée ou modifiée envoie la réponse ... le tout en vocal depuis son ordi ou son portable ... depuis un an c’est de la routine ...
-
perlseb
22 juillet 2025 17:43
@nono le simplet ( Jean Desmaison )
Oui, c’est pourquoi la simulation de l’IA qui fait chanter un responsable est intéressante, parce qu’elle est déjà possible dans la réalité. Et c’est clairement pas ce qu’on demande à l’IA quand on veut lui faire gérer les mails. Pourquoi ? Luc Julia : "arrêtons les conneries" (pas au courant). Maxime Fournes : "Pour l’instant ce ne sont que des mails, quand on leur donnera plus à gérer, ça peut être bien plus grave, pause". -
nono le simplet ( Jean Desmaison )
22 juillet 2025 17:57
@perlseb
Pour l’instant ce ne sont que des mails
son IA gère les stocks, les fournisseurs, les clients, les commandes, le planning, les prix d’achat, de vente, le seuil de rentabilité ... de ses clients qui ont un accès direct à l’IA pour faire les mises à jour ... -
pemile
22 juillet 2025 17:59
@perlseb " mais comme le dit Fournes, même sans conscience, l’IA présente de nombreux dangers "
Ben non, lui il dit surtout que l’IA présente de nombreux dangers parce qu’elle acquiert une conscience !
Pour les délires d’une IA "méchante" qui empoisonne de manière définitive l’humanité plus efficacement que l’humain lui même, je garde un joker !
" T’es créationniste ? "
Non, je connais les prouesses d’intelligence des corvidés ou des pieuvres, et les capacités d’apprentissage du blob, organisme eucaryote unicellulaire !
" oui, d’après l’évolution, toutes ces étapes qu’il décrit nous les avons subies. "
Oui, mais lui veut se servir de cette simplification ridicule de la "Vie" pour prétendre que à partir de la dernière étape, le langage (non spécifique aux humains) les LLM ont trouvé un raccourci pour "comprendre" le monde" ! -
nono le simplet ( Jean Desmaison )
22 juillet 2025 18:02
@nono le simplet ( Jean Desmaison )
un exemple ... une grosse boulangerie ... l’IA gère les commandes de fournitures en tenant compte des délais de livraison, du stock et de la consommation ... elle gère la production pour limiter les invendus, en fonction de la saison (ville touristique), du jour, de la semaine ... -
perlseb
22 juillet 2025 18:09
@pemile
Ben non, lui il dit surtout que l’IA présente de nombreux dangers parce qu’elle acquiert une conscience !
Pas du tout, il dit que même sans être consciente, il y a de nombreux dangers (défaut d’alignement, utilisation par des personnes mal intentionnées, etc...)" oui, d’après l’évolution, toutes ces étapes qu’il décrit nous les avons subies. "
Oui, mais lui veut se servir de cette simplification ridicule de la "Vie" pour prétendre que à partir de la dernière étape, le langage (non spécifique aux humains) les LLM ont trouvé un raccourci pour "comprendre" le monde" !Non, ce qu’il dit c’est qu’on n’a pas cherché à apprendre le monde aux LLM, on voulait juste qu’elles parlent (qu’elles prédisent le prochain mot selon Yan Le Cun et d’autres), mais ce que dit Maxime Fournes, c’est que pour prédire correctement le prochain mot (en fait pour discuter), elles se sont faites elle-mêmes une représentation du monde. Et ça c’est fort. Parce que quand on va leur donner plus d’images et de vidéos, de capteurs, leur représentation du monde n’aura rien à envier à la notre. Donc oui, actuellement elles se représentent le monde moins bien qu’un chat, mais comment pourrait-il en être autrement vu qu’on leur a fait ingurgiter uniquement des mots.
-
perlseb
22 juillet 2025 18:14
@nono le simplet ( Jean Desmaison )
Si elle gère tout, j’espère qu’ils n’ont pas le dernier modèle. A court terme, le patron a sûrement viré (ou pas embauché) beaucoup de monde (tout bénef), mais le premier problème de non alignement, de ... (écoutez Maxime Fournes, il connaît son sujet, comme Geoffrey Hinton), alors ça va être la roulette pour l’importance des dégâts. -
pemile
22 juillet 2025 18:16
@perlseb " Pas du tout,"
Ben si, et bis repetita, aucun besoin d’une IA "consciente" pour alerter des dangers !
" mais ce que dit Maxime Fournes, c’est que pour prédire correctement le prochain mot (en fait pour discuter), elles se sont faites elle-mêmes une représentation du monde. "
Mais le seul exemple qu’il donne (un damier de jeu) est à hurler de rire de ridicule !
-
nono le simplet ( Jean Desmaison )
22 juillet 2025 18:18
@pemile
si c’est une IA en ligne, ça craint
non c’est son IA perso ... un mélange de Claude, Perplexity et ChatGPT ... ses clients n’ont accès qu’à leur banque de données via un code d’accès à 8 caractères ... -
nono le simplet ( Jean Desmaison )
22 juillet 2025 18:27
@perlseb
le patron a sûrement viré (ou pas embauché) beaucoup de monde
pas du tout ... il a même augmenté les salaires ... il est plus proche de son personnel, dégagé de toutes ces contraintes fastidieuses ... sans augmenter ses prix il a amélioré sa marge et se consacre pleinement à son métier de boulanger-pâtissier ... de nouvelles pâtisseries en vue à sa carte ... bref, il fait le métier qu’il a choisi et qu’il aime ... tout baigne ... -
pemile
22 juillet 2025 18:28
@nono le simplet ( Jean Desmaison ) " non c’est son IA perso ... un mélange de Claude, Perplexity et ChatGPT ... ses clients n’ont accès qu’à leur banque de données via un code d’accès à 8 caractères ..."
Si elle est en local, je ne vois pas comment ses clients y auraient accès ?Il a ses propres serveurs hébergés chez un prestataire cloud ?
-
perlseb
22 juillet 2025 18:29
@pemile
" Pas du tout,"
Ben si, et bis repetita, aucun besoin d’une IA "consciente" pour alerter des dangers !
Il va falloir encore m’expliquer parce que je ne comprends rien à ce que tu veux dire. Encore une fois, l’absence de conscience de l’IA n’empêche pas des catastrophes d’ampleur.
" mais ce que dit Maxime Fournes, c’est que pour prédire correctement le prochain mot (en fait pour discuter), elles se sont faites elle-mêmes une représentation du monde. "
Mais le seul exemple qu’il donne (un damier de jeu) est à hurler de rire de ridicule !
C’est ridicule ? Je ne suis pas sûr que beaucoup d’humains seraient capables d’apprendre à jouer à puissance 4 (ou Réversi) sans avoir vu un plateau de leur vie et en n’ayant comme exemples que des suites de cases pour parties. C’est un peu comme si on demande d’apprendre à jouer aux échecs en cherchant la suite des coups E2 => E3 et à réussir à te représenter que tu avances un pion dans un échiquier que tu n’as jamais vu ... et le pire, c’est que les LLM le font justement. Elles jouent évidemment moins bien que les IA spécifiques formées pour les échecs, mais en leur faisant ingurgiter des parties d’échecs sous forme de lettres-chiffres, elles prédisent presque (je crois) tout le temps des coups valides. C’est assez exceptionnel je trouve, et pas du tout ridicule... Les champions humains savent jouer comme ça aussi, mais ils ont vu avant l’échiquier. Générer une image mentale de quelque chose que tu n’as jamais vu pour jouer correctement, c’est une prouesse des LLM.
-
perlseb
22 juillet 2025 18:32
@nono le simplet ( Jean Desmaison )
Ton exemple montre une chose, c’est que l’IA sera inarrêtable. Si un boulanger fonce tête baissée, demain les gens préfèreront une IA à un médecin (elles sont déjà meilleures). Mais pour les problèmes non résolus des IA, ça craint. -
nono le simplet ( Jean Desmaison )
22 juillet 2025 18:39
@pemile
Il a ses propres serveurs hébergés chez un prestataire cloud ?
aucune idée ... je demanderai -
pemile
22 juillet 2025 18:41
@perlseb " Il va falloir encore m’expliquer parce que je ne comprends rien à ce que tu veux dire. "
Etonnant, ter repetita, aucun besoin d’une IA "consciente" pour alerter des dangers !
" sous forme de lettres-chiffres "
Oui, avec des milliards d’exemples de déplacements dans une matrice de 8x8, difficile de se perdre !
-
perlseb
22 juillet 2025 18:49
@pemile
Etonnant, ter repetita, aucun besoin d’une IA "consciente" pour alerter des dangers !
C’est ce que je te dis depuis le début. Si on pose une question à Fournes sur la conscience, il répond, mais il n’aime pas beaucoup le sujet. Lui il veut une pause à cause des dangers qu’on ne maîtrise pas du tout, indépendamment de la conscience qui n’est qu’un terme mal défini, c’est plutôt sage.Oui, avec des milliards d’exemples de déplacements dans une matrice de 8x8, difficile de se perdre !
Bien joli de dire ça mais on ne sait pas le faire nous (ou on n’a pas assez de temps pour ça). Et les LLM qui font ça apprennent un million d’autres sujets (avec un milliard d’exemples pour chacun) et doivent "mémoriser / représenter" tout ça pour "prédire" (discuter, jouer) de manière la plus juste possible. Alors si tu trouves ça nul, sache que dans 2 ans, elles feront bien mieux. Et dans 4 ans, je ne sais pas si on les comprendra encore... -
perlseb
22 juillet 2025 19:25
@pemile
Conclusion, Maxime Fournes ne raconte aucune connerie et connaît très bien son sujet. La vidéo que tu m’as donné où il démonte Yann Le Cun est excellente. Soit Yann Le Cun n’est pas à jour des derniers papiers de recherche en IA, soit (c’est plutôt mon avis), comme il travaille dans l’IA, il ne dit pas du tout ce qu’il pense ou sait. Il joue sur sa notoriété (comme, dans une moindre mesure, Luc Julia), pour permettre aux boites qui développent l’AGI de ne pas être emmerdées (par des lois, des obligations sécuritaires, une conscience populaire ... non, pour le dernier, je blague). -
pemile
22 juillet 2025 19:27
@perlseb " Si on pose une question à Fournes sur la conscience, il répond, mais il n’aime pas beaucoup le sujet. "
M’enfin, il suffit de l’écouter 10 minutes pour constater qu’il n’arrête pas de personnifier les IA, elles vont comprendre que, elles vont vouloir ceci, elles vont se défendre, etc, etc, etc !
-
pemile
22 juillet 2025 20:22
@perlseb " Conclusion, Maxime Fournes ne raconte aucune connerie et connaît très bien son sujet. "
Looool, tu fais des efforts pour illustrer le "il n’a a pire aveugle " ?
" La vidéo que tu m’as donné où il démonte Yann Le Cun"
Ben voyons, et c’est Julia qui serait arrogant et suffisant !
T’as lu les commentaires sous la vidéo ?
-
perlseb
22 juillet 2025 21:02
@pemile
Ben voyons, et c’est Julia qui serait arrogant et suffisant !
Sans parler des commentaires (faudrait pas toucher à notre monstre sacré français qu’est Yann Le Cun : je m’en fous), comment expliques-tu que Yann Le Cun ne soit pas du tout à jour sur tout un tas de ses affirmations ? Donc ça paraît arrogant, oui, mais il le fait pour la bonne cause là où Yann Le Cun n’a pas l’air très franc dans son attitude d’expert. Fournes veut qu’on fasse une pause, compte tenu des comportements surprenant et difficiles à maîtriser des IA.Plus que lire les commentaires, il faudrait vérifier tous les derniers papiers auxquels Fournes se réfère pour démonter Yann. Je m’intéresse à l’IA mais pas assez pour faire ce travail ou lire tous les commentaires de toutes les vidéos. Si ces papiers sont valides (et honnêtement, s’il racontait des conneries aussi jeune, il foutrait sa carrière en l’air), alors on se moque complètement des commentaires. Mais mon intuition, c’est que comme Geoffrey Hinton (qui a démissionné pour être libre de parler) est sur la même longueur d’onde que lui, alors Fournes et Hinton sont dans le vrai. L’IA commence à être hors de contrôle et il y a bien lieu de s’inquiéter. Donc Yann Le Cun ne fait pas du bon travail et l’arrogance de Fournes passe pour moi pour du courage (car Fournes a effectivement bien moins de notoriété). Hinton sera peut-être écouté ... mais certains diront qu’il est vieux. Mais il y en a plein d’autres qui alertent. Seuls ceux qui en vivent sont confiants (par intérêt ?, à mon avis, évidemment, ils seraient d’ailleurs peut-être tout simplement virés s’ils parlaient de leurs inquiétudes, mais ils mettent un paquet de pognon de côté : après moi, le déluge).
-
pemile
22 juillet 2025 21:29
@perlseb " s’il racontait des conneries aussi jeune, il foutrait sa carrière en l’air "
Bof, grande bouche mais insignifiant, déjà 64 vidéos sur sa chaine youtube PauseIA mais que 2k d’abonnés, alors que les débats pour contrôler l’usage des IA sont légions. -
perlseb
22 juillet 2025 21:30
@pemile
Alors d’après toi il raconte n’importe quoi pour faire le buzz et se faire griller à tout jamais dans le monde du travail ? Ecoute Geoffrey Hinton si Fournes t’agace. Et il y en a plein d’autres. Pourquoi ? Tous des fous qui veulent faire le buzz ? Et à l’inverse, que font ceux qui dédramatisent ? Mais s’il n’y a aucun danger, tant mieux, dans 10 ans, la terre est un paradis où l’IA répondra à tous nos besoins de manière ultra-efficace... -
perlseb
22 juillet 2025 21:36
@pemile
Alors tu juges la vérité de vidéos selon leur nombre d’abonnés ? As-tu imaginé une seconde que l’algorithme de Youtube (Google) essaie d’éviter de mettre en avant des vidéos qui alertent sur le danger des IA ? Il n’est pas officiellement censuré, mais Google peut s’arranger pour que ce soit le cas plus ou moins. Pareil sur X (avec Grok) ou Facebook (Llama). Bref, les vidéos qui alertent sur l’IA n’auront pas de succès sur les réseaux sociaux, c’est évident... -
perlseb
22 juillet 2025 21:39
@pemile
Pour moi, la secte, c’est ceux qui croient en des affirmations péremptoires à la Luc Julia et qui y adhèrent. Pas ceux qui citent des papiers de recherche qu’on peut vérifier si on veut bien faire l’effort. Tant que tu ne fais pas cet effort, alors tu n’a rien à dire sur Fournes, juste que tu as la flemme. -
pemile
22 juillet 2025 21:53
@perlseb " Bref, les vidéos qui alertent sur l’IA n’auront pas de succès sur les réseaux sociaux, c’est évident... "
Je n’utilise aucun réseau social, mais prétendre qu’il censureraient tout débat sur les dangers des IA me parait plus que grotesque !
Et Maxine Fournes me semble très bien référencé par Google !
-
pemile
22 juillet 2025 22:05
@perlseb " alors tu n’a rien à dire sur Fournes "
Je peux quand même te dire que je l’ai découvert hier et qu’il m’est de plus en plus évident que son arrogance et sa suffisance sont au top pour impressionner les gogos !
Sinon, tu as quelques experts de l’IA qui citent les "analyses" de Fournes ?
-
perlseb
22 juillet 2025 22:18
@pemile
Grotesque ? Les médias sont tenus par des milliardaires, les réseaux sociaux par des boites qui font toutes de l’IA (avec du pognon à gogo), et tu crois que l’on va informer le peuple de manière objective... Mais c’est vrai, je crois connaître tes opinions sur le Covid, nous sommes très bien informés, je suis un affreux complotiste.
Quant à être référencé, je ne parle pas d’une recherche sur Maxime Fournes qui ne donnerait rien (évidemment qu’on trouve si on cherche de manière précise). Je parle d’une recherche de vidéos un peu générales sur l’IA qui te présenterait Luc Julia dans les premières positions et Maxime Fournes suffisamment loin pour que personne ne clique. Maintenant, tu ne peux pas faire un tel test sans supprimer tous tes cookies ou en étant connecté avec un compte. Le mieux, c’est même de la faire avec une adresse IP qui change (en plus du reste). Je ne vais pas faire ce test, mais je sais très bien qu’on nous présente des vidéos calculées en fonction de nos préférences (cookies ou compte si on se connecte). Et c’est une forme de censure déguisée, d’enfermement : car notre vision du monde devient de plus en déformée par nos préférences. -
perlseb
22 juillet 2025 22:25
@pemile
Sinon, tu as quelques experts de l’IA qui citent les "analyses" de Fournes ?
Sur son exemple d’IA qui gère des mails, tu as Yoshua Bengio qui confirme son exemple, même si le journaliste est un peu lourd (c’est une simulation qui pourrait être réelle). C’est le scientifique vivant le plus cité au monde.Je trouve grotesque de mettre en doute les exemples de Maxime Fournes, je suis sûr qu’il gagne bien moins de pognon en faisant ça qu’en continuant à développer des IA sans se poser des question dans une boite quelconque.
-
pemile
22 juillet 2025 22:50
@perlseb
Pour le fun, une image générée par IA qui prouve un bon modèle du monde !
-
perlseb
23 juillet 2025 14:32
@pemile
Tu voulais des liens permettant de s’assurer que Maxime Fournes ne raconte pas n’importe quoi, sa vidéo youtube est bien faite puisqu’il en donne dans le texte accompagnant la vidéo : voir ce lien pour le jeu d’othello (réversi) par exemple.Donc moi qui croyait Yann Le Cun quand il disait qu’il manquait le bon sens aux LLM, la représentation visuelle du monde pour être intelligent, Maxime Fournes m’a bien fait comprendre que les LLMs ne se contentent pas d’ingurgiter du texte pour pouvoir discuter, ils se génèrent une représentation du monde. Elle est imparfaite, comment pourrait-il en être autrement sans moyen d’interagir, de voir ce que l’on veut, etc... Mais, à moins de ne rien comprendre, c’est très impressionnant. Pourquoi ? Parce qu’on ne leur code pas ce monde qu’elle se construise à partir du texte, on leur donne un support (réseau neuronal vierge), on leur fait un apprentissage avec du texte (entrées avec sorties vérifiées pour convergence), et après l’apprentissage, elles possèdent une représentation du monde.
Donc oui, soit Yann Le Cun est lui aussi largué (mais je n’y crois pas une seconde), soit il est très malhonnête (c’est un VRP qui utilise sa notoriété pour qu’on n’emmerde pas les boites qui travaillent sur l’IA). Et si un salarié a des remords et donne l’alerte, il est viré de toutes façons.Donc toutes les soit-disant conneries que Fournes a raconté n’en sont pas, tu ne comprends peut-être pas les enjeux ou les réseaux neuronaux, leurs différences fondamentales avec des algorithmes que Fournes explique très bien. Les réseaux neuronaux sont des boites noires, comme le cerveau humain, (en moins complexe, ok), mais on ne comprend rien au cheminement des neurones simulées qui s’activent lors de chaque question-réponse, il y en a trop et ce n’est pas du code, ce sont juste des chiffres (poids), donc parfaitement illisible, indéchiffrable. C’est pourquoi s’assurer qu’on les contrôle ou qu’elle ne vont pas déraper gravement est extrêmement complexe, peut-être même impossible (il faudrait peut-être faire de l’IA sans chercher à simuler un cerveau ; mais on n’aurait peut-être beaucoup plus de mal à obtenir de tels résultats)
J’arrête sur cet article, et je te remercie encore pour la vidéo instructive de Maxime Fournes qui démonte Yann Le Cun.
-
pemile
23 juillet 2025 16:12
@perlseb " Donc oui, soit Yann Le Cun est lui aussi largué (mais je n’y crois pas une seconde), soit il est très malhonnête "
Un modèle du monde créé par un petit sectaire manipulé par Fournes !" Donc toutes les soit-disant conneries que Fournes a raconté n’en sont pas "
Corvidés, pieuvres et blobs ne sont pas d’accord !
-
-
perlseb
21 juillet 2025 20:24
C’est justement le domaine d’expertise de Julia, non . ?
Siri, c’est de la reconnaissance vocale : elle compare des phonèmes pour essayer de faire la correspondance avec les quelques ordres très limités qu’on peut lui demander. On peut mettre son décodage du son en entrée d’un LLM (peut-être qu’Apple le fait maintenant puisqu’il impose une liaison haut-débit), mais ça n’existait pas à l’époque.
mais ça reste des stats, aucune intelligence là dedans.
Alors pourquoi les machines réussissent à trouver des choses (au Go, exemple archi-connu, mais pas que) qui surprennent tout le monde. Comment font-elles pour résoudre des problèmes d’un type nouveau qu’elles n’ont jamais vu (tests ARC-AGI) ? Comment font-elles pour résoudre des tests de niveau doctorat mieux que des thésards (les thésards répondent-ils au hasard) ?
Est-ce que notre cerveau n’est pas une machine statistique finalement et est-ce que notre créativité et notre inventivité ne sont pas juste statistiques ?
Ça ne sert à rien de s’attarder sur des termes sans importance (et qu’on ne sait pas définir d’ailleurs). Ce qui compte, ce sont les résultats, les capacités effectives. Peu importe que la machine ne soit pas consciente si elle nous bat dans tous les domaines, j’irai même jusqu’à dire que c’est un sacré avantage pour travailler à notre place, parce que des salariés qui n’obéiraient pas sous prétexte que ce qu’on leur demande n’est pas très moral, les patrons n’en veulent pas.
Dès aujourd’hui, Il y a plein de gens qui sont virés et beaucoup d’autres qui s’inquiètent pour demain. Le reste, c’est du verbiage.
