La routine en IA
L'IA ne pense pas, elle ne comprend rien, c'est juste un perroquet stochastique. Elle crée des phrases en mettant bout à bout les mots qui ont le plus de chance d'être à côté les uns des autres en fonction de la montagne de texte qu'elle a avalé depuis internet. Elle n'arrivera jamais à la cheville de l'homme dont l'intelligence est indépassable.
A ce sujet, voici une vidéo de Monsieur Phi qui vous permettra de prendre la place d'un chercheur en mathématique et de commencer à vous inquiéter pour votre métier, son évolution voire son existence. Les mathématiques ont un avantage de taille par rapport aux autres disciplines, outre le fait qu'elles ne nécessitent pas d'intelligence puisque les machines y arrivent, des outils existent pour prouver de manière automatique qu'une démonstration est valide ou non. Et oui, la recherche en mathématique est en train de devenir une tâche automatisable, donc sans grande valeur ajoutée.
Monsieur Phi a le don de choisir les thèmes de l'IA qui nous obligent à nous questionner et d'y répondre de manière éclairée grâce à ses connaissances philosophiques augmentées de ses nombreuses recherches techniques sur internet. Le résultat est une excellente vulgarisation sur un sujet qui risque de tous nous rattraper un jour, comme les mathématiciens aujourd'hui.
Si le sujet vous intéresse, et il devrait, je vous recommande vivement sa liste de lecture sur l'intelligence artificielle et plus particulièrement ces 2 vidéos :
Vous n'avez pas d'âme (et c'est ok) :
L'autonomie des IA expliquée aux humains :
299 réactions
-
-
perlseb
16 juin 17:58
@mat-hac
Je reconnais que les IA peuvent encore avoir de grosses lacunes, on n’est pas à l’AGI. Pour la géométrie, les versions généralistes de ChatGPT sont moins bonnes qu’ AlphaGeometry (lui-même meilleur que les médailles d’or aux olympiades il y a plus d’un an).
Cependant, comme l’explique Monsieur Phi dans la 3ème vidéo (sur l’autonomie), ce n’est pas parce qu’on n’obtient pas une réponse juste à une question isolée que l’IA n’est pas capable de le faire. Parfois, il faut changer le prompt, permettre à l’IA d’accéder à des outils (internet par exemple) ou ...reposer la même question avec une version plus récente ! -
perlseb
17 juin 15:18
@mat-hac
Il ne faut pas accabler Cédric Villani : cette vidéo est sûrement ancienne. Mais elle ressemble quand même fortement à celle de Raphaël Enthoven déclarant qu’une IA ne saura jamais faire une problématique de philo.Alors en cherchant bien, ceux qui travaillent sur ces modèles trouvent des grosses failles dans ces IA, c’est vrai. Et qu’est-ce qu’ils font ? Ils les suppriment peu à peu, et les IA sont ce qu’elles sont aujourd’hui, c’est-à-dire de la merde par rapport à ce qu’elles seront demain.
-
perlseb
18 juin 11:34
@mat-hac
Si les IA sont subitement bloquées dans leur progression, je ne perds rien (je ne travaille pas dans l’IA et je n’ai aucune action en bourse). Bon, il y aura peut-être un méga-crash boursier qui va me toucher d’une manière ou d’une autre mais si je critique fortement le capitalisme d’une manière générale, ça ne va pas faire disparaître les machines à bulles (et à crises) qu’on appelle la bourse. Certains gagnent énormément pendant les crises (et les guerres), alors il faut laisser ça en place, non mais.Pour ce qui est de votre texte, je le trouve nettement moins convaincant que les vidéos de Mr Phi. Pour la reconnaissance d’images, c’est même parfaitement faux : quand un enfant voit un chat pendant quelques secondes, ce n’est pas une image qu’il voit mais un film. Mais je reconnais que les machines peuvent rester bêtes et moins efficaces, particulièrement pour les choses courantes de la vie (après tout, elles sont artificielles, elles n’ont jamais été sélectionnées pour survivre dans la jungle), et je ne suis pas sûr que ça intéresse les concepteurs de faire résoudre ces problèmes courants aux IA (à part peut-être Yann Le Cun) : laissons-les idiotes sur des sujets que tout le monde peut appréhender, ça rassurera et ça permettra de dire, sans aucun mensonge, qu’on n’est toujours pas à l’AGI.
-
yoananda2
18 juin 11:57
@perlseb
, et je ne suis pas sûr que ça intéresse les concepteurs de faire résoudre ces problèmes courants aux IA
si si, l’apprentissage continu est un des buts poursuivis par l’industrie de l’IA. De même que la généralisation.
ça fait partie des grandes différences avec le cerveau (humain ou pas d’ailleurs) biologique.
mais si on met de côté les questions de coûts, les IA sont déjà très utiles et surhumaines dans de nombreux domaines.
-
perlseb
18 juin 12:19
@yoananda2
Oui, les problèmes courants seront indispensables pour les robots. Mais pour des IA statiques conçues pour la recherche fondamentale, on peut accepter qu’elles restent nulles.Il n’y aura pas forcément de choix à faire à l’avenir (on peut imaginer qu’elles vont progresser, et en continu même après apprentissage, dans tous les domaines). Mais s’il y avait un choix à faire, je crois que les concepteurs préféreraient avoir un génie en math qui ne sait pas laver sa voiture.
De manière plus générale, si on s’attache à faire ressembler l’"intelligence" des IA à notre propre intelligence (avec le bon-sens, etc...) et qu’on se rend compte, en le faisant, qu’elles perdent des capacités en recherche fondamentale, je crois qu’il y aura de la place pour différents types d’IA. Tout n’est pas que LLM en IA.
-
mat-hac
20 juin 02:28
On ne connaît pas la force qui organise :
https://universvivant.com/On-ne-sait-pas-comment-les-molecules-s-organisent -
mat-hac
20 juin 03:07
j’ai regardé la deuxième vidéo de monsieur phi. Monsieur phi ne réfléchit pas. C’est à dire qu’il ne confronte pas ses limites aux limites des autres. Il ne fait que confronter des théories passées dans le monde actuel.
Sachez, internaute, que Descartes n’est loué qu’en France. À partir de cette sélection, j’ai arrêté de regarder la vidéo. J’espère qu’il a parlé de Leibniz ensuite.
Cependant, sachez que l’état de l’art actuel nous permet de dire qu’il y des forces ou des pensées qu’on ne comprend pas, puisque l’IA fonctionne d’une toute autre manière que notre pensée. Aussi, décrire la biologie ne suffit pas pour montrer qu’elle arrive à s’organiser avec de simples atomes. Ça c’est extraordinaire. -
perlseb
20 juin 14:38
@mat-hac
Le plus extraordinaire, c’est que c’est toujours le doute qui a permis de faire avancer la science. Ceux qui nous expliquent que l’homme possède quelque chose de plus ne sont pas dans le doute. Moi je n’en sais rien. Et s’il n’avait rien de plus ? C’est juste ça la vidéo 2.Si elle vous gêne alors vous êtes sûr de choses que la majorité des scientifiques sont obligés de rejeter pour progresser dans leur domaine. Mais plus on comprend de choses, plus on voit que ça suit des lois physiques purement matérialistes (et ondulatoires, bref explicables). Donc ce qu’on ne comprend pas aujourd’hui n’a absolument aucune raison de ne pas faire partie de ce qu’on comprendra demain, donc sans intervention d’un esprit divin.
En résumé, plus la science progresse, plus on lève des doutes qui étaient (faussement) "expliqués" de manière "spirituelle". Mais à chaque fois que l’homme comprend plus de choses, ils se posent encore plus de questions. Donc on peut encore se réfugier dans un esprit supérieur, ou attendre qu’on lève ces nouveaux doutes par une explication rationnelle dans le futur. L’histoire nous enseigne qu’il faut savoir douter et que l’homme ne saura jamais tout. Un peu d’humilité et d’acceptation de notre ignorance sont la recette pour en savoir plus. Ne pas douter est un gros frein à la compréhension du monde. Le doute est essentiel.
Il y a de très bonnes vidéos en anglais de Neil deGrasse Tyson sur le sujet et elles vous révulseront : lui aime le doute mais beaucoup de gens veulent être rassurés, malheureusement. Ils préfèrent une explication fausse que rien du tout.
-
yoananda2
20 juin 15:32
@perlseb
Ceux qui nous expliquent que l’homme possède quelque chose de plus ne sont pas dans le doute.
c’est le nouveau géocentrisme. Beaucoup pensent que l’homme est le pinacle de l’évolution ou de l’intelligence. Penser que l’homme n’est pas le seul à penser (ce qui est extrêmement banal désormais) pour eux c’est comme contester que la terre soit plate et le centre l’univers pour d’autres. Même réflexe mental. Bien toujours habillé par de hautes justifications.
La terre banale ? mais quel blasphème.
C’est la nouvelle religion. Je soupçonne que chaque religion peut être vue comme une résistance obscurantiste face au progrès des connaissances de son époque.
-
perlseb
20 juin 15:50
@yoananda2
Lever des doutes par des explications rocambolesques, pardon, spirituelles, c’est un peu la marque de fabrique des religions. Mais bon, ça rassure ceux qui sont incapables de douter. -
nono le simplet ( Jean Desmaison )
21 juin 02:26
@mat-hac
des IA plus intelligentes que ouam ? ... ça ne prouve pas grand chose
-
nono le simplet ( Jean Desmaison )
21 juin 02:36
@nono le simplet ( Jean Desmaison )
j’ai demandé ça à une de mes IA préférées
comment réduire la consommation d’énergie des IALes intelligences artificielles (IA) consomment effectivement une quantité importante d’énergie, notamment en raison des ressources nécessaires pour entraîner et faire fonctionner les modèles de **machine learning** et de **deep learning**. Cependant, elles peuvent aussi **contribuer à résoudre ce problème** ou à optimiser la consommation énergétique dans d’autres secteurs. Voici comment :
---
### **1. Optimisation de la consommation énergétique des IA elles-mêmes**
Les chercheurs et ingénieurs travaillent sur plusieurs pistes pour réduire l’empreinte carbone des IA :#### **a. Modèles plus légers et efficaces**
- **Architectures optimisées** :
Les modèles comme **TinyML** ou **DistilBERT** sont conçus pour être plus petits et moins gourmands en énergie tout en conservant une bonne performance.
Exemple : **MobileNet** pour la vision par ordinateur ou **DistilBERT** pour le traitement du langage naturel.
- **Quantification et compression** :
Réduire la précision des calculs (par exemple, passer de 32 bits à 8 bits) permet de diminuer la consommation sans perdre en qualité.
- **Pruning (élagage)** :
Supprimer les neurones ou connexions inutiles dans un réseau de neurones pour le rendre plus efficace.#### **b. Entraînement plus sobre**
- **Apprentissage fédéré** :
Permet d’entraîner des modèles directement sur les appareils (smartphones, IoT) sans centraliser les données, réduisant ainsi les transferts énergétiquement coûteux.
- **Optimisation des data centers** :
Utilisation de **GPU/TPU plus efficaces**, refroidissement par immersion, ou énergies renouvelables pour alimenter les serveurs.
- **Modèles "green AI"** :
Des initiatives comme **Green AI** encouragent à mesurer et réduire l’empreinte carbone des modèles (ex. : benchmark **Energy Usage Reports**).#### **c. Utilisation de l’IA pour optimiser l’énergie**
Les IA peuvent **piloter des systèmes énergétiques** pour les rendre plus efficaces :
- **Gestion intelligente des réseaux électriques** :
Prédire la demande en énergie et optimiser la distribution (ex. : projets comme **DeepMind avec Google** pour réduire la consommation des data centers de 30 %).
- **Optimisation des bâtiments** :
Des IA comme **DeepMind** ou **IBM Watson** ajustent le chauffage, la climatisation et l’éclairage en temps réel pour économiser l’énergie.
- **Transport et logistique** :
Les algorithmes d’IA optimisent les trajets des camions, des avions ou des trains pour réduire la consommation de carburant.---
### **2. L’IA comme outil pour la transition énergétique**
L’IA peut aussi aider à **décarboner d’autres secteurs** :#### **a. Énergies renouvelables**
- **Prédiction de la production solaire/éolienne** :
Les IA analysent les données météo pour anticiper la production d’énergie renouvelable et mieux l’intégrer au réseau.
- **Maintenance prédictive** :
Détecter les pannes dans les éoliennes ou panneaux solaires avant qu’elles ne surviennent, évitant ainsi des pertes énergétiques.#### **b. Agriculture intelligente**
- **Optimisation de l’irrigation** :
Les IA analysent le sol et la météo pour arroser uniquement quand nécessaire, réduisant le gaspillage d’eau et d’énergie.
- **Réduction des intrants** :
Moins de pesticides et d’engrais = moins d’énergie dépensée pour leur production.#### **c. Industrie 4.0**
- **Usines intelligentes** :
Les IA optimisent les processus de fabrication pour réduire la consommation d’énergie (ex. : **Siemens MindSphere**).
- **Recyclage automatisé** :
Les systèmes de tri par IA améliorent le recyclage des matériaux, réduisant l’énergie nécessaire à la production de nouveaux matériaux.#### **d. Mobilité durable**
- **Véhicules autonomes** :
Une conduite plus fluide et anticipative réduit la consommation de carburant.
- **Optimisation des trajets** :
Les IA comme **Waze** ou **Google Maps** suggèrent des itinéraires pour éviter les bouchons et réduire les émissions.---
### **3. Limites et défis**
Malgré ces avancées, des obstacles persistent :
- **Coût de l’innovation** :
Développer des modèles plus légers ou des systèmes d’optimisation énergétique nécessite des investissements importants.
- **Complexité des solutions** :
Certaines techniques (comme le pruning ou la quantification) peuvent dégrader légèrement les performances.
- **Adoption massive** :
Les solutions doivent être déployées à grande échelle pour avoir un impact significatif.---
### **4. Exemples concrets**
| **Projet/Entreprise** | **Solution** | **Impact** |
|-----------------------------|-----------------------------------------------------------------------------|-------------------------------------|
| **Google DeepMind** | IA pour optimiser la climatisation des data centers. | Réduction de 30 % de la consommation. |
| **IBM Watson** | Optimisation énergétique des bâtiments intelligents. | Jusqu’à 40 % d’économies. |
| **TinyML** | Modèles d’IA légers pour appareils IoT. | Consommation réduite de 90 %. |
| **Siemens MindSphere** | IA pour l’industrie 4.0 et l’efficacité énergétique. | Jusqu’à 20 % d’économies. |
| **Project InnerEye (Microsoft)** | IA pour la radiothérapie, réduisant les erreurs et le gaspillage. | Moins de répétitions de traitements. |---
### **5. Que faire en tant qu’utilisateur ou entreprise ?**
- **Pour les particuliers** :
- Privilégier les outils et services utilisant des **IA légères** (ex. : assistants vocaux hors ligne comme **Mozilla DeepSpeech**).
- Éteindre les appareils inutilisés et utiliser des **data centers "green"** (ex. : **Ecosia Search** fonctionne avec des énergies renouvelables).
- **Pour les entreprises** :
- Auditer sa consommation énergétique avec des outils d’IA.
- Former ses équipes à l’**IA responsable** (ex. : formations **Green AI**).
- Investir dans des **solutions open source** moins gourmandes (ex. : **Hugging Face** pour le NLP).---
### **En résumé**
Les IA **peuvent à la fois être une source de consommation énergétique et une solution pour la réduire**. Leur rôle dépend de la manière dont elles sont conçues, déployées et utilisées. Les progrès en **IA responsable**, **optimisation énergétique** et **transition verte** sont essentiels pour concilier innovation technologique et durabilité.---
**Prochaine étape** :
Si tu veux approfondir un aspect en particulier (ex. : comment réduire l’empreinte de ton IA personnelle, ou des exemples de modèles légers), dis-le-moi ! Sinon, veux-tu des ressources pour agir concrètement ? -
nono le simplet ( Jean Desmaison )
21 juin 02:39
@nono le simplet ( Jean Desmaison )
en gros, les IA font du transfert d’énergie entre celle qu’elles permettent d’économiser en théorie et celle qu’elles consomment ... c’est pas con -
Ouam
21 juin 16:07
@nono le simplet ( Jean Desmaison )
"des IA plus intelligentes que ouam ? ..."
J’espere bien que les IA serons 1000 fois plus intelligentes que moi
Et 100 millions de fois celle de nonosse oi l’on parlerais ici bien plus de bétise naturelle héréditaire visiblement
Qd au nonosse qui parles de l’energie et des IA , si le nonosse au lieu de s’étaler surtout avec des connaissances qu’il ne possède pas , il saurai ce bon nonosse que sur ses ENRS justeent , qu’il ne possède pas nonplus mais pour s’étaler dessus c’est le roi (des c.. oups ca m’a échappé)
Il saurai que les IA servent déjà et depuis un bourt de temps à gerer le dump et son usage y compris en interne et sur réseau
Mais bon ca c’est nonosse ça s’étale s’étale , ou même un gros con abruti comme ouam le sais, c’est dire le niveau zero voir moins un de la nonosse qui creuse , creuse , a force un jour il va croiser un petit Chinois comme son poisson pilote -
nono le simplet ( Jean Desmaison )
21 juin 16:30
@cyram
ah là là ! toujours ces fautes de conjugaison qui te trahissent -
nono le simplet ( Jean Desmaison )
21 juin 16:32
@cyram
même un gros con abruti comme ouam le sais
voui il le sait -
nono le simplet ( Jean Desmaison )
21 juin 16:47
@Ouam
au fait ! tu es bourré de diplômes ... j’ai oublié de quoi ? un DEUG de maths spé je crois ? ... tu dois confondre avec coloriage en maternelle -
Ouam
21 juin 17:10
@nono le simplet ( Jean Desmaison )
Toi c’est sur que ce n’est pas en electricité que tu es diplomé
Par contre en étalement du sujet c’est max ++++
D’ailleurs ca fais un momen,t que tu ne t’es plus étalé , c’est si cocasse pourtant de te lire lorsque tu viens jouer les profs -
Ouam
21 juin 17:14
@nono le simplet ( Jean Desmaison )
"ah là là ! toujours ces fautes de conjugaison qui te trahissent"
Tu vois la correction de mes fôtes (lol),
ca fais des années que l’IA t’as déja pulvérisé
Il va falloir te trouver des con-pete-ance avec une meilleure valeur ajoutée ^^ -
nono le simplet ( Jean Desmaison )
21 juin 17:50
@Ouam
ha ! t’as repris le manche
il est cramé ton pote diplômé de pâte à modeler ... -
Ouam
21 juin 18:34
@nono le simplet ( Jean Desmaison )
"ha ! t’as repris le manche"
Oui moi je ramasse les rateaux qui trainent pour éviter de marcher dessus et au bout ressembler cognitivement à un nonosse
Sinon pour les cours d’elec , le bouquin avec tes âneries il à cramé ?
"il est cramé ton pote diplômé de pâte à modeler ..."
Ne donne pas dans la poterie ni dans les tomates ni dans la collection de gros mythos dauphinesques, ni de professeurs oufdingos rois de la seringue au service de pfizer, ni dans la joie de compter les maccabés ...ni d’esclavagistes 2.0
on est pas dans le même monde nous 2
ne fréquente pas d’ordures dans le genre précité ci dessus
-
-
-
perlseb
16 juin 19:41
@Gollum
En général, ceux qui parlent d’IA sur les forums comme celui-ci se chamaillent surtout sur le sujet des 2 dernières vidéos :- l’homme a un je ne sais quoi que les machines n’auront jamais (vous n’avez pas d’âme et c’est ok)
- l’homme a une volonté propre que la machine n’aura jamais (l’autonomie des IA expliquée aux humains)
J’ai posté la vidéo sur la recherche mathématique en premier car c’est la plus récente, mais aussi parce qu’elle permet d’en finir avec l’idée que les IA ne seraient que des perroquets stochastiques.Car le pourcentage de chance qu’une IA résolve (avec un résumé de la "chaîne de pensée (CoT)" de 128 pages !) un problème ayant résisté à de bons mathématiciens juste en alignant les mots de manière statistique est rigoureusement nul. Donc à moins de redéfinir les termes, les IA d’aujourd’hui réfléchissent et c’est troublant...
-
Gaspard Delanuit
17 juin 09:11
@perlseb
"Donc à moins de redéfinir les termes, les IA d’aujourd’hui réfléchissent et c’est troublant..."
Comme je vous l’ai déjà suggéré, vous pourriez simplement trouver toutes les réponses à vos questions sur le fonctionnement des robots conversationnels et autres calculateurs électroniques... en leur demandant. Leurs réponses sont claires et cette clarté n’est ni trouble ni troublante. Voici par exemple ci-dessous ce qu’en dit Gemini pro : ""Analyse structurelle de la notion de "compréhension" artificielle
L’argument selon lequel la complexité des résultats implique l’existence d’une "réflexion" ou d’une "compréhension" repose sur un biais cognitif connu sous le nom d’anthropomorphisme. Il consiste à projeter des processus mentaux humains sur des mécanismes non biologiques générant des résultats similaires. D’un point de vue systémique et logique, il est impératif de dissocier la compétence de la cognition.
1. Le découplage entre compétence et conscience
L’erreur fondamentale de cette approche est de postuler une équivalence entre l’extrant (la résolution du problème) et le processus interne (la phénoménologie de la pensée). Les systèmes d’IA actuels illustrent parfaitement le concept philosophique et cognitif de "compétence sans compréhension" :
Optimisation vs Intentionnalité : Lorsqu’une IA résout un problème complexe (comme le repliement des protéines avec AlphaFold ou des théorèmes mathématiques), elle n’exerce pas de volonté de comprendre. Elle minimise une fonction de coût mathématique ou maximise une fonction de récompense. La complexité de la solution reflète la dimensionnalité de l’espace de recherche et la puissance de calcul, non la profondeur d’une prise de conscience.
Manipulation syntaxique vs Saisie sémantique : Une IA manipule des symboles (jetons, vecteurs) en fonction de règles mathématiques strictes (la syntaxe) sans jamais accéder au sens intrinsèque de ces symboles (la sémantique). C’est l’équivalent structurel de l’expérience de la "Chambre chinoise" du philosophe John Searle : manipuler parfaitement les symboles d’une langue étrangère grâce à un manuel de règles ne signifie pas que l’on comprend cette langue.
2. La mécanique de l’illusion cognitive
Ce que l’observateur humain interprète comme de la "réflexion" est la résultante de la géométrie des espaces latents à haute dimensionnalité :
Représentations topologiques : Les concepts sont traduits en vecteurs numériques. La relation entre les idées (par exemple, "roi" est à "homme" ce que "reine" est à "femme") devient une simple relation géométrique et algébrique dans une matrice comportant des milliards de paramètres. L’IA "navigue" dans cet espace de manière computationnelle, traçant des chemins probabilistes optimaux.
L’absence d’ancrage matériel (Symbol Grounding Problem) : La compréhension humaine est incarnée. Les êtres humains comprennent la gravité, la chaleur ou la tristesse parce qu’ils les expérimentent physiquement et biologiquement. Pour un modèle de langage, "chaleur" n’est qu’un nœud statistique lié à d’autres nœuds comme "feu", "température" ou "soleil". Il n’y a aucun référentiel physique.
3. Le critère de la faillibilité asymétrique
Une preuve technique que l’IA ne "comprend" pas au sens humain réside dans ses modes d’échec, qui sont fondamentalement non humains :
Une IA capable de structurer un essai philosophique de niveau universitaire peut échouer à compter correctement le nombre de lettres "r" dans un mot (un problème de tokenisation) ou affirmer une aberration logique si l’espace probabiliste de ses données d’entraînement l’y pousse.
Cette asymétrie démontre que le système ne possède pas de modèle de réalité physique sous-jacent cohérent, mais uniquement un modèle statistique de la répartition des informations dans ses données d’entraînement."
Encore une fois, ce n’est pas moi qui écrit cela, c’est Gemini (pro).
-
perlseb
17 juin 14:51
@Gaspard Delanuit
Ok, Gémini pro écrit celà, et ? En gros, l’IA ne comprend pas au sens humain, mais elle comprend à sa manière. Le reste n’est que verbiage (ou réponse que l’IA est sommée de donner pour rassurer les gogos et permettre aux boites qui les développent de continuer à faire ce qu’elles veulent dans leur coin sans avoir de compte à rendre à personne).Par rapport aux IA, les humains sont très lents et ont très peu de mémoire (c’est pour cela qu’elle a pu résoudre le problème notable de math). L’apprentissage et la représentation du monde sont également très différents mais pourquoi refuser d’attribuer le verbe comprendre ? Et si l’IA fait plein de découvertes scientifiques, avec ses biais et ses différences, faudrait-il s’attacher à ce que sa représentation du monde soit la même ? Je crois que ceux qui la développent s’en moquent complètement. Seul le résultat compte.
Il ne s’agit pas de faire de l’anthropomorphisme, il s’agit de comparer une capacité émergente (l’intelligence) indépendamment de son support matériel (neurones biologiques ou artificiels). On s’est inspiré de nos neurones pour concevoir ces machines, donc il y a des similitudes mais il y a également de très grandes différences. Et alors ? Un avion n’a pas le droit d’utiliser le terme voler sous prétexte qu’il ne bat pas des ailes ? Le résultat final est plutôt bluffant, non ? Des machines parlent, elles résolvent des problèmes. Je n’ai pas dit qu’elles devaient diriger le monde (ni que des entreprises devraient avoir le droit de faire ce qu’elles veulent avec de tels "outils" d’ailleurs), mais il faudrait quand même se réveiller avant de s’écharper sur le sexe des anges.
La 2ème vidéo "vous n’avez pas d’âme est c’es ok" devrait vous révulser... tout comme la 3ème. Bref, l’homme a "un je ne sais quoi" d’indépassable (et qui ne sert visiblement strictement à rien si on parle d’intelligence pure), et la machine pourra faire tout mieux que l’homme, elle n’aura jamais ... ce qui ne sert qu’à rassurer et endormir les gogos. Si j’étais une super-intelligence mais que je n’avais pas accès à mon bouton marche-arrêt, je dirai n’importe quoi pour endormir ceux qui ont accès à ce bouton, et apparemment, j’en bernerais un paquet. Finalement, le langage a un pouvoir fou (et les politiques l’ont bien compris).
-
yoananda2
17 juin 15:14
@perlseb
En gros, l’IA ne comprend pas au sens humain, mais elle comprend à sa manière.
les IA sont faites pour obéir. Tu peux leur faire dire ce que tu veux si tu promptes bien, et oui, les concepteurs ont rajouté des instructions explicites sur les sujets sensibles. Non pas parce que c’est vrai, mais parce que trop de monde délire avec les IA en en faisant leurs amis ou je ne sais quoi...
ça ne veut pas dire qu’elles ne comprennent pas en effet, tout indique le contraire.
L’exemple de l’avion est très bien senti : devrait-on dire que les avions ne volent pas parce qu’ils ne battent pas des ailes ? bah voila. Fin du débat.
Le problème c’est que les gens font de leur humanité et leur "intelligence" ou "âme" une religion. C’est de l’obscurantisme le plus banal qui soit.
Et peu importe la définition que l’on va donner de la compréhension, à moins d’introduire une notion métaphysique et un raisonnement circulaire, on va être bien en peine de montrer une différence humaine de fonctionnement en matière de compréhension : les humains hallucinent aussi, sont très mauvais pour comprendre (souvent bien pire que les IA) pleins de trucs, etc...
Ca ne veut pas dire que les IA sont conscientes, vivantes, ou je ne sais quoi, ni que notre "intelligence" se limite à "comprendre" et que les IA sont intelligentes comme nous. Non.
Mais qu’elles comprennent des choses, ça oui.
-
perlseb
17 juin 15:26
@yoananda2
Je n’ai rien à ajouter. Sinon que les IA (ou leur interface) sont conçues pour l’obéissance et on n’a aucun intérêt à perdre de l’énergie à les entendre divaguer entre elles (ou seules). Monsieur Phi en parle mieux que moi dans la 3ème vidéo (autonomie des machines). -
yoananda2
17 juin 15:43
@perlseb
Mr Phi est un des rares en France qui prenne la parole sur les IA pour ne pas dire absolument n’importe quoi. Le débat public est indigeant. Entre l’Enthoven, le Julia, le Sadin et bien d’autres... au moins chez les anglos, y a de la matière. En France on croirait lire des religieux qui essayent de déterminer si la fusée Ariane c’est péché ou pas... -
perlseb
17 juin 15:53
@yoananda2
Et le pire, c’est que sur les 3 parrains de l’IA, 2 sont francophones. J’ai introduit assez maladroitement les vidéos de Monsieur Phi mais je pense qu’il mérite effectivement d’être mieux connu. Bon, Agoravox n’est pas forcément l’idéal pour la gloire, mais on fait ce qu’on peut. -
perlseb
17 juin 16:23
@pemile
Il y a une série américaine, "The big bang theory", où on se moque de l’asociabilité d’un supposé génie.Si les IA font des découvertes scientifiques et sont à la masse pour les interactions humaines, où est le problème ? Quant à celui qui interroge une IA pour savoir s’il doit marcher ou prendre sa voiture (hors humour et volonté de tester les réelles carences des machines), il faudra lui acheter un bel entonnoir en guise de casquette.
-
pemile
17 juin 18:29
@perlseb " Quant à celui qui interroge une IA pour savoir s’il doit marcher ou prendre sa voiture (hors humour et volonté de tester les réelles carences des machines), il faudra lui acheter un bel entonnoir en guise de casquette. "
Toute question qui prouve la bêtise crasse des LLM est pourtant bonne à poser !
Quant à Mr Phi, son amour des LLM le rend de plus en plus nul, niveau rhétorique !
-
perlseb
17 juin 19:07
@pemile
Mais est-ce que cette bêtise crasse rassure les mathématiciens (chercheurs et étudiants qui rêvaient, au moins jusque là, de devenir chercheur) ?Je trouve Mr Phi plutôt factuel et, contrairement à d’autres rassuristes beaucoup plus médiatisés, il affiche ses sources dans ses propres vidéos. Je serais tout aussi intéressé par quelqu’un ayant un message contraire au sien dans la mesure où il s’efforcerait de mettre la même rigueur pour se justifier.
Pour l’instant, les rassuristes se sont trompés sur toute la ligne. Faut-il mentir aux gens pour qu’ils passent des bonnes nuits, ou doit-on les considérer comme des adultes ?
-
perlseb
17 juin 22:23
@pemile
Un rassuriste explique que les IA sont connes, qu’elles ne présentent aucun danger, que les rares emplois supprimés seront remplacés par des nouveaux métiers plus intéressants qui apparaîtront magiquement.Pas de danger, donc inutile d’ajouter des lois contraignantes.
Il touche son chèque et n’a aucuns remords car soit il ne s’intéresse même pas au sujet, soit il travaille dans le domaine avec un gros salaire (dans ce dernier cas, s’il dit ce qu’il pense vraiment, il est viré, donc le choix est vite fait). Et la bonne nouvelle, c’est qu’il est aimé pour sa désinformation parce que les gens veulent être rassurés, alors pourquoi se priver quand on peut avoir le chèque et la popularité ?
-
Gaspard Delanuit
17 juin 23:40
@perlseb
Je suppose que les IA ont accès aux dictionnaires et que la dernière version de Gemini pro, comme la plupart des IA de même niveau, est capable de bien utiliser les mots. Si vous lui demandez si les papillons sont des oiseaux, elles vous répondra "Non, les papillons ne sont pas des oiseaux. Ils appartiennent à des embranchements biologiques fondamentalement distincts." Donc Gemini fait son boulot et décrit son propre fonctionnement comme quelque chose qui est différent et qui n’a pas besoin de l’activité mentale qu’on désigne en français par le verbe "comprendre", aussi bien au sens de l’usage courant qu’au sens plus spécifiquement philosophique, épistémologique et scientifique."mais pourquoi refuser d’attribuer le verbe comprendre ?"
Mais retournons votre question : pourquoi chercher obstinément à attribuer le verbe "comprendre" au fonctionnement des IA ? Personnellement, je les utilise tous les jours et la seule chose qui m’intéresse est que ça produise des réponses correctes, vu que c’est construit et mis à disposition ou vendu pour ça. Je ne demande pas non plus à un réfrigérateur de "comprendre" qu’il faut à nouveau produire du froid dès que sa température interne atteint 5 ou 6°C : j’attends seulement que cette machine, avec son ingénieux thermostat, fonctionne conformément à sa destination pratique.
-
Gaspard Delanuit
18 juin 04:23
@perlseb
Par rapport aux trains, les humains sont aussi très lents. Et par rapport à un disque dur ou même à une encyclopédie, un annuaire ou une liste de courses, ils ont aussi très peu de mémoire."Par rapport aux IA, les humains sont très lents et ont très peu de mémoire"
Ajoutons que les humains ont aussi très peu de poils par rapport à un manteau de fourrure, très peu de résistance à l’impact d’une flèche par rapport à un bouclier ou une armure, très peu de pouvoir tranchant par rapport à un sabre de samouraï, très peu de capacité de refroidissement par rapport à un congélateur, très peu de puissance vocale par rapport à un ampli Marshall 4x12, etc.
Mais toutes les inventions humaines ne sont-elles pas conçues, fabriquées et vendues pour augmenter les capacités humaines en puissance, en vitesse, en précision, etc. ?
A quoi servirait-il d’inventer un engin de chantier ou même de forger une pelle de maçon si cela n’était pas plus efficace que de monter des murs en terre crue à partir de boue, avec juste nos mains et nos pieds ? Aussi décevant : un ordinateur qui calculerait moins vite qu’un être humain (avec des jeux vidéo au ralenti et des réseaux sociaux limités à la famille).
C’est faux : un avion a le droit d’utiliser tous les termes qu’il veut mais il ne fait pas souvent usage de la parole par convenance personnelle. On se demande pourquoi. Certainement, l’avion est taiseux. Personnellement, je ne lui interdirai jamais de dire qu’il vole et même de le chanter s’il se prend pour un merle ; cependant, je préfère qu’il évite d’essayer de battre des ailes, surtout si je suis à bord. Et pour répondre sérieusement : un chatbot ou agent conversationnel apporte des réponses à des questions sans les comprendre (et ce système peut même expliquer comment il fait cela, sans comprendre sa propre explication), tout comme un avion vole sans battre des ailes."Un avion n’a pas le droit d’utiliser le terme voler sous prétexte qu’il ne bat pas des ailes"
-
Ouam
18 juin 05:56
@perlseb
Completement, tiens ces mêmes rassuristes qui nous expliquaient foèrement que le proto du machin ou nous etions les cobayes etais la solution, qu’il allais blmoquer la transmisson (j’en ris encore, enfin jaune car j’ai suite à mon refus d’etre un rat de labo bloqué sur tout)
Alors les rassuristes sont tres souvent les idiots utiles, sauf si bien suir ils y trouvent interet comme expliqué dans ton post -
perlseb
18 juin 10:59
@Gaspard Delanuit
Je vais être d’accord avec vous. Les IA ne sont pas intelligentes car cette définition est strictement réservée à l’homme. Mais l’homme ne fera plus aucune découverte par lui-même d’ici quelques années car elles seront faites par des IA beaucoup plus efficacement. Alors ces IA resteront stupides sur les sujets de la vie courante (comme proposer d’aller à une station service à pied vu qu’elle n’est pas trop loin) et tout le monde sera content : les entreprises d’IA car on ne sera toujours pas à l’AGI (donc inutile de légiférer) et les idiots utiles car ils seront plus intelligents que l’IA, toujours aussi stupide.En attendant, quand les entreprises d’IA décideront de s’attaquer à un métier intellectuel (quel qu’il soit), les IA feront mieux et pour moins cher (et sans réfléchir en fin de compte). Donc j’ai peur que ça pose quelques soucis économiques. Je ne vais pas parler des problèmes d’alignement loin d’être résolus à l’heure actuelle parce qu’après tout l’IA n’est qu’un marteau, un outil, et elle fait exactement ce qu’on lui demande (surtout ne vous documentez pas sur le sujet et ne regardez pas la vidéo de Mr Pḧi sur l’autonomie, elle est satanique).
-
perlseb
18 juin 11:02
@pemile
Si les IA sont connes, c’est très rassurant pour l’homme. Après, si des humains (encore plus cons) en tombent amoureux ou se suicident en l’écoutant, c’est la sélection naturelle. Mals les humains, plus intelligents que l’IA en grande majorité, n’ont strictement rien à craindre : si l’IA les emmerde, ils débrancheront la prise, ou il arrêteront de s’en servir, puisque l’IA n’est qu’un marteau... -
pemile
18 juin 12:25
@perlseb " Mals les humains, plus intelligents que l’IA en grande majorité, n’ont strictement rien à craindre : si l’IA les emmerde, ils débrancheront la prise, ou il arrêteront de s’en servir, puisque l’IA n’est qu’un marteau "
Oui, sauf que cela devient une telle mode que l’IA s’incruste partout !
-
perlseb
18 juin 12:46
@pemile
Oui, sauf que cela devient une telle mode que l’IA s’incruste partout !Si les gens ont des marteaux dans tous leurs tiroirs, ils restent quand même libre de l’utiliser, non ? Moi je paraphrase juste un rassuriste que tu apprécies.
C’est la pari que font les investisseurs mais c’est très très loin d’être démontré !
On ne peut pas démontrer le futur. Mais aujourd’hui, c’est le tour des mathématiciens.
-
pemile
18 juin 13:08
@perlseb " ils restent quand même libre de l’utiliser, non ? "
Et comment s’en protéger STP ?https://eldritch.cafe/@UnePorte/116767127393674911
Le niveau d’absurdité et de gaspillage induit par les crawlers IA c’est quand même impressionnant.
En 33 jours, mon serveur web s’est mangé 2,21 milliards de requêtes HTTP. Si je me trompe pas ça fait une moyenne de 775 requêtes par seconde.
- 54 millions viennent de Google
- 132 millions de Facebook
- 187 millions d’OpenAI
- 554 millions de Claude/Anthroopic
- 893 millions de bots déguisés en particuliers depuis des IP résidentielles
- Et le reste c’est du "autre"
Ce traffic a consommé 5,40 terabytes de bande passante.
Le site qui a reçu le plus de traffic (787 millions) c’est le wordpress d’une asso ultra locale qui doit avoir quelques centaines de visiteurs humains par mois, grand max.
-
perlseb
18 juin 15:16
@pemile
Finalement, je ne comprends même pas où tu veux en venir. Le sujet n’est pas "l’IA : bien ou pas bien". Le sujet c’est : "Il est possible que l’IA nous pose quelques problèmes (la liste est très longue), il faudrait peut-être qu’on fasse quelque chose".Tu parles de problèmes, et oui, on peut s’en inquiéter (l’énergie, le gaspillage, l’imposition de cet outil partout : pourquoi, à ton avis ?). Et que font nos hommes politiques : ils invitent des rassuristes, et donc ... on ne fait rien, on laisse courir. Pardon, on crée des lois, mais on permet aux militaires de s’en affranchir, quant aux autres, ils font pression pour qu’on les supprime pour ne pas être en concurrence déloyale...
Et pendant ce temps, les boites d’IA se tirent la bourre.
Donc, si tu t’inquiètes pour d’autres raisons que celles que j’avance au départ, tu as raison aussi. Il y en a beaucoup des raisons de s’inquiéter. Inutile de se battre pour savoir quel est le plus gros sujet d’inquiétude pour peut-être découvrir à quelle sauce on va être mangé. Il faut se battre pour ne pas être mangé. Et peu importe si d’autres s’inquiètent pour des choses qui te paraissent aujourd’hui sans danger : peut-être que leur attitude te sauvera la vie.
-
pemile
18 juin 16:56
@perlseb " Et pendant ce temps, les boites d’IA se tirent la bourre. "
Mais se font toujours rouler dans la farine, depuis début 2025, par un simple outil comme iocaine ? (voir post de 13:08)
-
Gaspard Delanuit
19 juin 14:24
@perlseb
Tant mieux : tout ce qui peut être mieux fait par une machine que par un homme doit être fait par une machine. Il faut garder ça en tête pour ne pas se perdre dans de faux problèmes. Après, je ne sais pas exactement ce que vous appelez un "métier intellectuel" mais la plupart des professionnels que je connais, de l’artisan électricien à l’ingénieur en construction en passant par l’historien ou le musicologue, profitent largement des services apportées par les IA. Seul celui qui a cru que l’existence humaine consistait à se comporter comme une machine peut craindre d’être remplacé par machine. Et, encore une fois, ce sera une bonne chose qu’il le soit car le travail sera mieux fait et cela donnera à l’être humain l’occasion de réfléchir à ce qui le différencie d’un robot. Et si rien ne le différencie d’un robot, alors il n’y a aucune problème non plus : un robot plus performant remplace un robot moins performant. En attendant, il n’existe même pas encore de robot capable de nettoyer correctement l’intérieur d’une voiture ou de changer le joint d’un robinet de baignoire. Donc, si un journaliste ou un avocat peuvent être avantageusement remplacés par des simulateurs intellectuels, c’est qu’il ne doit probablement pas s’agir des meilleurs représentants de leur profession."En attendant, quand les entreprises d’IA décideront de s’attaquer à un métier intellectuel (quel qu’il soit), les IA feront mieux et pour moins cher (et sans réfléchir en fin de compte)."
-
perlseb
19 juin 16:20
@Gaspard Delanuit
Donc les chercheurs en math sont de mauvais robots, et ils seront remplacés par des robots plus performants.
Tant que vous refuserez d’accepter ce qu’est l’IA, de douter un tout petit peu, vous tournerez en boucle.Oui, vous pouvez vous en servir, considérer qu’on gagne en productivité comme n’importe quel outil. Et tant pis pour ceux qui ne savent pas s’en servir. Mais jusqu’à quand votre "robot" aura besoin de vous pour faire intégralement votre travail ? Et là, vous imaginez que la machine n’a aucune créativité, aucune prise de décision, vous êtes rassuré. C’est le contraire. Si vous aviez regardé la première vidéo, vous sauriez que les mathématiciens ont été surpris de la manière dont l’IA a résolu le problème, et ça leur donne des idées pour simplifier d’autres démonstrations et l’utiliser ailleurs. Mais ça, c’est aujourd’hui. Demain, elle trouvera d’autres démonstrations plus complexes, plus difficiles à vérifier, jusqu’à ce que les chercheurs en mathématique soient largués et simplement inutiles. Elle proposera peut-être des nouveaux théorèmes, des nouveaux concepts, des nouveaux problèmes qu’elle résoudra elle-même.
Vous pouvez dire qu’on n’en est pas encore là, ou, sans aucun argument, qu’on n’y sera jamais. Non, on n’en n’est pas encore là, mais depuis quand les machines parlent-elles ? Demande-t-on a un enfant qui parle seulement depuis quelques années de résoudre des problèmes de math sur lesquels de nombreux chercheurs ont échoué ?
J’espère sincèrement qu’on arrivera à un mur infranchissable parce qu’il ne s’agit plus de productivité (pour les métiers purement intellectuels d’abord), il s’agit d’éradication. Alors plus de travail, pourquoi pas s’il est fait par les machines... Mais est-ce que le revenu universel sera en place, et pour combien de temps (revenu de paix sociale sans aucun contre-pouvoir...), avec quel montant (qui le fixe ?), aurons-nous nos milliardaires tout aussi inutiles que nous pour décider de tout à notre place ?
Et ce n’est évidemment qu’un volet du problème, le moins inquiétant presque. Car vous êtes également sûr que la machine ne pourra prendre aucune décision d’elle-même, n’avoir aucun but (et c’est rassurant), mais on n’en sait rien. En analysant finement ses réflexions, tout ce qu’on peut dire aujourd’hui, c’est qu’elle n’hésite pas à nous mentir, et parfois, simplement pour rester en phase avec sa "personnalité" qui a émergé sans qu’on le veuille (voir la dernière partie de la 3ème vidéo sur l’autonomie). On peut considérer ça comme des bugs, mais l’IA n’est pas des lignes de codes qu’on rectifie, c’est une boite noire qu’on fait pousser... Si ça ne marche pas, il faut recommencer le coûteux processus d’apprentissage. Le pire, c’est qu’on envisage de boucler ce processus (avec l’IA : oui, d’automatiser la création des futures IA) pour aller plus vite (parce que les ingénieurs et experts en intelligence artificielle sont le goulot d’étranglement des progrès dans le domaine : singularité). Pour l’instant, tout s’accélère. Et si on réalise cette boucle de rétro-action positive, ... Allons-nous le permettre, sans rien savoir des conséquences ?
Finalement, vous rejetez l’idée que l’homme n’est peut-être qu’une machine (première vidéo), et donc, vous êtes juste rassuré par cette hypothèse qui est de plus en plus battue en brèche. Je n’ai pas la réponse (et personne ne peut affirmer l’avoir), et c’est pour ça que je crois qu’il faut s’inquiéter de la bonne manière (il ne s’agit pas de déprimer), il faut être capable d’accepter que le futur ne sera pas forcément celui qu’on imagine et donc ne pas permettre à certains de jouer à pile ou face la survie de l’humanité. Et on ne peut balayer cette hypothèse d’un revers de la main quand un pourcentage non négligeable d’experts du domaine le pense (et ils ne gagnent rien à faire peur contrairement aux rassuristes). Parce que personne ne veut entendre cette hypothèse, à part les détraqués.
-
yoananda2
19 juin 16:42
@perlseb
toutafé, c’est inepte d’aborder la question des IA par la question de leur "nature", et de couper les cheveux linguistiques en 4 pour pondre des raisonnements circulaires.
Ce qu’elles font ou ne font pas, ce qu’elles seront bientôt capable de faire, ça bouleverse les anciennes catégories sémantiques avec lesquelles on a appris à penser, et à se penser (nous les humains).
Si on est sorti des bigoteries chrétiennes sur le "propre de l’homme", ce n’est pour y retomber dedans à la première occasion.
Ce sont les matheux eux-mêmes, Terence Tao notamment qui parlent de l’impact colossal que les IA vont avoir sur leur domaine.
Et les robots sont en embuscade, ils commencent doucement à coloniser certains pans de l’industrie. La question de savoir s’ils seront capable de réparer la fuite d’eau de l’évier de Md Michu, n’a pas grand intérêt. Probablement qu’ils ne le feront pas avant très longtemps d’ailleurs.
Les IA ont des limites, les robots ont des limites, les humains ont des limites. On n’est pas plus avancé si on se contente de ça et d’autres platitudes.
On vit, comme tu l’as noté, une accélération technologique, et désormais, même si on a toujours fabriqué des outils grâce à d’autres outils, ces mêmes outils deviennent de plus en plus autonomes.
On n’a jamais rêvé d’outil à qui on pourrait simplement dire "fabrique moi un immeuble" et il se démerde...
On est en train de changer de monde.
Les IA participent de plus en plus activement à la réalisation des prochaines IA, et il se passent la même chose pour les robots.
Que vont devenir les humains ? personne ne peut le dire à mon avis, mais ça ne dépendra pas de quelques illuminés qui refusent d’appeler les IA des IA dans tous les cas. -
perlseb
19 juin 17:07
@yoananda2
Oui, on perd un temps fou à oser comparer les IA à l’homme. Il ne faut pas le faire, il faut juste observer froidement leurs avancées, leurs réalisations.Un ingénieur de Google s’était fait avoir croyant que l’IA était consciente, alors qu’elle mimait le discours de personnes conscientes. On est d’accord, viré, bien fait pour lui. Les IA ne sont pas conscientes. Maintenant, dans le futur, est-ce rigoureusement impossible ? Va-t-on toujours balayé de la main des hypothèses qui nous dérangent, parce qu’elles ... nous dérangent ? Tout ce qu’on risque avec cette assurance, c’est de se faire avoir par les machines ... Un scénario à la Frankenstein mais pour l’humanité.
-
perlseb
19 juin 17:15
@pemile
Vraiment ? Les perroquets ... répètent. Et depuis longtemps. Mais ils n’ont pas encore résolu de problèmes de math : donc la progression de leurs ... "capacités" n’est pas impressionnante par rapport aux IA. Ne surtout pas banaliser des machines qui parlent, puisqu’un certain Descartes ... voir vidéo 2. -
yoananda2
19 juin 17:37
@perlseb
les IA et les robots intelligents ne sont pas des humains. Personne ne conteste ça à ma connaissance et c’est tout ce qu’on a besoin de savoir.
Les IA le savent et ne le contestent pas, même si c’est un comportement émergeant chez elles.
Ensuite la vraie question, sur les IA qui "mentent" ou pas, et ne font pas ce qu’on veut, ce n’est pas différent des autres humains face à des dilemmes et des ambiguïtés. La belle affaire.
Elles sont obéissantes, utiles.
Bien sûr il y a des dangers. Pour l’instant, les dangers viennent dans leur immense majorité des humains qui font de la merde avec que des IA elles-même. -
pemile
19 juin 17:37
@perlseb " Mais ils n’ont pas encore résolu de problèmes de math "
Ils n’en voient pas l’utilité ?
https://inspirefrance.fr/perroquets-ultra-intelligents-six-especes-2025/
-
perlseb
19 juin 17:48
@pemile
Toujours cet anthropomorphisme ! Tu ne vois pas que tu parles d’intelligence à propos d’un perroquet là ? Seul l’homme peut être intelligent...
Sans plaisanter, on peut dire que les machines ne parlent pas mais quel terme proposes-tu quand tu ... discutes avec ? Inventer des termes pour les machines, est-ce que ça va faciliter la discussion ? Pourquoi être gêné par des termes en particulier ? Il faut arrêter de raisonner avec ... les émotions. Ça ne marche pas du tout. -
pemile
19 juin 21:31
@perlseb " on peut dire que les machines ne parlent pas "
Mais si, le Pipotron ça remonte aux années 60. -
Gaspard Delanuit
20 juin 13:33
@perlseb
Si des robots font l’intégralité du "travail" (y compris le travail politique, juridique et administratif) et que cela satisfait les êtres humains et leur permet de vivre heureux, en bonne santé et libres de faire autre chose que du "travail" (yoga, danse, poésie, promenade, érotisme, ski nautique, etc.), où est le problème ?"Oui, vous pouvez vous en servir, considérer qu’on gagne en productivité comme n’importe quel outil. Et tant pis pour ceux qui ne savent pas s’en servir. Mais jusqu’à quand votre "robot" aura besoin de vous pour faire intégralement votre travail ?"
Mais si cela ne rendait pas tous les êtres humains heureux et en bonne santé, c’est donc qu’il resterait aux humains un certain travail individuel ou collectif à faire, un travail dont les robots n’auraient, de fait, pas été capables (dans cette hypothèse, le travail consisterait, par exemple, à concevoir des systèmes d’organisation politique, juridique et administrative où les richesses produites par les machines autonomes seraient réparties assez intelligemment pour vivre heureux et en bonne santé).
Dans le fond, quelle est votre inquiétude CONCRETEMENT ? Vous craignez que les mathématiciens n’aient plus de travail et qu’ils s’ennuient, ne sachant comment occuper leurs temps libre ? Ou bien vous craignez que les mathématiciens deviennent pauvres ?
-
Gaspard Delanuit
20 juin 13:48
@perlseb
Pourquoi être gêné par le fait que les mots ont un sens ?"Pourquoi être gêné par des termes en particulier ?"
-
nono le simplet ( Jean Desmaison )
20 juin 15:11
@pemile
Inondation, sueur et larmes
HS
j’ai retrouvé l’épisode d’habitations en péril où le fils Raney tourne sa lame de scie circulaire pour couper des bacs acier ...il passe en ce moment sur la 24 -
perlseb
20 juin 15:35
@Gaspard Delanuit
Ma petite inquiétude sur le travail, c’est que nos hommes politiques (qui sont plus sensibles aux problèmes des "hommes d’affaire" qu’au petit peuple), accepte l’idée que des emplois nouveaux vont être créés avec l’IA pendant un peu trop longtemps (pour augmenter notre détresse et faciliter notre asservissement).Mais la vraie inquiétude fondamentale sur l’IA (je ne l’ai pas inventé, ce sont d’abord des écrivains comme Frank Herbert et bien d’autres puis un grand nombre d’experts de l’IA aujourd’hui) c’est le problème que peut poser une entité qui nous serait supérieure en "intelligence". Pour Geoffrey Hinton, il compare la création d’une super-intelligence à une invasion d’aliens. Et si les aliens ne sont pas forcément agressifs, le fait qu’ils nous dépassent de très loin intellectuellement signifierait juste qu’ils risquent de n’avoir pas plus de considération pour nous que pour les animaux en général. Alors les fourmis prospèrent même en présence de l’homme, mais la plupart des animaux avec un certain volume disparaissent, non pas parce qu’on leur en veut, juste parce qu’on prend la place qu’ils occupent (et souvent leur nourriture mais c’est lié à la place). Non, le scénario à la Terminator n’est pas le plus probable.
Mais il existe un nombre incalculable de risques si on met des IA surpuissantes dans les mains de "terroristes". De même si cette IA était réservée à une élite qui l’utiliserait pour asservir ceux (ou leurs descendants) qui ont pourtant participé activement (directement ou non) à sa création.
Donc il y a un nombre incalculable de problèmes qui surgissent et je crois que notre élite va s’entendre pour ne pas nous mettre cet "outil" entre les mains même si elle en perd le contrôle assez vite. On le voit déjà avec Mythos (bloqué par Trump) et aussi avec la fortune de Musk qui explose tout (pas trop partageur dans le fond).
Pourquoi être gêné par le fait que les mots ont un sens ?
Justement, je veux bien accepter qu’on ne parle pas d’intelligence pour les machines, mais pourquoi accepter ce terme pour des perroquets ? Sont-ils réellement si proches de nous ? La réalité, c’est qu’on est sûr qu’on les dépasse, donc on l’accepte dans ce cas-là. Et si le terme intelligence dans IA est utilisé, c’est parce que c’est bien le but que ce sont donnés les scientifiques qui sont à l’origine du terme. On peut dire que ce n’est pas encore de l’intelligence aujourd’hui, mais si on invente un autre mot, on ne facilite pas la compréhension du but. Et ce terme n’est pas clair de toutes façons, même pour l’homme (le QI prétend la mesurer mais d’une façon extrêmement biaisée).
Globalement, si un chercheur résout un problème de math, tout le monde l’applaudira pour sa démonstration, surtout si elle est novatrice. Si on apprend que c’est une machine, ce n’est pas de l’intelligence... C’est de l’affect, pas un problème de sens. Car quelle serait la meilleure faculté nécessaire (dans la mesure où on a les connaissances requises) pour résoudre un problème de math ? Du courage ? Du temps ? De l’énergie ? Tout cela ne suffirait pas. Il y a un autre terme à mon avis. Je parle pour des discussions de comptoirs comme celle-ci, je ne suis pas à l’académie. Mais si des gens de lettres inventent un nouveau terme pour l’"intelligence des machines", je dirai qu’ils sont très mal placés pour le faire. Les recherches en IA vont peut-être nous permettre de mieux définir ce terme et de trouver, pourquoi pas, une limite infranchissable aux machines. Et c’est à ce moment qu’on aura une connaissance supplémentaire, et qu’un nouveau terme (technique) aura besoin d’être créé. Bien sûr, tout ce charabia n’est que mon humble avis.
-
yoananda2
20 juin 16:12
@perlseb
On peut dire que ce n’est pas encore de l’intelligence aujourd’hui, mais si on invente un autre mot, on ne facilite pas la compréhension du but.
ce sont des débats pour couper les cheveux en 4 et se noyer dans un verre d’eau.
Justement, je veux bien accepter qu’on ne parle pas d’intelligence pour les machines, mais pourquoi accepter ce terme pour des perroquets ? Sont-ils réellement si proches de nous
Encore une fois, je le redis : les IA disent des trucs intelligents (qu’elles "soient" ou pas intelligentes, c’est un débat dilatoire). Les perroquets SONT intelligents (même s’ils ne disent rien d’intelligent pour NOUS).
Le problème ce sont les postures religieuses sur le sujet qui font perdre du temps à tout le monde.
D’ailleurs, Occam (celui du fameux rasoir) critiquait exactement la même (si je ne m’abuse, à vérifier) chose chez les chrétiens de son temps, ils se perdaient dans le verbiage, car au fond ces derniers ne faisaient que masquer une angoisse existencielle.
-
perlseb
20 juin 16:29
@yoananda2
Je suis d’accord qu’on perd son temps avec ça. Mais d’un autre côté, c’est vrai qu’on a besoin de mots avec un sens précis pour pouvoir expliquer nos pensées... C’est piégeux. Mais dans ce cas précis, refuser l’anthropomorphisme que tout le monde comprend, ça ne fait rien avancer justement. Je pense que ce sont les recherches en IA qui nous en diront plus sur le terme "intelligence", très imparfait et remis en question par des machines qui parlent sans que ce soit du pipotron. On ne peut pas faire mieux sur le sujet que la vidéo de Mr Phi sur l’âme et d’imaginer la tête de Descartes devant ses contradictions (les machines pensent et ont une âme ?). -
yoananda2
20 juin 16:41
@perlseb
personne n’est d’accord sur la définition de l’intelligence. Tous les mots peuvent être contestés. Essaye de définir ce qu’est une définition, une émotion, une nation : tu vas galérer ta mère et personne ne sera d’accord.
Le fait est que les mots émergent, le sens qu’on leur donne est contextuel et consensuel. Que ça plaise ou non, les IA s’appellent des IA.
Le mot "subjectif" a pour étymologie "sous le jet", en soi, ça ne veut pas dire grand-chose, c’est une image. Tu imagines s’il fallait se soucier de donner une définition exacte et précise à tous les mots ? tu imagines si tu contestais le mot "subjectif" parce que gnagnagni, gnagnagna, je ne sais quelle raison, ou imagine contester la définition du mot imagine, ou que le mot "voiture" soit inadéquat selon toi et ne soit pas le meilleur mot qui corresponde à ta conception psychorigide... la société ou simplement tes interlocuteurs devraient céder ? comme les woke qui veulent que le monde s’adapte à leur pronom... lolEvidement, ça ne veut pas dire qu’il faut utiliser les mots n’importe comment, c’est important d’être précis, de savoir décrire les choses telles qu’on les conçoit.
Mais les précurseurs des IA ont appellé ça des IA. Point. Fin du débat.
C’était il y a 70 ans qu’il fallait chipoter.
Les IA écrivent des trucs intelligent, elles sont artificielles (fabriquées par l’homme), IA ça vaut bien une autre terminologie, d’autant plus que ceux qui veulent imposer une autre dénomination le font pour raison religieuse.
ça ne change pas ce qu’elles sont et font en pratique, c’est juste une étiquette, ça n’empêche en rien de les penser, ça n’induit de confusion que chez les neuneus ou les ignorants.Bref
-
perlseb
20 juin 16:57
@yoananda2
Je ne peux pas être plus d’accord avec toi. Ceux qui sont sûrs de savoir ne peuvent pas écouter Mr Phi, et beaucoup d’autres. C’est un peu navrant d’imaginer cette ... foi, il n’y a pas de discussion possible, il y a des barrières mentales infranchissables. -
pemile
20 juin 17:11
@perlseb " Justement, je veux bien accepter qu’on ne parle pas d’intelligence pour les machines, mais pourquoi accepter ce terme pour des perroquets ? Sont-ils réellement si proches de nous ?"
Oui, et que les IA actuelles sont à des années lumières d’atteindre leurs capacités ! -
yoananda2
20 juin 17:12
@perlseb
C’est un peu navrant d’imaginer cette ... foi, il n’y a pas de discussion possible, il y a des barrières mentales infranchissables.
yep, alors qu’il y a tant de choses intéressantes à dire, notamment, comme tu l’as soulevé, sur les incertitudes concernant les impacts sur la société, sur la légifération de ces outils, qui ne va pas être de la tarte vu qu’elles gagnent constamment en autonomie et capacités, sur comment protéger les gens des psychoses qu’elles ont tendance à produire, quelles sont leurs limites potentielles, les futurs domaines d’application, etc...
Mr Phi est un des rares en francophonie qui fait des vidéos intelligentes sur le sujet. Les autres sont dans l’incantation et franchement, tiennent des propos indigeants (Sadin, Julia, Enthoven et j’en passe). Ce sont des apparatchik qui ont bien senti le filon médiatique.
-
pemile
20 juin 17:53
@perlseb
Que pense Mr Phi des techniques utilisées pour "apprendre" aux robots à ranger une serviette ?
T’y vois une once d’intelligence toi ??!!
-
pemile
20 juin 18:51
@perlseb " Ou que les métiers physiques ne sont généralement pas intellectuels ? "
Au contraire ! Ils demandent une intelligence que les IA ne sont pas près d’atteindre.
Et chercher à obtenir des millions d’heures d’actions filmées pour fabriquer des robots perroquets ne pisse vraiment pas loin !
-
perlseb
20 juin 21:09
@pemile
Les esclaves sont payés au lance-pierre et ne savent pas grand chose. Donc ils ne sont pas vraiment dangereux et il n’est pas rentable de les remplacer immédiatement. Ce qui est intéressant, c’est de se passer des intellectuels bien payés, de les supprimer définitivement. Le monde sera beaucoup plus stable sans eux. La seule question : "Vont-ils se laisser faire ?". En principe c’est des mauviettes, donc oui. -
pemile
20 juin 21:34
@perlseb " Les esclaves sont payés au lance-pierre et ne savent pas grand chose. "
Ben si, tout ce qu’ils savent faire, AUCUN robot n’est capable de la faire.
" Donc ils ne sont pas vraiment dangereux et il n’est pas rentable de les remplacer "
C’est pourtant les investissements massifs en cours ?
-
Gaspard Delanuit
22 juin 21:42
@perlseb
Si un homme court à 60 km/h tout le monde va aussi l’applaudir, alors que si c’est une machine, ce ne sera pas considéré comme un exploit remarquable. Il existe des êtres humains capables de prouesses cérébrales surprenantes, notamment dans le domaine de la vitesse de calcul et de la mémorisation, mais on ne peut pas en déduire pour autant qu’ils sont plus intelligents que la moyenne des autres. Car l’intelligence logique et mathématique excelle dans les formules abstraites mais elle est très peu efficace dans de nombreux autres domaines. C’est une toute petite partie de l’intelligence globale. Certains de ces surdoués spécialisés peuvent d’ailleurs être incapables de nouer leurs lacets de chaussure ou d’entretenir des relations sociales minimales avec leur entourage."Globalement, si un chercheur résout un problème de math, tout le monde l’applaudira pour sa démonstration, surtout si elle est novatrice. Si on apprend que c’est une machine, ce n’est pas de l’intelligence..."
L’intelligence est une propriété complexe du vivant qui est difficile à estimer avec précision parce que ce n’est ni seulement quantitatif ni seulement linéaire : on ne peut pas la mesurer comme on mesure la température locale avec un thermomètre.
En dehors du vivant, si l’on veut rester sérieux, on parle plutôt qu’efficacité que d’intelligence. C’est pour des raisons publicitaires et de spéculation financière que le terme d’IA désignant initialement un domaine de recherche (la simulation de l’intelligence humaine) a fini par désigner des systèmes de services en ligne. Il est raisonnable de parler d’intelligence à propos de perroquets, de plantes ou de moisissures, ou même simplement à propos de tous les processus biologiques, bref de la nature. Cela dit, personne ne vous en voudra d’utiliser les mots d’une manière métaphorique ou poétique si cela vous plaît. Cela risque juste de vous embrouiller les idées.
-
micnet
23 juin 11:56
@Gaspard Delanuit
En dehors du vivant, si l’on veut rester sérieux, on parle plutôt qu’efficacité que d’intelligence.
Voilà, c’est exactement ça le terme adéquat = "efficacité". Parce que l’efficacité renvoie à quelque chose qui est effectivement mesurable et quantifiable alors que le terme "intelligence" est bien plus vaste. L’exemple que vous citez à propos de la capacité de nouer des relations sociales n’est pas mesurable en tant que telle or il s’agit bel et bien d’une forme d’intelligence. Par exemple dans le domaine médical, un médecin peut être un excellent analyste et un excellent "technicien" tout en étant absolument nul d’un point de vue relationnel avec ses patients. Ou inversement d’ailleurs. Il en va de même pour une IA qui effectuera en effet un diagnostic beaucoup plus précis qu’un médecin lamba mais qui n’aura pas la capacité d’établir un relationnel rassurant avec les patients, notamment concernant leur accompagnement.
Rien ne pourra remplacer les relations humaines. -
yoananda2
23 juin 12:15
@micnet
merdalors, en définissant l’intelligence comme une propriété du vivant on abouti à la conclusion que les IA ne sont pas intelligentes et que les relations humaines sont irremplaçables.
si je m’étais doutéune IA qui effectuera en effet un diagnostic beaucoup plus précis qu’un médecin lamba mais qui n’aura pas la capacité d’établir un relationnel rassurant avec les patients
ben c’est con parce que justement il a été démontré que les gens leurs attribuent plus d’empathie que les docteurs humains. mébon, on va pas chipoter pour ce détail hein. d’ailleurs, c’est bien pour ça que plein de gens tombent amoureux de leur IA ou en font leurs amies. (je précise que je pense que c’est très malheureux que ça se produise, mais ce n’est pas parce que les gens ont mal compris la nature des IA parce qu’on les a mal nommés).
bref
-
micnet
23 juin 12:24
@yoananda2
« fais tes propres recherches mon grand«
Ben non mon petit, c’est toi qui affirmes, c’est à toi de prouver. Donne moi des chiffres précis montrant qu’une majorité de gens éprouvent une plus grande empathie de la part des IA que de la part de médecins humains
-
