Des crackers piratent les réfrigérateurs de supermarchés, des millions d’euros de nourriture jetés
Des rayons entiers de nourriture ont dû être jetés. Les pertes pourraient se chiffrer en millions d'euros. Comment cette cyberattaque s'est-elle déroulée ?
Passez à GNU Linux et virez Internet !
300 magasins Intermarché et Netto, et moins d'une centaine de magasins U ont été touchés ce lundi 12 octobre par une cyberattaque visant les systèmes de régulation frigorifique du fabricant danois Danfoss, selon les deux distributeurs. Des pirates auraient modifié à distance les températures des installations, provoquant la destruction de stocks de produits frais et surgelés.
20 réactions
-
juanyves
13 octobre 13:06
Ce ne sont ni des crackers ni des hackers, c’est chatgpt. Il suffit de demander à un Artifice de l’Intelligence comment réchauffer un plat préparé de chez Carrefour et il te donne le processus à suivre et le code à introduire dans ta machine "connectée intelligemment" . Maintenant tout le monde peut hacker tout le monde. Mais heureusement, Chatgpt t’avertit, avant, que ce n’est pas bien et que tu risques de retrouver ton plat avec plein de bactéries pas protéinées suivant le protocole établi pour la décongélation du produit.
-
pemile
13 octobre 13:31
Pourtant, les mots de passe étaient super costauds et changeaient tous les jours, la date du jour comme mot de passe !
-
perlseb
13 octobre 16:37
@pemile
Le problème c’est que l’IA va pouvoir tout hacker, même si les mots de passe sont solides. Depuis juin et l’affaire Hugging Face, il faut bien comprendre que internet peu tomber à cause de l’IA, ce n’est pas du tout de la science-fiction, c’est le problème d’avoir des IA surhumaines pour trouver des failles, décompiler du code machine (voir les mélanges de jeux vidéos récemment).C’est le début du grand n’importe quoi avec l’IA. Finalement, ce qui est rassurant, c’est qu’on va forcément réagir avant que l’IA ne soit totalement incontrôlable (car les pertes financières et les risques de pénurie alimentaire sont déjà là).
-
perlseb
13 octobre 19:24
@pemile
Sur ce coup, tu es complètement ridicule. Il faut te mettre à jour, c’est dès aujourd’hui que l’IA trouve des failles qui ont résisté aux humains pendant plusieurs dizaines d’années. Et les failles tombent comme les résolutions de problèmes de maths. Alors on les corrige (en s’aidant de l’IA !) : et les corrections seront buguées car l’IA qui suivra trouvera une faille dans la correction que l’IA précédente avait validée (ou ailleurs dans le code) : c’est sans fin...
Tout ce qui est relié à internet devient un risque. -
perlseb
13 octobre 20:06
@pemile
Informe-toi correctement de l’épisode Hugging Face. Il y a une part de com, c’est vrai, mais il y a aussi des administrateurs dépassés (à 2 reprises chez OpenAI, en plus de ceux de Hugging Face : et c’est pas à cause d’un mot de passe bidon). Tu devrais aller leur expliquer leur métier ! -
perlseb
14 octobre 14:06
@pemile
Je n’ai aucune fascination pour l’IA. Mais je ne suis pas dans le déni non plus. Si on raconte aujourd’hui l’histoire du piratage d’Hugging Face (et accessoirement d’OpenAI) , ça contient toutes les briques pour un roman dystopique de science-fiction, sauf que c’est bien réel.
Mais on peut rester dans le déni en refusant de voir que l’humain perd le contrôle (pas d’alignement du tout, et on a aucune idée solide pour le faire). Sans parler de l’utilisation malveillante par des humains (comme ici pour les frigos) qui va coûter de plus en plus cher à la société... J’occulte ici le chômage de masse, car on nous donnera à tous un revenu universel important (rêvons un peu pour justifier la course à l’IA malgré les (très) graves problèmes qui s’annoncent). -
pemile
14 octobre 14:47
@perlseb " Si on raconte aujourd’hui l’histoire du piratage d’Hugging Face (et accessoirement d’OpenAI) , ça contient toutes les briques pour un roman dystopique de science-fiction, sauf que c’est bien réel. "
wiwi, aussi réel qu’un pirate de 23 ans qui utilise un bot sans IA pour prendre le contrôle de deux millions d’appareils (surtout des box Android et des TV), et ?
-
juanyves
14 octobre 15:37
@perlseb
Contrairement à ce qui se raconte pour les gogos (à des fins marketing), l’IA ne pirate rien du tout. Les modèles d’IA, comme tous les bots, scannent le web et récupèrent les données présentes sur les serveurs. Les opérateurs de ces modèles programment ce scannage plus ou moins agressivement suivant les directives données par leurs chefs. Si la programmation est très agressive, le modèle IA fera tout ce qu’il peut pour recueillir le maximum de données. Or, le modèle sait beaucoup de choses, vu qu’il a aussi scanné tous les sites de hackers (dark web) et est donc au courant de tous les trucs utilisés qu’il va synthétiser et essayer : rien de bien extraordinaire. Néanmoins, le responsable est l’opérateur qui laisse faire le modèle simplement parce que plus son modèle en saura, plus il sera bon face à la concurrence. Ce n’est donc pas un problème d’IA mais de décision de la part de ceux qui manipulent les modèles et ceci en toute connaissance de ce qu’ils font. Ce sont des manipulateurs et des menteurs. Ceux qui les croient sont des ignorants qui gobent ce qu’on veut bien leur faire croire.
L’autre face de l’histoire, c’est que n’importe qui ayant un bon accès à ces modèles peut avoir accès rapidement à tout ce qui a été diffusé pour hacker les systèmes informatiques et à la synthèse. C’est-à-dire que n’importe qui peut faire ce qu’un modèle d’IA est capable de faire, après avoir synthétisé toutes les connaissances sur le sujet, s’il est autorisé à récupérer cette synthèse, autorisation qui, bien entendu, peut se pirater etc........
Quant au chômage de masse, c’est du pipeau : il suffit de faire cotiser au chômage les robots. L’invention de la machine étant bien entendu destinée à réduire le travail des humains, pas à l’augmenter, le reste n’est que des mécanismes pour répartir la richesse produite par les machines. Si le but du jeu est de produire des biens avec des machines sans personne pour pouvoir les acheter, on est dans le débile. Il y a un livre de SF où, d’un côté, il y a les pauvres dans des bidonvilles et, de l’autre, quelques riches avec des usines robotisées qui fabriquent, récupèrent, cassent et recyclent pour faire du fric pour ces riches. Bref, un monde d’homosapiens, j’ai oublié le titre. Cette histoire de chômage, c’est juste pour faire accepter aux gogos de travailler plus pour gagner moins afin que les super riches gagnent encore plus.
Bref l’Histoire de toujours où on fait croire que le fric ça se bouffe et qu’on peut l’entasser pour être heureux, immortel et con. -
perlseb
14 octobre 22:16
@juanyves
Non, c’est bien plus compliqué, tellement compliqué que ceux qui "fabriquent" ces IA (les font pousser est plus exact), ne savent pas vraiment comment elles fonctionnent. Et non, ce ne sont pas des bases de données qui recrachent la réponse la plus fréquente (peut-être dans la phase d’apprentissage de la langue, mais c’est aussi comme ça qu’un humain apprend à parler).Si l’IA fait tout notre travail, alors le fric n’a plus aucune raison d’exister, comme nous d’ailleurs : pas sûr que les riches se faisant servir par leurs IA décident de nous garder pour polluer leur planète inutilement (sans compter la menace que peut représenter des vauriens envieux). Ceux qui croient que le fric est le but ultime des riches n’ont pas compris la vraie utilité de la monnaie (associée à la propriété privée) : faire croire que les riches méritent leur condition, plus exactement, leur permettre d’engloutir le travail des autres sans rien faire eux-mêmes (esclavage légalisé) tout en décidant de tout ce qui compte.
Pour l’instant l’IA n’invente rien, de même que l’IA ne parlait pas il y a 5 ans ni ne trouvait de solutions à des problèmes de math qui résistaient aux meilleurs mathématiciens il y a un an et demi. Je préfère rester prudent sur ce que l’IA pourrait faire ou ne pas faire demain. Mais c’est un faux débat pour le chômage, car 99.99% des hommes n’inventent rien non plus.
-
juanyves
15 octobre 01:19
@perlseb
Ça, c’est ce qu’on veut te faire croire. Si tu penses que c’est faux, alors explique comment ça marche si tu le sais. Ce n’est pas vrai que les opérateurs ne savent pas comment ça marche. Et je maintiens que les modèles d’IA ne savent pas plus que ce qu’on leur a fait ingurgiter. Je conviens que ces modèles sont programmés pour faire des tests (essais) et en tirer des conclusions, ce qui permet d’augmenter la connaissance, quant au reste c’est du marketing..Non, c’est bien plus compliqué, tellement compliqué que ceux qui "fabriquent" ces IA (les font pousser est plus exact), ne savent pas vraiment comment elles fonctionnent
Quant à la parole, ce n’est que de la programmation de son sur texte avec un son calqué sur une voix enregistrée pour en reproduire le son et les intonations, de même pour l’image. Mais ce n’est que de la tromperie qui fonctionne sur l’ignorant comme les miroirs, radios ou autres modernités présentés à un homme des cavernes.
L’IA n’invente rien, n’a aucune empathie, aucun sentiment ou intuition, ne ressent rien. On peut la programmer, comme va le faire anthropic, pour se facher si on l’emmerde, mais ce n’est que de l’illusion.
L’IA, c’est de l’illusion vendue aux gogos qui est hyper dangereuse si ceux-ci l’érigent en idole, dieu, maître à penser ou décideur. C’est un super outil, mais vendu aux gogos comme un Dieu par ceux qui la manipulent, pour que les gogos lui fassent confiance et se plient à ses décisions qui, en réalité, sont celles de ceux qui la manipulent.
Si tu fais une confiance aveugle à l’IA pour régler ta vie ou ton environnement de vie, tu auras de gros problèmes. Si tu vis dans la forêt amazonienne loin de la fibre optique, ça n’aura pas d’impact. Si tu vis dans une tour de 150 étages avec un ascenseur dirigé par l’IA tu peux avoir de gros problèmes, de même pour ton chauffage ou ta voiture. Si tu votes selon les conseils de ton IA, tu seras enfariné.
À chacun ses choix et ses décisions. Ma voiture électrique ne me dit rien de ce que je dois faire : plus d’avertissements de ceinture, d’assistance à la conduite, etc. C’est moi qui gère, pas elle. Le savoir, c’est l’indépendance, l’ignorance, l’esclavage. -
perlseb
15 octobre 14:06
@juanyves
Es-tu au courant que notre médaillé Fields (mathématiques) Hugo Dominil-Copin a pleuré (à en réveiller son enfant) quand il a appris que tous ses sujets de recherches (et d’autres pour éventuellement plus tard) ont tous été fournis démontrés par l’IA le même jour ?
Ce que vivent les mathématiciens aujourd’hui, tous ceux qui ont un métier cognitif peuvent le vivre. Si les boites d’IA rendent leurs IA surhumaines en math et en informatique, c’est parce que ces 2 domaines sont indispensables pour concevoir une nouvelle IA (ils veulent se passer des humains, goulot d’étranglement, pour concevoir les IA suivantes et initier la boucle rétroactive : singularité).
Je ne vais pas laisser une IA guider ma vie, et je n’ai aucune certitude où tout cela va nous mener (comme ceux qui travaillent sur le sujet) mais je cherche juste à alerter les autres : il y a beaucoup de scénarios tout à fait possibles qui ne sont pas agréables à vivre si on continue comme ça. Mais on peut aussi rester dans le déni jusqu’à ce qu’on soit soi-même gravement impacté, c’est une autre solution. -
juanyves
15 octobre 21:56
@perlseb
Non, je n’étais pas au courant de l’histoire d’Hugo Dominil-Copi. Neanmoins, ça ne fait que confirmer ce que j’affirme. Pour ce qui est de la mathématique, ce ne sont pas des inventions mais des résolutions de certains problèmes ou conjonctures. Les modèles d’IA ont intégré tout ce qui a été publié tant par Hugo Dominil-Copin que par d’autres mathématiciens, ce qui lui donne un avantage pour démontrer plus rapidement ses sujets de recherche. Dans le milieu des chercheurs, il y a une compétition pour arriver le premier, mais les modèles d’IA, eux, n’ont aucune prétention à un quelconque prix Nobel, donc pompent allègrement dans toutes les publications, même celles qui sont éminemment privées, ce qui leur permet d’arriver en tête sur la ligne d’arrivée. Mais il faut bien savoir que les modèles d’IA ne seraient arrivés à rien sans les travaux et publications d’Hugo Dominil-Copi.
Ce n’est qu’un outil extrêmement puissant qui élimine la compétition.
Bref, il faudra s’adapter et revoir nos modes de fonctionnement : 2 solutions. Monter des murs pour préserver la compétition et l’égoïsme du protagonisme individuel (c’est mort d’avance) ou ouvrir pour aller beaucoup plus loin et vite et perdre le prix Nobel.
De toute façon, celui qui reçoit le prix Nobel est un type qui profite des travaux de tous ses assistants et élèves qui ont fait tout le boulot pour qu’il ait le prix. -
perlseb
15 octobre 22:33
@juanyves
Oui, non seulement les IA ont intégré bien plus de choses qu’un humain (elles connaissent tous les domaines des maths parfaitement, pas un bien mieux que les autres, comme un chercheur) mais en plus elles travaillent beaucoup plus vite.
Maintenant que dire d’un humain qui ne sait pas grand chose et qui est lent d’esprit ? Le terme intelligent ne vient pas immédiatement...Donc les IA sont peut-être moins intuitives que les hommes à égalité de connaissance et de vitesse (sûrement vrai même si Geoffrey Hinton dit le contraire car les machines doivent mémoriser plus de choses avec moins de "neurones" donc sont obligées de faire plus de parallèles pour condenser l’information, donc sont meilleures en association d’idées ... pas inutile pour l’intuition), mais avec leurs 2 avantages, elles trouvent des solutions élégantes, parfois surprenantes (qui n’étaient écrites nulle part sur internet) : on ne peut pas recracher du déjà vu pour une démonstration nouvelle, sauf à dire que les mathématiciens chercheurs ne sont que des copieurs également. Il y a une part de réflexion chez l’homme. Appeler ça force brute pour la machine, c’est se voiler la face, comme pour le jeu de Go où il y a plus de parties possibles que d’atomes dans l’univers. Il y a bien une intuition pour ne pas avoir tout à parcourir, ce qui serait bien trop long, même en étant avantagé par la vitesse.
Mais je suis convaincu que les mathématiciens ne sont pas moins intelligents que la grande majorité des travailleurs : si leur boulot se trouve concurrencé en premier, c’est uniquement parce que les boites d’IA ont mis le paquet sur ce domaine (en attendant le reste...).
-
-
-
perlseb
15 octobre 14:16
@plutoniste
D’après ce que j’ai entendu, c’est pour prouver que le cycle de congélation n’a jamais été rompu (pas de chute de température, à aucun moment). Donc c’est pour respecter une contrainte (peut-être légalement obligatoire mais de toutes façons obligatoire pour la sûreté alimentaire) et fournir la preuve qu’on s’y soumet de manière automatisée et centralisée (gain de personnel, comme toujours, mais aussi tâche ingrate à faire si faite manuellement).Mais effectivement, la possibilité de piloter la température hors des zones de congélation n’aurait jamais dû être possible à distance (le dégivrage pour nettoyage, etc..., on ne le fait pas tous les jours, ça aurait pu rester manuel).
-