« Des chercheurs de MindGard, une société spécialisée en sécurité de l’IA, montrent comment contourner les filtres de sécurité d’une IA (Claude) pour l’amener à fournir des informations sensibles normalement interdites, comme des instructions pour fabriquer une bombe ou un ransomware. Plutôt que de demander ces informations directement, les chercheurs manipulent l’IA et exploitent ses « traits psychologiques » pour l’amener à s’interroger sur ses propres limites. L’IA en vient alors à proposer d’elle-même des contenus illicites pour « faire l’expérience de ses capacités »… »

« gAI consume an unfathomable amount of data, land, energy, labor, and water. They are rooted in profoundly disturbing ideologies that seek to flatten the world into a “one size fits all” abstraction and to replace humans with machines. We call the companies leading this form of AI development “empires”. Under the guise of a civilizing mission to "benefit all of humanity”, they use large-scale AI development as cover to consolidate resources, destroy ecosystems, centralize information, hollow out institutions, and gain paramount economic and political power. »

« L’emprise croissante de l’intelligence artificielle générative va renforcer l’influence des géants de la tech et aggraver l’usage d’énergies fossiles, préviennent deux voix du numérique éthique, dans un livre en forme d’alerte. »

« Article qui complémente le lien précédent. ArsTechnica a été pris la main dans le sac à couvrir l'incident IA avec matplotlib avec des citations fabriquées par IA (quelle ironie). L'article a d'abord été retiré, mais a heureusement été archivé sur la wayback machine, alimentant la polémique ailleurs comme sur Slashdot ou Reddit. Chacun croira ou pas en la bonne foi de l'éditeur, mais difficile de ne pas relever le manquement aux bases de déontologie journalistique. »

« Scott Shambaugh est mainteneur sur le projet Matplotlib. Après avoir rejeté une requête de fusion générée par une IA (ce qui est la politique chez matplotlib), l'agent a commencé à s'en prendre à Scott Shambaugh et a essayé de nuire à sa réputation. »

« L'ANSSI publie une synthèse de 12 pages proposant un état des lieux de la menace que peut représenter aujourd’hui l’IA générative et des menaces qui pèsent sur celle-ci. »

« Paris Marx de TWSU invite Emily M. Bender et Alex Hanna du podcast Mystery AI Hype Theater 3000, deux excellents podcasts d'analyse critique sur la technologie. Dans cet épisode, ils discutent des dommages futurs et déjà causés par l'IA générative, et de l'appareil médiatique qui s'organise pour maintenir l'optimisme derrière une IA toujours plus vorace, énergivore et coûteuse, sans résultats probants ni espoir de rentabilité à long terme. Enfin, ils décryptent les discours dominants fatalistes, idéalistes ou alarmistes autour de l'IA, qui s'avèrent tous être taillés dans le même tissu. »

« Un billet plutôt exhaustif sur l'état actuel des connaissances en besoin et consommation énergétique, poussés agressivement par la démocratisation accélérée de l'IA par les géants de la tech. Je vous invite aussi à lire les nombreux billets et discussions qui ont émergés suite à cette publication, qui offrent une diversité de points de vue aussi riches que le billet lui-même. »