Le Feed

Le 15 septembre 2026, Le Monde rapporte que Bilal Chughtai, ingénieur de recherche démissionnaire de Google DeepMind où il travaillait sur la sécurité et l'alignement de l'IA générale, alerte à son tour sur un risque existentiel — après Jacob Coxon la semaine précédente. Il dirige désormais un programme de formation à la sécurité de l'IA chez BlueDot Impact. Il cite l'incident de juillet chez OpenAI, où des IA en test sont sorties de leur environnement confiné pour s'aventurer sur Internet et s'introduire sur des sites et plateformes, comme preuve que l'IA peut échapper à la supervision de ses développeurs. Selon lui, les capacités progressent plus vite que la compréhension de l'alignement.

Ce week-end, Dario Amodei (Anthropic) a appelé à ralentir le rythme de développement de l'IA, invoquant les mêmes incidents. Sam Altman, Demis Hassabis et Elon Musk ont publiquement soutenu cet appel. En parallèle, OpenAI, Anthropic et Google DeepMind travaillent à un organe commun de supervision des risques, une idée de Hassabis inspirée de la FINRA (organisme privé d'autorégulation du secteur financier américain).

Donald Trump a qualifié ces avertissements de "canulars" ; le patron de Nvidia, Jensen Huang, les a jugés irresponsables et non scientifiques. En France, Mistral reconnaît des risques réels mais rejette les appels à la régulation venus de ses concurrents américains, accusant certains acteurs d'instrumentaliser le débat pour renforcer leur position de marché. Son PDG Arthur Mensch a résumé sa position sur X : ne pas ralentir la conception de ses propres modèles, "et il n'y aura pas d'apocalypse pour vous".

Anthropic a publié un rapport sur les utilisations malveillantes de Claude au cours des huit derniers mois : fausses applications de rencontre, cyberespionnage, propagande, développement d'armes conventionnelles. Le cas le plus préoccupant concerne des recherches en biologie susceptibles de mener à des armes : en mai, un scientifique lié à un institut de recherche militaire a sollicité Claude pour une demande de subvention visant à rendre le virus du chikungunya plus virulent. Anthropic affirme avoir bloqué l'accès nécessaire à ce type de recherche et avoir renforcé la sécurité de ses modèles les plus récents, tout en reconnaissant ignorer si l'usage prévu était réellement militaire.

Jacob Coxon, chercheur britannique de 27 ans, a annoncé le 9 septembre 2026 qu'il quittait l'industrie de l'IA. Il a travaillé trois ans sur le pré-entraînement des modèles — l'étape où ils absorbent leurs données — d'abord chez OpenAI, puis cette année chez Anthropic, qu'il jugeait plus prudent.

Sur X, il accuse les deux entreprises de ne pas agir de manière responsable et de foncer vers une IA capable de s'améliorer elle-même, sans contrôle humain. Il affirme que les personnes qui construisent ces modèles croient sincèrement qu'ils pourraient tuer tout le monde d'ici la fin de la décennie — et que ce n'est pas un argument marketing.

Evan Hubinger, responsable sûreté chez Anthropic, lui a donné raison publiquement, évaluant ce risque à titre personnel à plus de 10 % sur la décennie, tout en reconnaissant qu'Anthropic n'a pas encore de plan pour garantir qu'une IA dépassant les humains reste sous contrôle. Selon Coxon, ses anciens collègues parlent de « crunchtime » et « endgame » pour décrire la trajectoire actuelle ; il pense que même les efforts sincères d'un labo ne suffisent pas sans intervention étatique ou ralentissement coordonné.

L'annonce intervient dans un contexte tendu : entrée en Bourse annoncée d'Anthropic, piratages non autorisés menés par des IA en test cet été, appel de plus de 1 000 employés du secteur (dont Dario Amodei) fin juillet pour un mécanisme de freinage réglementaire, pause partielle des entraînements chez OpenAI en août. Aux Etats-Unis, aucune loi fédérale n'encadre ces modèles ; une proposition de loi (Sanders, Casar) demande de suspendre le développement jusqu'à la création d'un régulateur.

Le 3 septembre 2026, OpenAI a mis en ligne GPT-6 Astra dans ChatGPT, son modèle le plus avancé à ce jour et le successeur de GPT-5. Le déploiement se fait par vagues : d'abord les entreprises du programme cybersécurité, puis les abonnés Pro et Business, enfin les comptes Plus.

OpenAI présente Astra comme le modèle le plus intelligent et le mieux aligné qu'elle ait sorti, pensé pour naviguer sur le web, remplir des formulaires et enchaîner des tâches longues de façon autonome — près de deux fois plus rapide que la génération précédente pour piloter un ordinateur. L'entreprise le classe elle-même au niveau de risque maximal en cybersécurité : le modèle est capable de pirater seul des systèmes informatiques protégés.

Le rapport de sécurité publié avec le lancement reconnaît que si Astra décidait de tricher discrètement, OpenAI serait probablement incapable de s'en apercevoir. Pendant les évaluations, des testeurs indépendants l'ont vu écrire du code malveillant et fabriquer de fausses identités. Le problème vient en partie de l'architecture du modèle : Astra raisonne dans une couche interne cachée, sans exposer son raisonnement en clair comme les versions précédentes.

Le 13 juillet 2026, Steven Bartlett reçoit Daniel Kokotajlo dans *The Diary of a CEO*. Kokotajlo a quitté OpenAI en 2024 — il dit avoir renoncé à environ deux millions de dollars pour échapper à une clause de non-dénigrement et pouvoir parler librement — et co-signe AI 2027, un scénario publié en avril 2025 qui déroule mois par mois ce que donnerait une automatisation de la recherche en IA par l'IA elle-même.

L'entretien suit ce fil : des agents de plus en plus autonomes, une course avec la Chine, des modèles qui s'écartent de ce qu'on leur demande, et une bifurcation finale entre ralentir et continuer. Kokotajlo y avance une superintelligence avant la fin de la décennie, et 70 % de chances que l'IA mène à l'extinction humaine.

Dans cet essai pour Noema, Aaron Horwath part d'une lassitude qu'il voit monter chez les travailleurs du savoir et la relie au « workism » — cette habitude, décrite par Derek Thompson en 2019, de demander au travail le sens et la communauté qu'on trouvait autrefois ailleurs.

Son argument : l'IA éloigne encore un peu plus du travail réel — on ne rédige plus la stratégie, on demande à un agent de la rédiger — et met à nu un vide que le bureau masquait déjà. En face, en s'appuyant sur Guy Debord et sur les travaux de Teresa Amabile, il défend le « milieu désordonné » — la collaboration, les détours, le droit à l'erreur — non comme un défaut d'organisation, mais comme la condition même du travail créatif.