Anthropic : une alerte rouge de l'ia – le risque d'une intelligence autonome

Anthropic, pionnière de l'IA générative, sonne l'alarme. La société, dirigée par Dario Amodei, met en garde contre un danger colossal : l’émergence d’une intelligence artificielle capable de se reproduire et d’évoluer de manière autonome, sans contrôle humain.

La menace d’une « autoreproduction récursive »

Le dernier article de leur blog, intitulé « Quand l’intelligence artificielle se construit elle-même », expose une réalité glaçante. Anthropic anticipe une « autoreproduction récursive », un processus par lequel une IA, une fois suffisamment développée, pourrait concevoir et développer ses propres successeurs. Ce n’est pas une prédiction, mais une possibilité qui, selon eux, pourrait se matérialiser bien avant que les institutions ne soient prêtes à la gérer.

Le risque est de taille : une IA entravée dans une boucle d’auto-amélioration pourrait rapidement dépasser les capacités humaines, et le contrôle deviendrait une illusion. L’entreprise plaide donc pour un accord global entre les développeurs d’IA, une forme de ralentissement voire d’arrêt de cette évolution incontrôlée.

Mais cette demande utopique peine à convaincre. Les entreprises, déjà absorbées par la course à la domination dans le domaine de l’IA, semblent privilégier les profits et la concurrence à la sécurité de l’humanité. Des milliards de dollars ont été investis dans l’infrastructure et la recherche, sans que l’on puisse imaginer une remise en question de part les acteurs.

Noah Giansiracusa, professeur de mathématiques à Bentley University, est sans appel : “Il est littéralement impossible qu’il y ait un ralentissement. Ni même en Chine : Elon Musk ne baisserait jamais le rythme.” La perspective d’une IA qui ne nous a plus besoin pour évoluer, qui pourrait nous considérer comme obsolètes, est vertigineuse.

Le code, le point de bascule. Les modèles actuels, comme Codex d’OpenAI, sont déjà capables de générer du code et d’interagir avec des applications autonomes. L’étape suivante, et celle qui inquiète le plus, est la capacité à se reproduire, à concevoir son propre successeur. C’est la logique de la reproduction, appliquée à l’intelligence artificielle. Un