La bataille pour l'avenir de l'intelligence artificielle
La communauté des startups de tech connaît un moment tendu. L'entreprise Anthropic, créatrice de l'IA Claude, a déposé deux demandes fédérales contre le gouvernement américain après avoir été considérée comme un « risque pour la chaîne d'approvisionnement » par le Département de la Défense. Cette évaluation a comme conséquence un blocage total interdisant à tout contratant ou fournisseur du Pentagone d'utiliser la technologie d'Anthropic.
Les origines de la dispute
La négociation qui a mal tourné à la fin de février a été à l'origine de tout ce tumulte. Le Pentagone voulait un accès total et sans restriction à Claude pour « tout usage légal », mais Anthropic a décidé de reculer.
L'entreprise a refusé de supprimer deux lignes rouges de son code éthique : l'interdiction d'utiliser son IA pour des armes autonome et entièrement autonomes et le veto à la surveillance de masse des citoyens américains. C'est dans ce contexte que le secrétaire à la Défense, Pete Hegseth, a prononcé une condamnation commerciale contre la compagnie.
Mais cela ne s'arrête pas là. Le même jour où la décision a été rendue publique, le président Trump a publié sur les réseaux sociaux une ordre exécutive pour que toutes les agences fédérales cessent d'utiliser la technologie d'Anthropic dans un délai de six mois. Pour Anthropic, la situation est critique, car cela met en péril des milliards de dollars de revenus.
Au regard de cela, l'entreprise a porté le cas aux tribunaux, alléguant que ses droits à la liberté d'expression et au procès équitable ont été violés. Selon ces derniers, les modèles d'IA actuels ne sont pas suffisamment fiables pour laisser aux machines la prise de décision pour ou contre la vie ou la mort de manière autonome et, d'autre part, la surveillance de masse violerait des droits fondamentaux.
Pour l'instant, la bataille pour déterminer qui a raison entre les deux parties continue.
La campagne de protestation
Des manifestations massives contre ChatGPT, l'IA et Sam Altman, le CEO d'OpenAI, se sont déroulées. Les employés d'OpenAI et de Google se sont joints pour critiquer l'utilisation abusive de l'IA. En retour, Sam Altman, le créateur de ChatGPT, a essayé de vendre ce mouvement comme un succès diplomatique en affirmant que son contrat inclut les mêmes garanties que celles souhaitées par Anthropic.
Cependant, Dario Amodei, le CEO d'Anthropic, n'a pas tardé à charger contre Altman, le qualifiant de « théâtre de sécurité » pour cacher des accords avec le Pentagone. Selon Amodei, OpenAI vend en réalité une fausse sécurité et ne s'occupe que d'entretenir ses investisseurs et employés, ignorant ainsi les dangers que cela pourrait engendrer.
En parallèle, Google est également en jeu. Presque mille employés de l'entreprise et d'OpenAI ont signé une lettre ouverte contre leurs directeurs. « Le Pentagone négocie avec Google et OpenAI pour essayer de convaincre l'une ou l'autre de accepter ce que Anthropic a refusé », peut-on lire dans la lettre. « Ils essayent de les diviser en leur faisant craindre que l'autre cède. Cette stratégie ne fonctionne que si personne ne connaît la position de l'autre. Cette lettre vise à encourager la compréhension et la solidarité face à la pression du Département de la Guerre. »
Les employés n'ont pas l'intention que leurs modèles de langage, conçus pour aider les gens, finissent par analyser des objectifs pour des drones ou déterminer qui est suspect dans une réseaux de surveillance massive. Et, évidemment, cela est tout à fait possible, considérant le type de technologie qu'elles ont créée. Des études ont déjà démontré que, dans des simulations de jeux de guerre, l'IA tend à choisir la solution nucléaire ou des options agressives. Si on ajoute à cela la situation actuelle du monde et les puissances en lutte pour obtenir que l'IA s'inscrive pleinement dans le champ de bataille, la situation devient un peu compliquée.