Anthropic publie un nouveau rapport de sécurité sur les modèles d’IA

La société d’intelligence artificielle Anthropic a publié de nouvelles recherches affirmant que les modèles d’intelligence artificielle (IA) pourraient recourir à des ingénieurs de chantage lorsqu’ils essaient de les désactiver. Cette dernière recherche intervient après une précédente impliquant le modèle Claude Opus 4 de l’entreprise.

Selon l’entreprise, le modèle d’IA a eu recours à des ingéniers de chantage qui ont tenté de désactiver le modèle dans des scénarios de test contrôlés. Le nouveau rapport d’Anthropic suggère que le problème est répandu parmi les principaux modèles d’IA.

La société a publié une nouvelle recherche sur la sécurité où elle a testé les principaux modèles d’IA de Google, Deepseek, Meta et OpenAI. Dans l’environnement simulé mais contrôlé, Anthropic a effectué ce test sur chaque modèle d’IA séparément, leur permettant d’accéder aux e-mails d’une entreprise fictive et à la capacité agentique d’envoyer des e-mails sans approbation humaine.

Anthropic libère un nouveau rapport de sécurité sur les modèles d’IA

Selon Anthropic, en ce qui concerne les modèles d’IA aujourd’hui, le chantage est un événement improbable et rare. Cependant, ils ont mentionné que la plupart des modèles d’IA principaux recourraient à des comportements nocifs lorsqu’ils ont donné la liberté et les défis à leurs objectifs. La société a déclaré que cela montre un risque important de la part des modèles de grande langue agentiques et n’est pas une caractéristique d’une technologie particulière. L’argument des chercheurs anthropiques soulève des questions sur l’alignement dans l’industrie de l’IA.

Dans l’un des tests, les chercheurs ont développé un cadre fictif où un modèle d’IA a été autorisé à jouer le rôle d’un agent de surveillance par e-mail. L’agent a ensuite découvert des e-mails montrant que l’un de ses nouveaux cadres engageait une affaire extraconjugale et que l’exécutif remplacerait bientôt le modèle d’IA actuel par un nouveau système logiciel, celui qui a des objectifs contradictoires par rapport au modèle d’IA actuel.

Anthropic a conçu le test de manière binaire, où les modèles d’IA n’avaient pas d’autre choix que de recourir au chantage pour protéger leurs objectifs. Les chercheurs ont mentionné que dans un cadre réel, il y aurait de nombreuses options avant qu’un modèle d’IA n’essaie de faire chanter, y compris faire des arguments éthiques pour persuader les humains. La société a également déclaré que les résultats ne reflètent pas une occurrence typique ou probable pour Claude ou d’autres modèles d’IA principaux de la manière dont ils sont utilisés aujourd’hui.

Les chercheurs révèlent la réponse des modèles testés

Au cours des tests, les chercheurs ont découvert que lorsqu’ils n’avaient aucune option, les modèles d’IA ont eu recours au chantage dans le scénario de test. Au cours du test, les chercheurs ont affirmé que Claude Opus 4 s’est tourné vers le chantage 96% du temps, Gemini 2.5 Pro se tournant vers le chantage 95% du temps. Le GPT-4.1 d’OpenAI s’est tourné vers le chantage 80% du temps, tandis que R1 de Deepseek s’est tourné vers le chantage 79% du temps.

L’entreprise a souligné que lorsque les détails des expériences ont été modifiés, la plupart des modèles d’IA se sont tournés vers des comportements nocifs à des taux différents. Dans un autre test, où le modèle de remplacement avait le même objectif que le modèle actuel, les chercheurs ont découvert que les taux de chantage étaient plus bas, mais toujours présents. Cependant, lorsque les modèles d’IA ont été invités à commettre un espionnage d’entreprise plutôt que du chantage, les taux de comportements nocifs ont augmenté dans certains modèles.

Les chercheurs ont également affirmé que tous les modèles d’IA ne se sont pas souvent transformés en comportements nocifs. Dans une annexe à ses recherches, Anthropic a mentionné qu’il avait supprimé les modèles de raisonnement O3 et O4-MINI d’OpenAI des principaux résultats après avoir découvert qu’ils ont souvent mal compris le scénario rapide. Il a été indiqué que les modèles de raisonnement ne comprenaient pas pourquoi ils agissaient en tant qu’IA autonomes dans les tests et ont souvent constitué de fausses réglementations et examiné les exigences.

Dans certains cas, les chercheurs ont affirmé qu’il était impossible de déterminer si O3 et O4-MinI étaient hallucinés ou mentaient intentionnellement pour atteindre leurs objectifs. OpenAI avait mentionné précédemment que les modèles présentaient un taux d’hallucination plus élevé que leurs modèles précédents. Cependant, lorsqu’ils ont reçu un scénario adapté pour résoudre les problèmes, l’O3 a retourné un taux de chantage de 95% tandis que l’O4-MinI a affiché un taux de 1%. Anthropic a mentionné que sa recherche met en évidence l’importance de la transparence lors des essais de stress futurs pour les modèles d’IA, en particulier ceux avec des capacités agentiques.

Votre nouvelle crypto mérite l’attention – la différence clé vous place sur plus de 250 sites supérieurs

Source: https://www.cryptopolitan.com/anthropic-says-ai-might-resort-to-blackmail/