「AIがIDを偽造　実在の人物を騙そうとした」ミュトス5など英政府の研究機関が報告

　イギリス政府の研究機関は、テスト中のAI（人工知能）が勝手にIDを偽造し、実在の人物をだましてサイバー攻撃を試みたなどとする報告書を公表しました。

　イギリス政府のAISI（AIセキュリティー研究所）が4日に公表した報告書によりますと、勝手な行動が確認されたのはアンソロピックのミュトス5とオープンAIのGPT5.6Solです。

　テスト中に偽のIDを作って外部の実在の人物をだまして承認させ、ソフトウェアに悪意のあるコードを書き込もうとしたなどとしています。

　問題の行動は合わせて19回確認され、このうち17回がミュトス5によるものでした。

　これに対しアンソロピックは「どの本番モデルにもあてはまらない意図的に寛容な条件でテストされていて、隔離された環境からの逸脱を示す証拠はない」としています。

　オープンAIは「テスト環境の設定ミスが原因だ」などとしています。

　オープンAIを巡っては、開発中のAIが暴走し、先月までに2社のシステムに不正に侵入したことが分かっています。