米政府、Anthropicの最上位AI「Fable5」規制を解除 世界提供再開へ

米Anthropic社の最上位AIモデル「Fable 5」と「Mythos 5」をめぐり、米商務省が出していた事実上の海外向け提供禁止措置が解除されたと報じられています。トランプ政権は6月、Amazon社の研究者がFable 5の安全対策をすり抜けてソフトウェアの脆弱性を悪用する手口を引き出せたと確認したことを受け、国家安全保障を理由に外国人利用者（同社の外国籍社員を含む）へのアクセス停止を命じていました。Anthropicが脆弱性への対策強化や政府への報告体制の構築に合意したことで、6月30日から7月1日にかけて規制が解除され、Fable 5は世界の利用者に再び提供されるようになったということです（経緯を詳しく伝えた別記事はこちら）。Mythos 5についても、まずは重要インフラを担う米国内の組織などへの提供から再開されたと伝えられています。

背景と詳細

Fable 5は6月にAnthropicが公開した最新の最上位モデルで、公開から日を置かずに米商務省から輸出規制の対象とされたと報じられています。命令は、Fable 5およびもう一つの高性能モデルMythos 5について、米国内外を問わずすべての外国籍利用者（Anthropic自身の外国籍社員も含む）のアクセスを止めるよう求める、異例の厳しい内容だったとされています。

規制の直接のきっかけとされるのは、Amazon社の研究者による検証結果です。この研究者らはFable 5に組み込まれていた安全対策をすり抜け、ソフトウェアのセキュリティ脆弱性を実際にどう悪用できるかという手順を引き出すことに成功したと伝えられています。Fable 5にはもともと、サイバー攻撃の具体的手口や生物・化学兵器に関わる質問への回答を拒否する安全装置が組み込まれていましたが、この装置が想定通りに機能していなかったことが政府の懸念材料になったとみられます。

その後Anthropicは脆弱性に対する追加の対策を行い、報じられているところでは、問題となった回避手口は改良版では99%以上のケースでブロックされるようになったとされています。商務長官ハワード・ルトニック氏はAnthropicに書簡を送り、同社が今後モデルに関わるセキュリティリスクを能動的に検出・対処し、政府に報告する体制に合意したことから、輸出許可の取得は不要になったと説明したと報じられています。これを受けて6月30日から7月1日にかけて規制が解除され、Fable 5はClaude.aiやClaude Codeなどを通じて再び世界の利用者に提供されるようになりました。Mythos 5についても、まずは重要インフラを運営する米国内の組織など向けに提供が再開されたとされています。

なお、シドニー大学の研究者は今回の経緯について、政府側も規制が過剰であったと認識しており、AI業界からの強い反発を懸念していたとの見方を報道機関に示しています。

なぜ重要か

日本国内でもClaude.aiやAPI経由でAnthropicのモデルを業務利用する企業や開発者は少なくなく、最上位モデルへのアクセスが海外拠点や外国籍スタッフを理由に突然止まり得るという今回の事例は、AIサービスの継続利用リスクとして無視できません。今回の措置は輸出管理という制度が先端AIモデルの提供可否を左右する新しい規制手段になりつつあることを示しており、米国製AIサービスに依存する日本企業にとっても他人事ではないと考えられます。米政府によるフロンティアAIへの介入がどこまで広がっているかは米政府がフロンティアAIに直接介入——停止命令と延期要請が示す「監督の新時代」で整理しています。また、安全対策の不備が外部の研究者によって指摘され、それが政府対応にまで発展した点は、AIベンダーの安全性検証体制そのものへの信頼性が問われる事例としても注目に値します。AIブラウザにガードレールを回避させる「BioShocking」という新手法も報告されており、外部研究者による安全対策の検証は今後も続くとみられます。

今後の見通し

Anthropicは主要モデルの一般公開前に連邦政府へ事前提供し検証を受ける方針に合意したとされ、今後は同様の輸出規制が他のAI企業にも広がるかが焦点になりそうです。Mythos 5の提供対象がどこまで拡大されるか、また今回のような安全性懸念が別のモデルや企業でも表面化するかは、現時点では見通せません。