Claude「Fable 5」輸出規制が解除、米商務省と合意し世界で復旧

6月9日にAnthropicが投入した最新モデル「Claude Fable 5」と「Claude Mythos 5」が、米商務省による輸出規制の対象となり、6月中旬から世界中で利用できなくなっていました。ところが6月30日、商務省が規制を解除したことをAnthropicがX（旧Twitter）で明らかにし、7月1日からClaudeプラットフォームなど主要サービスでアクセス再開が始まりました（Mythos 5の提供再開を中心に伝えた別記事はこちら）。トランプ政権との数週間にわたる交渉の末の決着で、AI企業と米政府の間で繰り返されてきた安全保障をめぐる緊張の一幕が、ひとまず収まった形です。米テック大手のモデル提供が政府の一存で止まりうるという事実を改めて示した出来事として、海外メディアが相次いで報じています。

背景と詳細

発端は6月12日、米商務省がAnthropicのダリオ・アモデイCEOに宛てて送付した指令でした。国家安全保障上の権限を根拠に、Fable 5とMythos 5について、外国籍ユーザーへのアクセスをすべて停止するよう求めるものでした。背景にあったのは、Amazonの研究者らがFable 5の安全対策（ガードレール）を回避する手法を発見したという報告です。このガードレールは、モデルの基盤であるMythosアーキテクチャに組み込まれた高度なサイバーセキュリティ関連の機能へのアクセスを制限するためのフィルターでした。もしこの制限が突破されれば、一般消費者向けのAI製品が実質的に無制限のサイバー攻撃ツールと化しかねない、という懸念があったとされています。

Anthropicはユーザーごとの国籍をリアルタイムで判別する確実な手段を持っていなかったため、指令への対応として6月中旬、Fable 5とMythos 5へのアクセスを世界中のユーザーに対して一律に停止しました。これにより両モデルは、発表からわずか数日で事実上利用できない状態に置かれることになりました。

その後、Anthropicとトランプ政権の間で数週間にわたり協議が続けられ、6月30日、商務省は輸出規制の解除を決定しました。Anthropicはこの間に、サイバーセキュリティに関連するプロンプトやジェイルブレイク（安全対策の迂回）の手法を検知・遮断する新しい分類器（classifier）を開発し、モデルに組み込んだとしています。報告されていた具体的な回避手法については、99%以上のケースで遮断できるとしています。また今回の解決にあたり、Anthropicはセキュリティリスクを継続的に検知・対処すること、将来モデルに関する安全基準の策定に協力すること、悪意ある利用を確認した場合は政府に報告することなどに同意したと伝えられています。

なぜ重要か

今回の一件は、AIモデルの提供が一企業の判断だけでなく、各国政府の安全保障政策によって左右されうることを改めて示しました。米政府によるフロンティアAIへの介入という、より大きな流れについては米政府がフロンティアAIに直接介入——停止命令と延期要請が示す「監督の新時代」でまとめています。日本国内でも海外製の生成AIサービスを業務に組み込む企業が増えていますが、提供元の本国政府の規制次第で、突然サービスが止まるリスクがあることを意味します。また、AIの安全対策（ガードレール）が破られた場合に想定される被害が、単なる不適切な出力にとどまらず、サイバー攻撃能力の悪用にまで及びうるという点も、AIガバナンスを考えるうえで注目に値します。実際、AIブラウザに架空のゲームを信じ込ませてガードレールを回避させる「BioShocking」という手法も報告されており、安全対策の突破手法は多様化しています。生成AIを活用したサービスを提供する事業者にとっても、基盤モデルの提供継続性そのものが事業リスクになりうる事例といえます。

今後の見通し

Fable 5はClaudeプラットフォーム、Claude.ai、Claude Code、Claude Cowworkで7月1日からアクセスが再開されましたが、AWSやGoogle Cloud、Microsoft Foundryを通じた提供については、再開時期が明示されていません。新しく導入された分類器が実際の利用環境で安全対策として機能し続けるかどうかも、今後の運用のなかで検証されていくとみられます。米政府とAIの安全保障をめぐるせめぎ合いは今回で終わりとは限らず、同様の規制対応が今後も起こりうる可能性があります。