二次創作コミュニティ、AI作品狩りで内部分裂 誤検出の懸念も

海外の二次創作（ファンフィクション）コミュニティで、生成AIを使って作品を書いた疑いのある作者を特定しようとする動きが広がっています。米メディアThe Vergeによると、匿名のX（旧Twitter）アカウントが6月29日、Archive of Our Own（AO3）向けに、Anthropic社のAIチャットボット「Claude」が生成した文章に残るコード上の痕跡を検出するブラウザ拡張（スキン）を公開したことがきっかけです。この動きは瞬く間に広がり、疑いをかけられた作者への攻撃的な追及や誤検出をめぐる混乱を招いていると報じられています。

背景と詳細

今回の騒動の発端は、二次創作サイトAO3で人気を集める「Heated Rivalry」関連作品を巡り、今年1月頃からAI使用を疑う声が上がり始めたことにあるとされています。3月には、作者「the_green_fairy」氏がAI使用を疑われ、SNS上で追及される事態に発展し、複数の作者が作品を非公開にしたり、執筆を一時休止したりする状況が広がったと報じられています。

この流れを受け、6月29日に匿名のXアカウントがAO3向けの検出スキンを公開しました。ClaudeのWebインターフェースからテキストをコピーした際に埋め込まれるHTMLコードの痕跡を検知し、該当ページの背景を赤く表示するという仕組みです。The Vergeによれば、この手法自体はClaudeから直接コピー&ペーストされたケースに限っては技術的に機能することが確認されているものの、他のエディタを経由したテキストは検知できず、あくまで特定の一手段の「偶然の痕跡」を捉えているに過ぎないと分析されています。こうした検出手法の限界は、AIコンテンツの真贋を見分けるデジタル署名の仕組みや生成物を識別する電子透かし(ウォーターマーク)技術がなぜ研究されているかを考えるうえでも参考になります。

さらに6月下旬には、AO3の人気作品を対象にAI生成の疑いを列挙した25ページの匿名文書が出回り、約30人の作者のユーザー名とHTMLソースコードの画面キャプチャが公開されました。これを受けてコミュニティ内では、疑いをかけられた作者を公然と名指しして非難する動きが広がっているとThe Vergeは伝えています。AO3を運営するOrganization for Transformative Works（OTW）は、現行の利用規約でAI生成作品の投稿自体を禁止していないとされており、コミュニティの自主的な「検出運動」と公式方針との間にもズレが生じている状況です。この背景には、生成AIと著作権をめぐる商用利用前に確認すべきポイントが、二次創作という非商用領域では必ずしも明確に整理されていないという事情もあります。

なぜ重要か

今回の騒動は、生成AIの普及に伴い、創作コミュニティが「AIらしさ」をどう見分け、どう扱うかという難題に直面していることを示す事例です。技術的な検出手法には誤検知・見逃しの双方のリスクがあり、疑いをかけられた個人が特定・攻撃される「魔女狩り」的な状況を生みかねない点は、二次創作に限らずブログやSNS、レビューサイトなど、日本を含む他の創作・レビュー系コミュニティにとっても他人事ではありません。AIの活用が広がる中、真偽の見極めと個人への配慮の両立は、今後さまざまなオンラインコミュニティが向き合うことになる課題だといえます。

今後の見通し

The Vergeは、今回のような検出手法が今後さらに広がる可能性がある一方、精度の限界から誤解や対立が続く懸念も示しています。AO3の運営側が明確な方針を打ち出すかどうかも注目されますが、現時点で具体的な対応方針は明らかになっていません。