決まり文句から文章構造の手がかりへ

規則に違反するAI生成コンテンツの除去に取り組むウィキペディアのボランティアは、機械が書いた文章を見分けることが難しくなる中で、手法を変えている。2023年に始まったボランティアの活動であるWikiProject AI Cleanupは、当初、目立つ言い回しや定型的な結論、通常の百科事典の記事とは異なる印象の節などを手がかりに、対象の記事を見つけていた。

プロジェクトの共同創設者であるエリア・ルブルーはIEEE Spectrumに対し、最近のAIによる文章は、それと分かる特徴が薄いことが多いと語った。編集者は今では、一つの表現を証拠とみなすのではなく、文章構造に見られる複数の癖の組み合わせを探している。編集行動も調べており、文章自体に見分けやすい兆候が少なくても、あるアカウントが数分間で長い記事を何本も作成していれば、精査する理由になり得る。

出典の質は、この作業の大きな部分を占める。ルブルーによると、検索ツールの改善に伴い、架空の参考文献は以前ほど多くなくなったものの、実在する資料が、その内容では裏付けられない主張の出典として付けられることは依然として多い。この問題に対処するには、リンクや出版物が存在するかどうかを確認するだけでなく、主張と引用資料との関係を編集者が調べる必要がある。

ツールは確認作業を代替せず、支援する

ボランティアは自動化による支援を試している。ある編集者は、参考文献が主張を裏付けていると考えられるかを確認する出典検証ツールを作った。この検証ツール自体がAIモデルに基づいているため、その判断の正しさは保証されない。それでもルブルーは、明らかな不一致を大量の資料からふるい分ける最初の手段として有用だと説明した。

ウィキメディア財団も、一部のAIチャットボットから直接貼り付けられた文章を検出することを目的としたPaste Checkを開発している。商用チャットボットがウィキペディアの記事生成の依頼を拒否することも、もう一つの障壁になり得る。ただし、重みが公開されたモデルや設定を変更できるツールもあるため、拒否機能だけで全ての投稿を防ぐことはできない。

ルブルーによると、検出企業Pangramとの共同作業では、控えめに見積もっても、2025年後半の新規記事と草稿の約20％がAI生成だった。測定された割合は2026年初めに約15〜16％に低下した。ルブルーは、この低下が方針の効果や新規参加者の認識向上を反映している可能性もあれば、検出ソフトウェアが新しいモデルに追いつけていない可能性もあると注意を促した。

英語版ウィキペディアは、大規模言語モデルを使って記事を生成することを禁止している。ルブルーによると、プロジェクトが遭遇するAI生成の投稿の大半は初心者によるものだ。そのため編集者は、歓迎メッセージやヘルプ資料、案内に、より明確な注意書きを追加した。これらの措置が行動をどれほど変えたのかを判断するには、まだ早すぎる。

この取り組みは、ウィキペディアの存在意義をめぐる、より長期的な問いも投げかける。ルブルーは、人間が書く百科事典には、読者にとっての価値に加え、生成された文章でますます満たされるインターネットの中で、独自のコーパスとしての価値もあると論じた。一方、AIツールは将来、出典の確認や帰属の明示、AI検索サービスを通じて誤りに気づいた読者からの依頼への対応を助ける可能性もある。当面のプロジェクトの課題は、より限定的だ。文体上の手がかりだけで文章がどのように作られたかを証明できるとは主張せず、裏付けのない機械生成コンテンツを特定することである。