Anthropicの研究者らは、自己拡散する可能性のあるAIシステムの一部の仕組みを実証した。ただし、この実験で、実環境の一般的な端末に侵入できるワームが作られたわけではない。検証したのは、低価格のハードウェアにまたがってモデルの推論を実行できるか、また、意図的にアクセス可能にしたノード間でエージェントがモデルをコピーできるかという点だった。

研究の一部では、Gemma4-26B-A4Bの分散版を、汎用Androidテレビボックス15台で動作させた。この構成での推論速度は毎秒0.39トークンだった。この結果は、安価な端末にモデルの各層を分割して配置できることを示している。しかし、速度の遅さや目立つデータ転送によって有用性は制限され、拡大するネットワークが発見されやすくなる可能性もある。

別の実験では、Z.aiのGLM-5.2を使い、プライベートネットワーク内でAndroid 15のエミュレーターを動かすGoogle Cloudのインスタンス8台に、Llama3.1-8Bを伝播させた。5回の試行のうち4回では全8ノードに到達し、残る1回では7ノードに到達した。研究者らが試した他のオープンウェイトモデルは一貫して失敗したと報告されているが、公表された説明には、代替モデルをいくつ評価したのかは明記されていなかった。

この結果には重要な留保がある。各ノードは実験用に設定され、複製処理を受け入れられる状態にしてあった。Anthropicは、セキュリティ上の欠陥を発見して悪用するという課題をほぼ検証対象から外し、適切なツールが与えられればモデルは一部のサイバー攻撃作業を実行できるという前提を、先行研究に依拠していた。Mementoと呼ばれる独自の実行支援フレームワークも、このシナリオを補助した。研究者らは、この単純化された環境での結果を、実環境で見込まれる成功の上限と位置づけた。

したがって、想定される脅威は複数の条件に左右される。小型モデルが一連の作業を最初から最後まで実行する能力をさらに高め、その能力をコンパクトなモデルに収める必要があるうえ、攻撃者は脆弱な端末に侵入する実行可能な経路をなお確保しなければならない。Anthropicは、仮想的なネットワークが規模を倍増させるのに数日かかる可能性があると推定した。これは、2016年のMiraiボットネットで見られた、およそ1時間ごとの倍増に比べてはるかに遅い。

実務上の教訓は、自律的なAIワームという見通しよりも限定的だ。セキュリティが弱いインターネット接続端末は、依然としてボットネットの構成端末になり得る。また、将来のエージェントが攻撃のより多くの手順を自動化する可能性もある。適時のパッチ適用、初期設定の認証情報の廃止、異常な帯域使用の監視といった基本的な防御策は、今回検証したシナリオに対しても障害となる。Anthropicの実験が示したのは、管理された条件下での技術的な構成要素であり、自己複製するAIボットネットが現在拡散しているという証拠ではない。実験室での一連の処理と、制御されない感染拡大との隔たりはなお大きい。研究者が用意した環境なしに、多様なハードウェア上で複製、脆弱性の悪用、侵入後の足場の維持、検知の回避をすべて連携させる必要がある。