出来事の日付：2026年11月4日。

計算機科学者のジェフリー・ヒントン氏は、人工知能が近いうちに重要なシステムの大規模な混乱の一因となり得ると警告した。ただし、これは確実に起きるとの予言ではなく、リスクの評価だと強調している。ガーディアン紙のインタビューで同氏は、政治指導者にAIの安全性へより緊急に対処するよう迫り得る事態の例として、発電や金融インフラの一時的な機能停止を挙げた。

現代のニューラルネットワークの確立に貢献した研究でノーベル賞を受賞したヒントン氏は、そのような出来事が今年か来年に起きるかもしれないと述べた。同氏は、その可能性を原子力事故そのものではなく、市民や政府の行動を変える産業上の初期の警告になぞらえた。例として挙げたのは、AIを利用した攻撃によって大規模な電力供給の低下が起きたり、金融システムが1週間停止したりする事態だった。

同氏の警告は、短期的なセキュリティへの懸念と長期的な社会のリスクを組み合わせたものだ。今後10年で、社会がAIを使って幅広い物質的な恩恵を生み出せるのか、それとも格差、失業、文化的な混乱の拡大を経験するのかが明らかになる可能性があると述べた。また、望ましい未来は実現可能だとしつつも、人類が最終的にAIの開発は誤りだったと結論づける可能性もあると語った。

ヒントン氏はAIのリスクについてより自由に論じられるよう、2023年にGoogleを退社した。それ以降、能力を高め続けるモデルへの監督強化を訴え、有力なテクノロジー企業の自発的な安全の約束に頼る姿勢を批判してきた。今回のインタビューでは、最先端システムへの試験の義務化、独立した評価、政府間で共通の基準を設けることを支持した。

同氏が望ましいとする仕組みは、医薬品の市場投入前の規制に似ている。開発者は公開前に、システムから期待される利益が害を上回るという統計的な証拠を、独立した機関へ提出する必要があるというものだ。この方法では、被害が起きた後の訴訟や是正措置に主に頼るのではなく、導入前に安全性を確認することになる。複数の国は最先端モデルへの試験強化の一部を支持しているが、技術競争と両立できる規制の程度について、各国政府の見解はなお分かれている。

今回の発言は、ヒントン氏とGoogle DeepMindのデミス・ハサビス最高経営責任者が登場するドキュメンタリーにも伴うものだった。ヒントン氏は、自身の社会的な知名度ゆえに発言する義務があると述べた一方、自分をこの技術の唯一の生みの親と位置づけるような比較は退け、ニューラルネットワークの開発には多くの研究者が携わってきたと指摘した。

警告は厳しいものの、ヒントン氏は、人間はなお主導権を握っており、危険を管理するのに十分な努力を結集できるかもしれないと考えていると述べた。将来の事故がいつ、どのような形で起きるかについての発言は、知見に基づく推測の域を出ない。一方、政策上の中心的な主張はより具体的だ。強力なシステムには公開前に、証拠に基づく独立した評価を課すべきだという。大きな混乱をもたらす障害を待っていては、政府の対応が、防げたはずの被害が起きた後にしか始まらなくなるおそれがあるためだ。