韓国警察庁は、10代の若者に関するものを含むディープフェイク・ポルノの拡散にテレグラムが果たした役割について捜査を開始した。

DWによると、ソウルの警察は88件の苦情を受け、容疑者24人を特定したという。捜査では、暗号化メッセージング・プラットフォームが、実在する人物の顔を人工的な身体に重ね合わせたAI生成の性的画像の拡散を助長したかどうかに焦点が当てられている。

この事件は、韓国における、より広範で極めて深刻なデジタル性犯罪問題を映し出している。報道によると、韓国の放送局は最近、女子学生の同級生を題材にしたディープフェイク・ポルノ素材を共有していた、大学生が運営するテレグラムのチャットルームを暴露した。この報道を受けて国民の怒りが高まり、当局に行動を求める圧力も強まった。

韓国警察庁の捜査責任者、ウ・ジョンス氏は記者団に対し、過去の事件で行ったアカウント情報の提供要請にテレグラムは応じなかったと述べた。この点が重要なのは、今回の捜査がコンテンツ管理だけでなく、犯罪が通報された際に同社が法執行機関に協力する意思があるかどうかも対象としていることを示唆するためだ。

警察の今回の動きは、テレグラム創業者パベル・ドゥーロフ氏が8月にフランスで逮捕された直後でもある。DWによると、ドゥーロフ氏は、同プラットフォーム上で犯罪行為が広がることを許したとの疑惑をめぐり拘束されている。フランスの事件は別件だが、複数の法域でテレグラムのシステムと企業責任に対する監視が明らかに強まった。

ディープフェイク・ポルノは、韓国で最も注目を集めるテクノロジーおよび刑法上の問題の一つとなっている。報道は、盗撮やリベンジポルノなどのデジタル性犯罪が長年にわたり重大な懸念事項となってきたと指摘している。今回の新たな波では、AIツールの利用によって虐待的コンテンツをより短時間で作成し、より簡単に拡散できるようになっており、対応を図る警察や規制当局にとって問題の重大性が増している。

韓国警察庁は、事件についてフランス当局と連携すると述べ、テクノロジーと法執行上の課題の双方が国境を越える性質を持つことを示した。同社のサービスは暗号化され、世界規模で、モバイルを中心としている一方、被害者は多くの場合、地元に住み、身元を特定できる。このため、虐待が広がる速さと捜査の進展速度との間に深刻な不均衡が生じている。

報道は、テレグラムが起訴されたとも、最終的な法的判断が下されたとも伝えていない。一方で、韓国警察が、同プラットフォームが犯罪を可能にする役割を果たした可能性があると考え、その見立てを公に検証する構えであることは示している。

被害者にとって、この問題は差し迫った個人的なものだ。ディープフェイク素材は削除される前に広範囲に拡散する可能性があり、評判、安全、精神的健康への被害を元に戻すことは難しい。規制当局にとって、この事件は今や多くの国が直面する、より広範な問いの一部でもある。犯罪集団がメッセージング・プラットフォームを利用して性的虐待コンテンツを大規模に拡散する場合、そのプラットフォームはどのような責任を負うべきなのか。