フィルター設定にもかかわらずInstagramのリールに暴力的コンテンツ、モデレーションの不具合の可能性も
世界各地のInstagramユーザーによると、2025年2月26日、リールのフィードに暴力的で不快な動画や、その他のセンシティブな動画が表示され始めた。コンテンツフィルターを有効にしていたというアカウントも含まれていた。
提供されたHindustan Timesの報道によると、苦情はX上で広がり、ユーザーらは残酷な映像やNSFW、暴力的な動画がフィードに突然急増したと述べた。同報道で引用された複数の投稿によると、そうした素材は繰り返し、警告なしに表示されたようで、プラットフォームの通常のフィルタリングシステムが想定どおり機能していないとの印象を与えた。
この苦情が注目に値するのは、一部のユーザーがすでにInstagramの「不適切なコンテンツをコントロール」を利用していたと述べているためだ。これは、プラットフォームが不快または生々しいと分類する素材への接触を制限するための設定である。この保護機能を有効にしていても、期待していた種類のフィードにそぐわないコンテンツが引き続き表示されたという。
この報道は原因が確認されたとはしておらず、当時Metaが公式声明を出していなかったことも明確にしている。その代わり、妥当な説明として、Instagramのモデレーションシステムに不具合が生じた可能性と、アルゴリズムが変更された可能性の2つを挙げている。記事内の説の一つは、AIベースのスキャンの障害により、本来なら制限される投稿の表示範囲が広がった可能性があるというものだ。もう一つは、レコメンデーションの更新によってシステムが優先する対象が変わった可能性である。
提供された証拠には公式な説明がなかったため、最も慎重な読み方は、この問題は会社が正式に認めたものではなく、ユーザーから報告されていたものだということになる。この違いは重要だ。ソーシャルプラットフォームでは、レコメンデーションシステムが変わったりモデレーションフィルターが機能しなくなったりすると、苦情が相次ぐことが多いが、今回の情報源はどの仕組みが原因だったかを証明していない。
より広範な懸念は明白だ。プラットフォームのコンテンツフィルターが有効なのに、ユーザーがなお暴力的または生々しい動画を受け取るのであれば、フィードへの信頼は急速に低下する。Instagramほど大規模なサービスでは、短時間の不具合でも多数の利用者に影響し得る。とりわけ、問題がアプリ内で最もトラフィックの多い画面の一つであるリールに生じたように見える場合はなおさらだ。
この項目の事象説明は、Meta Platformsが導入した不具合としてこの出来事を位置付けているが、提供された報道はその診断を証明するまでには至っていない。問題を確認済みとして扱うのではなく、証拠が裏付けるのは、ユーザーがリールのフィードに突然暴力的コンテンツが含まれるようになったと報告し、その原因は公式に説明されていなかった、というより限定的な結論である。
プラットフォームにとって、こうした事態は特にセンシティブだ。モデレーションの障害は、信頼、安全、製品設計が交わる問題だからである。システムがセンシティブな素材を遮断したり、表示順位を下げたりするはずなのに、設定とフィードの間に目に見える食い違いがあれば、それ自体がニュースになる。2025年2月26日、多くのInstagramユーザーが目にしていると述べたのは、まさにそれだった。
報道に残る不確実性は重要だ。それによって、この問題は確認済みのポリシー上の失敗ではなく、製品の不具合という領域にとどまるからである。問題がモデレーションのロジックに由来するなら、内部システムの問題を示すことになる。一方、ランキングの変更に由来するなら、意図しない副作用を伴うレコメンデーションの変更を示唆する。いずれにせよ、記事で説明されているユーザー体験は同じだ。人々は、明確に避けようとしていた素材を目にしたと述べている。
