インターネット上での性的虐待コンテンツを最小限に抑えるために活動を行っている非営利団体のインターネット監視財団(IWF)が、AI生成の児童性的虐待画像(CSAM)が急増していることを報告しました。IWFによると、AI生成のCSAMは2025年比で40％も増加しています。
Our analysts have found more photorealistic child sexual abuse material in the first half of 2026 than for the whole of the prior year. “Tech companies must build tools which cannot be abused this way,” says our Head of Policy @hannahswirsky https://t.co/VZWwXopBee
— Internet Watch Foundation (IWF) (@IWFhotline) October 5, 2026
Internet Watch Foundation reports huge rise in AI child sexual abuse material | AI (artificial intelligence) | The Guardian
https://www.theguardian.com/technology/2026/oct/05/internet-watch-foundation-huge-rise-ai-child-sexual-abuse-material
AIが生成したCSAMがインターネット上で増加しており、2026年上半期だけですでに2025年の年間総数を上回っているとIWFが報告しました。IWFの分析担当者によると、2026年上半期だけでCSAMの法的定義に該当するAI画像が6310点見つかっています。2025年の年間総数は4500点超であるため、既にこれを40％も上回っています。
AI生成CSAMは数年前から増加しており、特に動画が急増しているとIWFは指摘。ただし、今回IWFが集計したのは静止画像のみです。IWFの分析担当者が確認した画像の大半は、女児や7～13歳の子どもを描いたものでした。
IWFはこれらの数字がAIに対する新たな法規制の必要性を浮き彫りにしていると主張。IWFの政策責任者であるハンナ・スワースキー氏は、企業により安全なAIモデルの開発を義務付けるため、「法的拘束力のあるAI法」を支持すると語りました。他にも、スワースキー氏は「テクノロジー企業には、このような悪用ができないツールを開発する責任があります」「この問題を生み出したのはテクノロジーです。企業が設計段階から安全性を組み込んだツールを開発していないのが原因です」と語っています。
イギリスでは、AIが生成したCSAMは違法です。政府はCSAMを生成するためにAIモデルを改変することや、そのようなAIモデルを他者に配布することも違法としています。極めてリアルなCSAMを生成するよう設計されたAIモデルを開発した場合、最長で5年の拘禁刑が科されます。
なお、私的な性的画像がインターネット上に掲載されるのを防ぐためのサービスである「Report Remove」には、自分の画像が偽造・加工され、性的に露骨なものにされたと訴える子どもたちから、2026年上半期に420件の通報が寄せられたそうです。この件数は、すでに2025年の年間総数である397件を上回っています。
AIを使って虐待のためのツールが作られるようになったことを受け、National Crime Agency(イギリス国家犯罪対策庁)とIWFは、子どもの写真をSNSに投稿しないよう保護者に呼びかけています。
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。