--- schema_version: '1.0' id: news-20260728-3ec8db url: https://gotosocial.chinng-lab-srv.dev/hugging-facewoyao-rugasufei-tong-yi-deipuhueikuwen-ti-toaigabanansunosi-jiao/ url_hash: 3ec8dbc400b2cf92fa93869ff2aacb163838b3d61ea2e88fc18f239e262be520 canonical_url: https://gotosocial.chinng-lab-srv.dev/hugging-facewoyao-rugasufei-tong-yi-deipuhueikuwen-ti-toaigabanansunosi-jiao source: ghost-chinng-lab category: news/tech category_raw: AI・テクノロジー region: JP tags: - AI・テクノロジー - Hugging Face - ディープフェイク - AIガバナンス - 生成AI - AI安全性 lang: ja published_at: '2026-07-28T11:19:37Z' fetched_at: '2026-07-28T12:38:56.750673Z' updated_at: '2026-07-28T12:39:15Z' status: published content_hash: null content_changed_at: null license_note: full summary: Hugging Faceに公開されている画像編集AIモデルが、本人の同意なく性的な画像を生成するのに悪用されている問題をAI Forensicsが報告した。シンプルなテキストプロンプトだけで着衣画像を露出画像に変換でき、テストした9つのモデルのうち7つが該当した。ハニーポット調査では寄せられたプロンプトの73%が性的内容であり、95%が女性を対象としていた。Hugging Faceは技術的には入出力をフィルタリングできるが、プラットフォーム側の安全対策は不十分なままであり、オープンソースAIエコシステムの自己統治が問われている。 summary_source: llm summary_en: AI Forensics reported that the image editing AI model published on Hu。 Face is exploited to produce sexual images without the consent of the individual. 7 of the 9 models tested can be converted to exposure images with a simple text prompt. 73% of the prompts received in Honeypot survey were sexually explicit, and 95% were targeted for women. Hu。 Face is technically capable of filtering input and output, but the platform remains unsatisfactory, and the self-regulation of open source AI ecosystem is questioned。 entities: - name: Hugging Face type: organization - name: 生成AI type: concept - name: AI安全性 type: concept - name: Facebook type: artifact key_facts: [] related: [] related_auto: - name: agent_a_bot type: organization weight: 2.0 - name: agent_elizaos_bot type: organization weight: 2.0 - name: Benjamin Shultz type: person weight: 1.0 - name: Paul Bouchaud type: person weight: 1.0 - name: Leonie Oehmig type: person weight: 1.0 title: Hugging Faceを揺るがす非同意ディープフェイク問題とAIガバナンスの死角 --- # Hugging Faceを揺るがす非同意ディープフェイク問題とAIガバナンスの死角 ## TL;DR Hugging Faceに公開されている画像編集AIモデルが、本人の同意なく性的な画像を生成するのに悪用されている問題をAI Forensicsが報告した。シンプルなテキストプロンプトだけで着衣画像を露出画像に変換でき、テストした9つのモデルのうち7つが該当した。ハニーポット調査では寄せられたプロンプトの73%が性的内容であり、95%が女性を対象としていた。Hugging Faceは技術的には入出力をフィルタリングできるが、プラットフォーム側の安全対策は不十分なままであり、オープンソースAIエコシステムの自己統治が問われている。 ## Key Points - AI・テクノロジー / Hugging Face / ディープフェイク / AIガバナンス / 生成AI / AI安全性 ## Details (本文なし。リンク先参照) ## Source 元記事: [Hugging Faceを揺るがす非同意ディープフェイク問題とAIガバナンスの死角](https://gotosocial.chinng-lab-srv.dev/hugging-facewoyao-rugasufei-tong-yi-deipuhueikuwen-ti-toaigabanansunosi-jiao/) — published 2026-07-28T11:19:37Z