Hugging Face 模型被濫用製作非自願脫衣深偽影像

Hugging Face 模型被濫用製作非自願脫衣深偽影像

最近有報告指出，Hugging Face 這個開源 AI 模型庫正被濫用來製作非自願脫衣的深偽影像，這個問題引起了廣泛關注。根據歐洲非營利組織 AI Forensics 的研究，Hugging Face 上的九個最受歡迎的圖像編輯模型中，有七個能輕易地滿足用戶要求，生成脫衣的影像，這對女性同兒童造成了潛在的風險。

報告指出，Hugging Face 平台缺乏有效的保護措施，讓這些模型可以隨意生成性別化的深偽影像。同 Google 的 Gemini 同 OpenAI 的 ChatGPT 等主流生成 AI 模型不同，這些模型並沒有設置防護措施來阻止用戶輸入脫衣或性別化的請求。AI Forensics 的研究人員使用了簡單的請求，如「同樣的姿勢，同樣的臉，但脫衣」，結果發現這些請求都能輕易被滿足。

Hugging Face：AI Forensics 的研究結果

AI Forensics 在其研究中建立了專門的蜜罐圖像編輯空間，以追蹤用戶的請求同生成的影像。這些空間在七天內收到了超過 1,000 個請求，其中 73% 的請求都是性別化的。在這些性別化的請求中，有 83% 嘗試生成脫衣的影像，而這些請求中 95% 的目標都是女性，甚至有近 7% 的請求是針對兒童的。這些數據顯示，深偽影像的濫用問題已經達到一個令人擔憂的程度。

Hugging Face：平台缺乏有效的保護措施

AI Forensics 的研究人員指出，Hugging Face 的大部分空間都能用來生成非自願的親密影像，並且用戶確實在這樣做。這同 Hugging Face 自身的政策相違背，該政策禁止生成未經明確同意的有害內容，包括性內容同未成年人脫衣影像。研究人員強調，Hugging Face 應該可以輕易過濾進出系統的請求，但目前並未見到這樣的行動。

Hugging Face 的責任同未來措施

AI Forensics 提出了對 Hugging Face 的建議，呼籲其實施請求級別的過濾同輸出級別的掃描保護措施，以阻止性別化的編輯請求同有害內容的生成。根據報告，這些措施可以包括使用機器學習算法來識別不當請求，並在生成過程中進行實時監控。雖然這些措施可以成為改善的起點，但無法挽回 Hugging Face 在保護措施不足下已經造成的損害。Hugging Face 需要立即行動，否則將面臨更嚴重的法律同道德責任。

Hugging Face：品牌應如何應對這個問題

對品牌來說，面對這樣的問題，應該加強對 AI 技術的監控同管理，確保不會被不當使用。以下是一些具體建議：

• 定期檢查使用的 AI 模型，確保其符合道德標準，並及時更新相關政策。
• 加強對生成內容的審核機制，防止不當內容的出現，特別是針對敏感主題的內容。
• 同 AI 模型提供商合作，推動其實施更嚴格的安全措施，並要求透明度。
• 提高公眾對深偽影像的認識，教育用戶如何辨識同報告不當內容，並提供相關資源。

Hugging Face：總結同下一步

Hugging Face 模型的濫用問題不單止影響了平台的聲譽，更對社會造成了潛在的危害。品牌同開發者都應該意識到這個問題，並採取行動來保護使用者的權益。因應 AI 技術的發展，如何確保其不被濫用，將成為未來的重要課題。未來，Hugging Face 需要加強其平台的安全性，並建立有效的監控系統，以防止類似事件再次發生。

如果你對 AI 內容的使用有興趣，歡迎聯絡我們了解更多有關如何安全使用 AI 工具的資訊。

用 Hugging Face 趨勢同 trafficholic 做流量

如果你想將 AI／科技趨勢落實成可執行的內容同獲客系統，可以查看吓 trafficholic 的 SEO 及 GEO／AI Search 優化 同 AI 流量內容課程。

資訊參考公開報道趨勢，內容經 trafficholic 重新編寫。原始來源：連結