研究發現AI圖像生成器可製作誤導性選舉圖像

領先的人工智能圖像生成器可被操縱製作與選舉相關的誤導性圖像，這是科技監督機構「數位仇恨對抗中心」（CCDH）週三發布的報告所發現的。

AI工具潛在風險

報告指出，儘管領先的AI公司已承諾解決今年在美國和其他數十個國家的選舉前，可能與政治錯誤信息相關的風險，但一些公司在確保其AI工具不會被操縱以創建誤導性圖像方面仍有工作要做。CCDH的研究人員測試了Midjourney、Stability AI的DreamStudio、OpenAI的ChatGPT Plus和Microsoft Image Creator，發現每個工具都可以被提示創建與美國總統候選人或投票安全相關的誤導性圖像。

平臺回應與措施

Stability AI的發言人表示，該公司已於3月1日更新其政策，明確禁止「生成、促進或進一步欺詐或創建或促進錯誤信息」，並且該政策正在實施過程中。Midjourney創始人David Holz表示，公司的「審核系統不斷進化，與即將到來的美國選舉相關的更新很快就會到來」。OpenAI的發言人表示，公司正在「建立我們的平臺安全工作，以防止濫用，提高AI生成內容的透明度，並設計像拒絕生成真實人物圖像的請求等緩解措施」。