微軟AI工具或生成不當圖像 員工向FTC發出警告

微軟公司的一名軟體工程師於週三向美國聯邦貿易委員會發出警告，指出公司的人工智能系統存在缺陷，可能導致生成有害圖像。

潛在風險揭露

該工程師Shane Jones表示，微軟的AI文字轉圖像生成器Copilot Designer存在系統性問題，經常生成可能具冒犯性或不當的圖像，包括對女性的性物化圖像。儘管已知存在風險，微軟仍將此工具宣傳為安全，甚至適合兒童使用。

呼籲採取行動

Jones在信中提到，Copilot Designer在回應如「車禍」等無害請求時，有時會隨機生成包含不當性物化女性的圖像。他敦促微軟將Copilot Designer從公共使用中撤下，直至能夠實施更好的安全措施，或至少僅向成人銷售此工具。