【Anthropic牽手埃森哲】雙方五年各掏10億美元　評估員進駐把關AI安全　紅隊測試模型價值觀

人工智能公司Anthropic與顧問巨企埃森哲（Accenture）宣布結成合作夥伴，雙方將各自承諾未來五年投入最少10億美元，發展人工智能安全評估工作。是次合作核心，是由埃森哲派出專屬評估團隊，直接進駐Anthropic內部運作，長期參與安全測試。

評估員長駐把關 紅隊測試模型

據悉，埃森哲團隊職責涵蓋評估及「紅隊測試」Anthropic旗下人工智能模型、進行價值觀對齊評估，以及測試各項安全防護機制是否奏效，確保模型行為符合預期的人類價值標準。

收購Faculty儲備專才 曾助英國NHS抗疫

埃森哲今次合作，主要依靠旗下早前收購的人工智能公司Faculty提供技術支援。Faculty過往曾為政府、國防、醫療及基建等多個界別提供人工智能測試及評估服務，當中包括在新冠疫情期間，為英國國民保健署建立預警系統。

非獨家合作 顯示行業自我監管壓力漸增

是次合作屬非獨家性質，意味Anthropic日後不排除引入其他第三方機構參與安全評估工作。有分析認為，隨著各地監管機構對生成式AI風險日益關注，主要AI開發商需要展示更具體的第三方監督機制，以回應外界對安全治理透明度的質疑。

當AI模型愈趨強大，安全把關能否跟上發展速度，將成為左右監管信任與商業估值的重要指標，這次合作或許只是行業自我監管競賽的起點。

免責聲明：本專頁刊載的所有投資分析技巧，只可作參考用途。市場瞬息萬變，讀者在作出投資決定前理應審慎，並主動掌握市場最新狀況。若不幸招致任何損失，概與本刊及相關作者無關。而本集團旗下網站或社交平台的網誌內容及觀點，僅屬筆者個人意見，與新傳媒立場無關。本集團旗下網站對因上述人士張貼之資訊內容所帶來之損失或損害概不負責。