美國官員已召集高層銀行高管前往華盛頓,因外界對 Anthropic新開發的AI模型相關的網路安全風險日益擔憂。據報導,這次會議由財政部長斯科特·貝森特主持,正值公司最新系統克 勞德·米索斯(Claude Mythos)發表後不久舉行。
出席者包括傑羅姆·鮑威爾,以及高盛、美國銀行和花旗集團等主要金融機構的高管。會議聚焦於先進 AI 工具能在與人類專家相當甚至超越的程度上識別並利用軟體漏洞所帶來的潛在風險。
Anthropic 最近警告其模型揭露了數千個廣泛使用系統中未被偵測的弱點,引發了駭客可能濫用此類技術的擔憂。本月初該模型程式碼外洩加劇了外界的擔憂,該公司也承認,這對經濟和國家安全的更廣泛影響可能相當重大。
作為回應,Anthropic 限制該模型僅限於少數公司,包括大型科技公司與基礎建設組織。這是該公司首次限制產品上市。