美國人工智能（AI）企業(yè)Anthropic本月披露其研發(fā)的最新大模型“Claude Mythos”，不到兩周時間內(nèi)，其高風(fēng)險和非公開化引發(fā)廣泛關(guān)注和警惕。OpenAI首席執(zhí)行官山姆·奧特曼將Mythos比作“一邊投炸彈，一邊兜售價值1億美元的防空洞”。

Anthropic聲稱，Mythos具有不可思議的能力，可以發(fā)現(xiàn)并利用全球銀行、電網(wǎng)和政府機構(gòu)運行軟件中的隱藏漏洞。這意味著，該模型可能成為一個地緣政治籌碼，而且掌握在一家美國公司手中。加拿大財長將其威脅比作霍爾木茲海峽的關(guān)閉。

據(jù)新華社報道，Anthropic表示，Claude Mythos能夠自主識別主流軟件系統(tǒng)中大量此前未被發(fā)現(xiàn)的安全漏洞，并能開發(fā)出相應(yīng)攻擊手段。國際貨幣基金組織總裁克里斯塔利娜·格奧爾基耶娃12日警告說，全球貨幣體系尚未做好應(yīng)對AI風(fēng)險快速升級的準(zhǔn)備。

不過也有專家指出，即使Mythos在大型操作系統(tǒng)和瀏覽器中可以發(fā)現(xiàn)數(shù)千個“零日（zero-day）”漏洞（注：已經(jīng)被發(fā)現(xiàn)、但軟件開發(fā)者尚未獲知或尚未發(fā)布修復(fù)補丁的安全漏洞），這也并非革命性的，其他價格低廉得多的模型也能夠發(fā)現(xiàn)此類漏洞，只是能力差異。

《紐約時報》稱，Mythos是全球AI鴻溝日益擴大的最新跡象?！皩τ谥袊鴣碚f，我認(rèn)為這是繼ChatGPT之后的第二個警鐘?！笨▋?nèi)基國際和平基金會高級研究員麥特·希恩表示。

Mythos是革命還是炒作？

Anthropic在4月7日宣布了AI模型Mythos的存在，但表示不會公開發(fā)布，因為它能夠識別IT系統(tǒng)中未知的缺陷。理論上，這些缺陷可能被黑客利用。

Anthropic表示，如果用戶提出要求，Mythos可以識別并利用每個重要IT操作系統(tǒng)和網(wǎng)絡(luò)瀏覽器中的“零日”漏洞。之所以被稱為“零日”，是因為組織和開發(fā)人員對其完全不知情，在攻擊者出擊之前沒有時間進行修補。

據(jù)《衛(wèi)報》報道，英國AI安全研究所（AISI）已對Mythos進行了觀察，認(rèn)為Mythos是先進AI破壞能力的切實證據(jù)，并表示就其對網(wǎng)絡(luò)安全的威脅而言，是對以往模型的一次“升級”。其危險信號包括執(zhí)行涉及多個步驟的攻擊能力，以及在沒有人類指導(dǎo)的情況下識別IT缺陷。

在AISI看來，Mythos還實現(xiàn)了一項首創(chuàng)：在研究所創(chuàng)建的一項測試中，成功完成了一次包含32個步驟的網(wǎng)絡(luò)攻擊模擬。它可以攻擊薄弱、小型的IT系統(tǒng)，盡管該機構(gòu)無法對防御良好的系統(tǒng)給出定論。該研究所在評估結(jié)束時提出了一項在別處也經(jīng)常被提及的觀察：AI系統(tǒng)從現(xiàn)在起只會變得更好。

Anthropic在Forge Global等未上市企業(yè)股權(quán)交易平臺上的估值已升至1萬億美元左右，超過OpenAI的8800億美元。據(jù)悉，由于買家正在競相搶購Anthropic日益減少的二級市場股票，使得這家人工智能初創(chuàng)公司的估值迅速攀升。

一些專家認(rèn)為，Anthropic關(guān)于Mythos的主張，以及這家估值約8000億美元公司的呈現(xiàn)方式中存在炒作成分。Mythos無疑是一個能力強大的模型，但戲劇性的聲明為其贏得了大量關(guān)注，并將其產(chǎn)品置于關(guān)于AI如何促成網(wǎng)絡(luò)風(fēng)險的更廣泛的行業(yè)討論中心。

4月21日，摩根大通上調(diào)標(biāo)普500指數(shù)目標(biāo)價，認(rèn)為隨著Mythos模型的發(fā)布，AI交易將推動標(biāo)普500指數(shù)再創(chuàng)新高。

誰參與其中？

Anthropic在4月早些時候表示，由于擔(dān)心Mythos過于擅長識別網(wǎng)絡(luò)安全漏洞，不會向公眾發(fā)布。該公司創(chuàng)建了“透明翼計劃”（Project Glasswing），只有包括谷歌、微軟、亞馬遜云服務(wù)（AWS）、英偉達和摩根大通在內(nèi)的11家機構(gòu)獲得了該模型的訪問權(quán)限。這些公司全部來自美國，承諾協(xié)助為該模型識別出的漏洞開發(fā)安全修復(fù)程序。

Anthropic還將其提供給了40多家公司和組織，他們目前正在測試該技術(shù)并努力加強其系統(tǒng)。

英國是唯一獲得訪問權(quán)限的其他國家。其政府支持的英國AI安全研究所對Mythos進行測試后，在上周發(fā)布了一份獨立評估報告?！斑@代表了AI網(wǎng)絡(luò)能力的提升?！庇鳤I國務(wù)大臣卡尼什卡·納拉揚上周在社交媒體上表示，該國正在采取措施保護“關(guān)鍵國家基礎(chǔ)設(shè)施”。

據(jù)《紐約時報》報道，一位歐盟官員表示，自Mythos發(fā)布以來，歐洲委員會已與Anthropic至少會面了三次。但由于雙方尚未就如何共享模型達成一致，該公司未提供訪問權(quán)限。而且，美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局（CISA）也不在Mythos的訪問權(quán)限名單上。

Anthropic表示，已收到大量來自各國政府、公司和其他機構(gòu)要求獲取權(quán)限和信息的電話，但這些機構(gòu)在安全評估如此強大的AI模型方面可能具備不同水平的專業(yè)知識。該公司補充說，預(yù)計其他團隊將在至少18個月內(nèi)發(fā)布具有類似網(wǎng)絡(luò)能力的AI模型并進行更廣泛的推廣，這使得各機構(gòu)進行必要安全修復(fù)的時間非常有限。

“這種營銷方式顯然令人難以置信：‘我們造了一枚炸彈，正準(zhǔn)備把它扔到你頭上。我們會以1億美元的價格賣給你一個防空洞，讓它在你的所有設(shè)施中運行，但前提是我們選擇你作為客戶?！眾W特曼在21日發(fā)布的播客節(jié)目Core Memory中說，Anthropic正在利用“基于恐懼的營銷”來推銷Mythos。

國際AI合作缺失，風(fēng)險多大？

英格蘭銀行行長近日公開警告稱，Anthropic可能已經(jīng)找到了一種“破解整個網(wǎng)絡(luò)風(fēng)險世界”的方法。歐洲中央銀行開始詢問各銀行的防御情況。

由于擔(dān)心Mythos的預(yù)期威脅，美國財政部長斯科特·貝森特本月初在華盛頓召集了包括高盛和花旗在內(nèi)的美國大銀行負(fù)責(zé)人開會。英國監(jiān)管機構(gòu)本周已將Mythos列入跨市場運營彈性小組會議的議程，這使其進入了資深銀行家以及來自財政部、英格蘭銀行、金融行為監(jiān)管局和國家網(wǎng)絡(luò)安全中心官員之間的高層討論。

盡管Mythos未向公眾發(fā)布，但外界普遍擔(dān)憂它仍可能落入壞人之手。彭博社21日報道稱，在Anthropic首次宣布計劃向少數(shù)公司開放該模型進行測試的同一天，一個私密在線論壇中的幾名用戶便獲得了Mythos的訪問權(quán)，他們未經(jīng)授權(quán)，但一直在定期使用。

喬治·華盛頓大學(xué)政治學(xué)教授杰弗里·丁對《紐約時報》表示，中國的一些AI研究人員私下表達了擔(dān)憂。中國駐美國大使館發(fā)言人劉鵬宇表示，中方對Mythos的具體細(xì)節(jié)并不熟悉，但支持和平、安全、開放的網(wǎng)絡(luò)空間。

圍繞Mythos的爭議發(fā)生在一個缺乏國際AI合作的時期，隨著各公司競相超越對手，各國政府正帶著懷疑審視彼此。目前還沒有等同于《核不擴散條約》的AI條約，沒有共同的檢查機制，也沒有針對如何處理像Mythos這樣事物的公認(rèn)規(guī)則。

去年，在上海召開的2025世界人工智能大會暨人工智能全球治理高級別會議上，中國政府發(fā)出倡議，成立世界人工智能合作組織，初步考慮總部設(shè)在上海。近日，中國16家科技社團共同發(fā)布《全球人工智能治理科技社團倡議》，倡導(dǎo)以人為本、智能向善，推動建立開放、公正、包容、有效的全球人工智能治理體系。