9999精品视频,一区二区色,91福利在线免费播放,人妻在线综合综合网,人妻丰满精品一区,九九九精品九九九精品,久久精品店,国产午夜久久,五月天人妻超碰

  • +1

Anthropic警示AI自我進(jìn)化過快,呼吁適度放緩前沿研究

澎湃新聞?dòng)浾?喻琰
2026-06-05 15:22
來源:澎湃新聞
? 未來2% >
聽全文
字號(hào)

依托Claude,Anthropic超八成代碼已由AI生成,工程師開發(fā)效率數(shù)倍抬升,AI自主迭代、遞歸式自我改進(jìn)進(jìn)程提速超預(yù)期。美國大模型公司Anthropic在最新技術(shù)博文中《當(dāng)人工智能自我構(gòu)建時(shí)》披露實(shí)測數(shù)據(jù)并預(yù)判三類行業(yè)走向,同時(shí)罕見提出觀點(diǎn):合理放慢尖端AI研發(fā)節(jié)奏,留給社會(huì)配套完善窗口期,或?qū)⒗萌祟惏踩l(fā)展。

Anthropic發(fā)表最新技術(shù)博文《當(dāng)人工智能自我構(gòu)建時(shí)》

Anthropic 稱,截至今年5月,80%以上的Anthropic代碼,都由Claude寫的。而在Claude Code發(fā)布之前,這個(gè)數(shù)字還僅是個(gè)位數(shù)。與此同時(shí),Anthropic工程師平均每季度交付的代碼量,是2021至2025年的8倍。

“在 Anthropic 成立的前四年,也就是 2021 年至 2024 年,每位工程師每天合并的代碼行數(shù)基本保持穩(wěn)定;到 2025 年,隨著 Claude 開始運(yùn)行代碼,而不只是建議工程師復(fù)制粘貼代碼,這一數(shù)字開始上升。”

Anthropic 表示,2026 年,隨著模型開始在更長的時(shí)間范圍內(nèi)自主運(yùn)行,這一增長速度再次加快。數(shù)據(jù)顯示,2026 年第二季度,Anthropic 普通工程師每天合并的代碼量是 2024 年的 8 倍。

Claude編寫的代碼“很好”,而且還在不斷改進(jìn),在這種情況下,未來的工作模式會(huì)是怎樣的?Anthropic表示,未來可能會(huì)出現(xiàn)至少三種不同的情形:

 第一,雖然指數(shù)級(jí)增長的趨勢可能會(huì)停滯,但如今AI的能力已經(jīng)廣泛普及。Anthropic稱,我們目前仍處于將現(xiàn)有模型推廣到更廣泛經(jīng)濟(jì)領(lǐng)域的早期階段,但制約人工智能進(jìn)步的因素不在模型本身,可能在供應(yīng)鏈、芯片制造速度、電網(wǎng)擴(kuò)展速度或互連帶寬等;

第二,人工智能實(shí)驗(yàn)室的效率將持續(xù)提升,人工智能的開發(fā)將高度自動(dòng)化,但人類仍然負(fù)責(zé)設(shè)定研究方向和評估結(jié)果。隨著時(shí)間的推移,使用人工智能系統(tǒng)的組織將變得更加高效,組織中每個(gè)人的生產(chǎn)力都將得到顯著提升。像Anthropic這樣的公司,人類的角色也將發(fā)生轉(zhuǎn)變。人們將與人工智能系統(tǒng)合作,擴(kuò)大研究規(guī)模,共同構(gòu)建驗(yàn)證人工智能是否可信所需的系統(tǒng)。

 第三,人工智能系統(tǒng)本身將具備完全遞歸式自我改進(jìn)的能力,并開始構(gòu)建其后繼者。如果技術(shù)進(jìn)步的趨勢持續(xù)下去,人工智能系統(tǒng)能夠發(fā)展出媲美人類具有變革性創(chuàng)造力,那么人工智能系統(tǒng)很可能進(jìn)行自我設(shè)計(jì)和改進(jìn)。

 Anthropic 認(rèn)為,在這樣的世界里,人工智能發(fā)展的步伐將完全取決于人工智能系統(tǒng)所需的計(jì)算資源(或發(fā)現(xiàn)算法訓(xùn)練或推理中各種效率提升的速度),人類在人工智能系統(tǒng)發(fā)展中的作用將大幅降低,“我們的大部分精力可能會(huì)轉(zhuǎn)移到對人工智能系統(tǒng)運(yùn)行的‘虛擬實(shí)驗(yàn)室’進(jìn)行監(jiān)督、驗(yàn)證和確認(rèn)?!?/p>

不過,Anthropic 表示,目前判斷哪種結(jié)果最有可能還為時(shí)過早,但AI 已經(jīng)在幫助構(gòu)建 AI已是現(xiàn)實(shí)。

我們該怎么辦? 在這篇技術(shù)博客里,Anthropic稱,如果能夠有效減緩這項(xiàng)技術(shù)的發(fā)展速度,為我們?nèi)祟愄峁└鄷r(shí)間來應(yīng)對其巨大的影響,這或許是一件好事。但如果速度放緩反而讓那些最不謹(jǐn)慎的參與者在技術(shù)上迎頭趕上,那么最終可能會(huì)讓所有人的安全都受到威脅。

 “我們認(rèn)為,如果世界可以選擇放緩或暫時(shí)中止前沿人工智能的研發(fā),從而使社會(huì)結(jié)構(gòu)和協(xié)調(diào)研究能夠跟上技術(shù)發(fā)展的步伐,這對世界大有好處?!盇nthropic表示。

這篇文章由瑪麗娜·法瓦羅(Marina Favaro)和 杰克·克拉克(Jack Clark )共同撰寫,其中杰克·克拉克是 Anthropic 聯(lián)合創(chuàng)始人,瑪麗娜·法瓦羅則參與 Anthropic研究院相關(guān)工作。

值得注意的是,Anthropic對AI風(fēng)險(xiǎn)的公開警告,發(fā)生在公司估值快速攀升并籌備上市的背景下。6月1日,Anthropic 在其官網(wǎng)公告稱,公司已向美國證券交易委員會(huì)(SEC)秘密提交Form S-1注冊聲明草案,擬進(jìn)行普通股首次公開募股。公司同時(shí)強(qiáng)調(diào),具體發(fā)行股數(shù)和價(jià)格尚未確定,IPO將取決于市場條件及其他因素。另據(jù)英國《金融時(shí)報(bào)》報(bào)道,Anthropic已遞交首次公開募股相關(guān)文件,擬以超過1萬億美元估值上市,這也使其與OpenAI、SpaceX等公司一道,成為新一輪科技巨頭上市潮的焦點(diǎn),若順利上市,Anthropic可能成為新一代AI公司中最受關(guān)注的公開上市案例之一,也將為資本市場如何給生成式AI公司定價(jià)提供參照。

    責(zé)任編輯:宦艷紅
    圖片編輯:沈軻
    校對:張艷
    澎湃新聞報(bào)料:021-962866
    澎湃新聞,未經(jīng)授權(quán)不得轉(zhuǎn)載
            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號(hào)

            滬公網(wǎng)安備31010602000299號(hào)

            互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006

            增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116

            ? 2014-2026 上海東方報(bào)業(yè)有限公司

            哈密市| 肇源县| 浦北县| 布尔津县| 元朗区| 横山县| 五家渠市| 临朐县| 溧水县| 杭锦旗| 延庆县| 吴忠市| 东乡县| 淳安县| 台北市| 德安县| 侯马市| 新和县| 闽侯县| 大名县| 常宁市| 九台市| 紫云| 广德县| 手机| 安化县| 大庆市| 新野县| 武安市| 广昌县| 阳山县| 弥渡县| 安溪县| 赤壁市| 米脂县| 莎车县| 峨山| 集安市| 石狮市| 玉山县| 曲阜市|