AI是弗蘭肯斯坦的怪物嗎

人工智能技術(shù)已然無處不在，而且日新月異，但對(duì)于人工智能究竟是什么，人們卻始終無法達(dá)成一致。圍繞人工智能的觀點(diǎn)是如此混亂和極端，審慎清晰、不偏不倚的聲音顯得難能可貴。任教于瑞典于默奧大學(xué)的“負(fù)責(zé)任的人工智能”領(lǐng)域?qū)＜腋ゼ醽啞さ细窦{姆（Virginia Dignum）近期出版了新書《人工智能悖論：如何理解復(fù)雜的未來》（The AI Paradox: How to Make Sense of a Complex Future），《國家》（the Nation）雜志近期刊登了一篇題為“弗蘭肯斯坦的悔恨（Frankenstein’s Regrets）”的書評(píng)文章對(duì)書中的觀點(diǎn)展開了討論。

《人工智能悖論》書封

迪格努姆提出的第一個(gè)悖論是，人工智能并未削弱人性，反而有助于厘清人類不可替代的本質(zhì)。她指出，人工智能擅長“數(shù)據(jù)分析、邏輯推理和語言處理”等任務(wù)，卻難以勝任涉及創(chuàng)造力、同理心、“道德與倫理辨別力”、“復(fù)雜推理能力”和“有關(guān)不同概念之間關(guān)系的推理能力”等任務(wù)，因此無論人工智能發(fā)展到多么先進(jìn)的程度，人類的獨(dú)特性永遠(yuǎn)不會(huì)被完全取代。

書評(píng)作者本·塔諾夫（Ben Tarnoff）指出，迪格努姆的這一觀點(diǎn)將其置入了對(duì)人工智能的人文主義批評(píng)傳統(tǒng)。自人工智能在1950年代誕生以來，其擁躉便堅(jiān)信心智本質(zhì)上是一種機(jī)器，因而將人類智能賦予機(jī)器是可能的，而包括哲學(xué)家德雷福斯（Hubert Dreyfus）、計(jì)算機(jī)科學(xué)家魏岑鮑姆（Joseph Weizenbaum）則認(rèn)為人類的心智與機(jī)器截然不同，人工智能永遠(yuǎn)無法真正復(fù)制人類心智。迪格努姆闡釋道：“（AI與人類）的核心差異并不僅僅在于能力層面，更在于‘存在’的本質(zhì)。AI計(jì)算，而人類感受；AI迭代，而人類想象?！币虼?，她將AI定位為人類智能的輔助工具，負(fù)責(zé)處理煩瑣事務(wù)，從而讓人類得以專注于更具創(chuàng)造性、戰(zhàn)略性和深刻性——也即更具“人性”——的工作中去。

然而科技行業(yè)并不作如是想。當(dāng)下巨額資本涌入生成式AI熱潮，意味著只有通過讓大量勞動(dòng)者失業(yè)，這些投資才能收到可觀的回報(bào)。企業(yè)期望AI能夠像人類一樣工作，從而盡可能多地將人類勞動(dòng)者排除出生產(chǎn)流程。盡管我們尚不清楚這一目標(biāo)能在多大程度上得以實(shí)現(xiàn)，但AI編程工具的進(jìn)步正在永久性地改變編程工作以及軟件工程師的就業(yè)能力，而AI在這一領(lǐng)域的精進(jìn)又被科技界視為“通用人工智能（AGI）”乃至“超級(jí)人工智能（ASI）”時(shí)代即將到來的預(yù)兆。但在迪格努姆看來，認(rèn)為AI能夠逼近甚至超越人類智能的觀點(diǎn)實(shí)屬荒誕，其邏輯類似于“既然我們能夠不斷提升飛機(jī)的飛行性能，那么很快飛機(jī)就可以下蛋了”。

迪格努姆進(jìn)一步指出，AGI和ASI的概念根植于對(duì)人類智能的誤解。當(dāng)今人工智能企業(yè)的雄心不僅僅是取代人類勞動(dòng)者，還想要?jiǎng)?chuàng)造出遠(yuǎn)在人類之上的“盒中之神”——一個(gè)全知全能的單一科技系統(tǒng)。而事實(shí)上，智能不可能在純粹的孤立中誕生，它始終是一項(xiàng)集體性的事業(yè)，人類的進(jìn)化史表明，諸如協(xié)作、交流和群居等社會(huì)行為，不僅對(duì)生存至關(guān)重要，同時(shí)也正是人類智能發(fā)展的基石。迪格努姆認(rèn)為，如果我們嚴(yán)肅對(duì)待認(rèn)知中的協(xié)作屬性，那么就會(huì)致力于創(chuàng)造出“與人類協(xié)作，從而拓展我們的能力，并提升集體智能”的人工智能系統(tǒng)。要完成這種轉(zhuǎn)變，需要摒棄ChatGPT這類服務(wù)背后的巨型模型，轉(zhuǎn)而采用一種更為模塊化的方案：以一種尊重勞動(dòng)者自主權(quán)和專業(yè)技能的方式，整合出小而專的人工智能模型。這種策略還有助于削弱科技巨頭的壟斷地位?！度斯ぶ悄茔Ｕ摗芬粫暮诵恼擖c(diǎn)在于，當(dāng)下人工智能的發(fā)展軌跡并不是不可避免的宿命，我們必須抵制那種將人工智能描繪為一種超出人類掌控的、無法阻擋的力量的敘事，這種敘事讓我們?cè)诩夹g(shù)變革面前變得消極被動(dòng)，然而AI是由人類創(chuàng)造出來的，我們每個(gè)人都應(yīng)該擁有發(fā)言權(quán)，共同參與塑造人工智能的未來走向。

塔諾夫指出，如果《人工智能悖論》一書在十年前出版，那么上述論斷會(huì)更站得住腳，而誕生于2018年隨后快速演進(jìn)的大語言模型（LLMs），即構(gòu)成生成式AI引擎的計(jì)算系統(tǒng)，對(duì)迪格努姆的某些主張構(gòu)成了挑戰(zhàn)。迪格努姆承認(rèn)大語言模型代表著一項(xiàng)驚人的進(jìn)步，但她仍然認(rèn)為其與此前的AI系統(tǒng)有著同樣的根本性局限，即無法實(shí)現(xiàn)“真正的理解”，而只是模擬從訓(xùn)練數(shù)據(jù)中提取出的模式。問題在于，盡管我們知曉大語言模型通過一系列機(jī)器復(fù)雜的計(jì)算流程習(xí)得預(yù)測(cè)能力的基本原理，但對(duì)于計(jì)算過程內(nèi)部錯(cuò)綜復(fù)雜的運(yùn)作過程卻知之甚少。因此學(xué)界對(duì)于大語言模型及其能力的界定存在實(shí)質(zhì)性的分歧，這些分歧有時(shí)是經(jīng)驗(yàn)層面的，而其他時(shí)候則是語義和哲學(xué)層面的爭論，焦點(diǎn)在于如何定義“推理”和“理解”等術(shù)語。也就是說，盡管如迪格努姆反復(fù)強(qiáng)調(diào)的那樣，人工智能是由人類創(chuàng)造出來的，但這并不意味著它將永遠(yuǎn)處在人類的理解和掌控范圍之內(nèi)。

《科學(xué)怪人》（1994）劇照

塔諾夫注意到，迪格努姆曾將大語言模型比作“一個(gè)認(rèn)知層面的弗蘭肯斯坦的怪物”，指大語言模型將人類語言的碎片拼湊在一起，從而看起來好像具有智能，但事實(shí)上缺乏真正的理解力和意向性。但塔諾夫指出，這一類比其實(shí)是對(duì)瑪麗·雪萊原著小說的一種誤讀，因?yàn)樾≌f中弗蘭肯斯坦的怪物的確能夠思考、感知和籌謀，他自學(xué)閱讀，鐘愛《失樂園》，渴望陪伴，并因痛恨主人將其遺棄而殺死了主人的妻子和兄弟。但塔諾夫認(rèn)為，盡管和迪格努姆設(shè)想的不同，但這個(gè)類比的確可以在某種程度上成立。《弗蘭肯斯坦》講述的是人類與其“異類后裔”之間的關(guān)系，這個(gè)怪物由人類科學(xué)家親手創(chuàng)造，甚至由人類肢體所拼湊，卻因“不屬于塵世的丑陋”而被所有人恐懼和仇恨；大語言模型一方面是人類智慧的結(jié)晶與人類文化的集合，而盡管輸入的是“人性”數(shù)據(jù)，其實(shí)際運(yùn)作卻呈現(xiàn)出“非人”特質(zhì)。因此，塔諾夫認(rèn)為，我們不妨謹(jǐn)慎地將大語言模型視為某種類似“弗蘭肯斯坦的怪物”的東西：一個(gè)源自人類血統(tǒng)、卻無法完全為我們所用的異質(zhì)物。在避免將其解讀為已經(jīng)具備感知能力或是帶有超自然屬性的前提下，關(guān)注其根本性的怪誕特質(zhì)。

同時(shí)，塔諾夫也提醒我們對(duì)迪格努姆在人類和技術(shù)之間構(gòu)建的對(duì)立關(guān)系保持懷疑，在他看來，今天的我們和技術(shù)之間的纏繞程度已經(jīng)遠(yuǎn)超1985年唐娜·哈拉維首次將人類冠名為“賽博格”時(shí)的情形。大語言模型顯然在某種程度上與人性實(shí)現(xiàn)了某種混雜，從而讓大多數(shù)人將其視為至少是一種“準(zhǔn)智能”。大語言模式揭示了“人類”這一范疇是可滲透的，同時(shí)人類傾向于將自我投射到自己的創(chuàng)造物之上，而這些創(chuàng)造物又能夠反過來對(duì)我們施加影響。這并不一定是一件好事，現(xiàn)在已經(jīng)有人因?yàn)楹腿斯ぶ悄芰奶鞕C(jī)器人對(duì)話而精神崩潰，而維克多·弗蘭肯斯坦亦在悔恨中死去。

文章最后指出，如何解讀大語言模型至關(guān)重要，因?yàn)檫@會(huì)影響我們?cè)谡螌用鎸?duì)人工智能的應(yīng)對(duì)方式。迪格努姆的建議是像曾經(jīng)應(yīng)對(duì)汽車那樣為人工智能一套相應(yīng)的安全保障措施，而此類防護(hù)機(jī)制應(yīng)立足于公正、可問責(zé)、透明和保護(hù)個(gè)人權(quán)利的“人工智能倫理原則”之上，并通過“技術(shù)專家、倫理學(xué)家、政策制定者和社會(huì)各界”的持續(xù)對(duì)話來加以構(gòu)建。塔諾夫指出迪格努姆的立場(chǎng)體現(xiàn)的是帶有鮮明歐洲色彩的對(duì)“受規(guī)制的資本主義”的信念，這一信念源于其對(duì)于AI是工具的認(rèn)知。然而如果我們把人工智能更恰如其分地理解為人類無法全然理解和掌控的“弗蘭肯斯坦的怪物”，這一路徑就變得不再具有可行性了。塔諾夫認(rèn)為，如果任由這樣一種技術(shù)對(duì)我們生活和工作的方方面面行使無限權(quán)力，那么結(jié)果可能是混亂和痛苦。在他看來，至少在短期內(nèi)，我們最大的希望或許是采用遏制策略，將人工智能嚴(yán)格限制在特定的領(lǐng)域和功能之內(nèi)，因?yàn)榕c“異類”的接觸或許能有所收獲，但異類的入侵必然是災(zāi)難性的。

Commonweal雜志上月刊登的“維特根斯坦的末日預(yù)言：人工智能與意義危機(jī)（Wittgenstein’s Apocalypse：AI and the crisis of meaning）”一文恰好可與上述書評(píng)形成互文。該文以維特根斯坦1947年的論斷開篇：“認(rèn)為科學(xué)技術(shù)時(shí)代是人類走向終結(jié)的開端，這并不荒謬。”文章作者亞歷山大·斯特恩（Alexander Stern）指出，維特根斯坦所指的人類終結(jié)，并不主要指向科幻作品經(jīng)常描繪的人類在生物生存意義上的終結(jié)，而是指我們所身處的“生活形式（form of life）”的終結(jié)。這種生活形式所面臨的威脅，與其說是來自工業(yè)化、核武器、機(jī)器人或人工智能，不如說是來自一種將人類生活降格到科學(xué)技術(shù)層面的思維方式。

維特根斯坦認(rèn)為，人類的“生活形式”體現(xiàn)在我們的語言之中，或者說體現(xiàn)在他所稱的“語言游戲”之中——即我們?cè)诓煌榫诚聻檫_(dá)成各種目的（有時(shí)甚至沒有可識(shí)別的目的）而使用語言的各種方式： 例如，做家務(wù)、開玩笑、檢驗(yàn)科學(xué)假說、報(bào)道事件、推測(cè)、請(qǐng)求、致謝、問候、祈禱、希望、發(fā)泄情緒、憎恨、愛等等。斯特恩從維特根斯坦處受到啟發(fā)，指出大語言模型之所以無法像人類那樣理解意義，是因?yàn)樗鼈兗炔粎⑴c，也永遠(yuǎn)無法參與我們這種形式的生活。在已然相當(dāng)嚴(yán)峻的意義危機(jī)以及與之相伴的政治、心理健康和教育危機(jī)當(dāng)中，用大語言模型的輸出作為真實(shí)人際交往替代品的提議是徹頭徹尾的瘋狂之舉。而關(guān)于一群超級(jí)聊天機(jī)器人奴役或消滅我們的假想，其實(shí)不過是對(duì)這場(chǎng)更為真實(shí)的末日的轉(zhuǎn)移視線。這場(chǎng)“末日”并非由技術(shù)產(chǎn)品本身驅(qū)動(dòng)，而是源自我們對(duì)技術(shù)偶像崇拜式和消費(fèi)主義式的信仰，這種信仰扭曲了我們對(duì)人類生命與人生意義的思考。維特根斯坦曾預(yù)見的這場(chǎng)“末日”，已然降臨。

跑者、算法與被犧牲的健康

自幾年前的疫情發(fā)生后，跑步運(yùn)動(dòng)經(jīng)歷了指數(shù)級(jí)的增長。2015年，倫敦馬拉松的參賽人數(shù)為3.8萬人；僅僅十多年后，2026年報(bào)名參賽的人數(shù)就超過了110萬人。伴隨著跑步這項(xiàng)運(yùn)動(dòng)的流行，各類跑步網(wǎng)紅應(yīng)運(yùn)而生，向網(wǎng)友推廣經(jīng)過美化的“跑步生活方式”，并鼓勵(lì)人們參與其中。跑步不僅作為一種運(yùn)動(dòng)復(fù)興，也逐漸演變?yōu)橐环N可被媒介化和商品化的生活方式。

英國跑步應(yīng)用 Runna

以英國跑步應(yīng)用 Runna為例，它在 2023年擁有約7000名付費(fèi)用戶。盡管規(guī)模不大，但作為一款小眾跑步應(yīng)用，它通過巧妙融入推動(dòng)健身文化的社群，實(shí)現(xiàn)穩(wěn)定增長。倫敦的跑步俱樂部、馬拉松訓(xùn)練小組、健身達(dá)人、微型網(wǎng)紅，乃至整個(gè)線上健身圈，無論你關(guān)注誰，你都很有可能在他們的日常安排、動(dòng)態(tài)或信息推送中發(fā)現(xiàn)Runna的身影。擅長社交媒體內(nèi)容運(yùn)營與網(wǎng)紅推廣的Tilly Woodford寫道：Runna 不僅搭上了跑步潮流的順風(fēng)車，還與之共同發(fā)展壯大。在一段時(shí)間內(nèi)，人們對(duì)這款應(yīng)用的印象很簡單：它代表著一種理想、一種自律、一種融入文化的象征，并且在跑步領(lǐng)域獨(dú)占鰲頭。

然而，隨著代言人之一瑪麗·麥卡錫（Mary McCarthy）遭遇應(yīng)力性骨折，這款應(yīng)用所塑造出的積極形象也遭受質(zhì)疑。這種傷病通常是跑步者過度訓(xùn)練造成的，而瑪麗所遭遇的是最為嚴(yán)重的4級(jí)骨折。一時(shí)間，人們開始批評(píng)這款應(yīng)用會(huì)助長過度訓(xùn)練，質(zhì)疑應(yīng)用讓人工智能指導(dǎo)訓(xùn)練的做法，并表示它可能使得一些用戶運(yùn)動(dòng)失調(diào)。

瑪麗·麥卡錫并非唯一一位經(jīng)歷應(yīng)力性骨折的跑步網(wǎng)紅。公眾號(hào)“那個(gè)NG”的作者阿珂可在文章“白女，為什么集體骨折了？”中列舉了包括Louise Stonham、Andreafit4等其他遭遇應(yīng)力性骨折以及其他傷病的網(wǎng)紅。值得注意的是，這些網(wǎng)紅在遭受傷病后，并沒有暫停訓(xùn)練的打算，甚至甘愿冒著健康風(fēng)險(xiǎn)訓(xùn)練。當(dāng)訓(xùn)練已經(jīng)對(duì)身體造成明確傷害時(shí)，為什么這些創(chuàng)作者仍然咬牙堅(jiān)持？

在專家看來，一邊骨折一邊健身的視頻會(huì)正?；泻τ?xùn)練觀念，把網(wǎng)紅們的行為當(dāng)作真理，甚至有可能失去對(duì)科學(xué)醫(yī)療建議的信任。短短的幾秒鐘所帶來的影響比任何人想象中都更加深遠(yuǎn)。

這種擔(dān)憂并非毫無根據(jù)，相關(guān)研究表明：健身和跑步網(wǎng)紅所呈現(xiàn)的內(nèi)容可能讓用戶將理想身材內(nèi)化，加劇對(duì)于自己身體的不滿，在觀看中進(jìn)行比較。在這個(gè)意義上，這些創(chuàng)作者并非僅僅在展示自己的身體或訓(xùn)練內(nèi)容，而是通過這些視頻制定某種規(guī)范（norm）。在這些視頻中，仿佛拋去對(duì)于傷病的合理擔(dān)憂，無視必要的休息和恢復(fù)，一頭扎進(jìn)訓(xùn)練里才是值得被贊賞的做法。

另一方面，社交媒體對(duì)于極端內(nèi)容的偏好，鼓勵(lì)網(wǎng)紅們冒著健康風(fēng)險(xiǎn)繼續(xù)鍛煉，以收獲更多流量。正如阿珂可所寫：“這種極端健康的內(nèi)容自帶流量的加持......視頻的激昂節(jié)奏與動(dòng)感音樂強(qiáng)化了受傷堅(jiān)持的敘事，嚴(yán)重的創(chuàng)傷和軀體上的護(hù)具變成了光榮的徽章，康復(fù)成了一場(chǎng)盛大的表演?！敝S刺的是，平臺(tái)早已暗中對(duì)不同的生活方式做好了價(jià)值排序，并以流量作為衡量標(biāo)準(zhǔn)：“一個(gè)普通的、健康的肉體在網(wǎng)絡(luò)上是沒有價(jià)值的，平臺(tái)會(huì)把更多的流量傾倒給更干凈的生活記錄和更極端的身體，造成無休止的惡性循環(huán)”。此外，如果在休養(yǎng)骨折期間，“平臺(tái)認(rèn)定網(wǎng)紅達(dá)人們無法生產(chǎn)出有價(jià)值的內(nèi)容，便會(huì)像拋棄一匹骨折的賽馬一樣拋棄這個(gè)吉祥物”。看似非理性的選擇背后，是算法機(jī)制對(duì)于創(chuàng)作者的裹挾。在某種意義上，這些極端行為并非個(gè)人的沖動(dòng)選擇，而是被平臺(tái)與算法所篩選出來以及放大的內(nèi)容。

此外，一旦長時(shí)間停止訓(xùn)練，網(wǎng)紅們將會(huì)面臨沒有內(nèi)容可供更新、身材走形等一系列問題。在這一邏輯下，身體不再只是自然的存在，而是一種需要持續(xù)投資和維護(hù)的生產(chǎn)資料。網(wǎng)紅的收入、可見性乃至身份認(rèn)同，都建立在特定的身體形象之上。一旦停止訓(xùn)練，不僅意味著內(nèi)容中斷，也意味著身體資本的貶值。上述網(wǎng)紅們都將自己的公共形象建立在特定的運(yùn)動(dòng)以及身體形象之上，因此她們必須通過訓(xùn)練與更新來維持其身份。對(duì)于她們而言，訓(xùn)練的意義不只在于訓(xùn)練本身，而是讓這一行為能夠被記錄、剪輯和傳播，從而幫助她們維持身份。

更微妙的地方在于，網(wǎng)紅們并非專業(yè)運(yùn)動(dòng)員，卻常常給自己的身體帶來難以承受的壓力。Dazed雜志的作者Chloe Gray舉例道——運(yùn)動(dòng)營養(yǎng)師、運(yùn)動(dòng)員健康領(lǐng)域?qū)＜依倌荨湼窭赘辏≧enee McGregor）表示：“我治療過一些網(wǎng)紅，他們因?yàn)樵陂_始跑步的第一年就參加多場(chǎng)超級(jí)馬拉松比賽來博取關(guān)注，導(dǎo)致激素紊亂和骨折。還有一些網(wǎng)紅則將自己的傷病歸咎于不斷收到大型比賽的參賽邀請(qǐng)，而他們又無法拒絕，因?yàn)榕懿绞撬麄兊墓ぷ??！迸c運(yùn)動(dòng)員不同，運(yùn)動(dòng)員的訓(xùn)練計(jì)劃中會(huì)安排休賽期，而網(wǎng)紅們必須每天創(chuàng)作內(nèi)容來迎合平臺(tái)的推薦機(jī)制。這導(dǎo)致了全年無休的比賽和挑戰(zhàn)文化，使得原本應(yīng)該偶爾參加的長跑活動(dòng)變得司空見慣。

如果仔細(xì)分析國內(nèi)外的跑步網(wǎng)紅們，不難發(fā)現(xiàn)她們恰恰是以身體作為資本實(shí)現(xiàn)了生產(chǎn)。她們通過賦予跑步不同的價(jià)值，向粉絲兜售被包裝的生活方式，而這一切都建立在其身體之上。最終，她們通過課程、廣告、帶貨實(shí)現(xiàn)收益。除了自然層面的感受外，她們的身體同時(shí)具有生產(chǎn)工具與被展示和消費(fèi)的商品屬性。這導(dǎo)致她們甘愿冒著健康風(fēng)險(xiǎn)繼續(xù)訓(xùn)練、產(chǎn)出內(nèi)容，只有這樣做才能避免停止更新帶來的虧損。當(dāng)人們驚訝于跑步網(wǎng)紅們對(duì)自己身體如此之狠時(shí)，或許我們應(yīng)該意識(shí)到，在算法的體系中，健康不再是個(gè)人的目標(biāo)，而是可以被暫時(shí)犧牲的代價(jià)。