“如果從人工智能發(fā)展的瓶頸和現(xiàn)狀看，我們可以說(shuō)現(xiàn)在的人工智能并不可信。”

中國(guó)科學(xué)院自動(dòng)化研究所研究員、國(guó)家新一代人工智能治理專(zhuān)委會(huì)委員、聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專(zhuān)家組專(zhuān)家曾毅在近日舉行的首屆全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能產(chǎn)業(yè)治理主題論壇上作出以上表述。

曾毅的主題演講題目為《負(fù)責(zé)任的人工智能：可持續(xù)發(fā)展與治理的深度協(xié)同》。他認(rèn)為，政策的良性引導(dǎo)已經(jīng)開(kāi)始了，但所有的設(shè)想的技術(shù)落地卻困難重重。禁用特定的技術(shù)是不解決問(wèn)題的，應(yīng)當(dāng)將倫理與治理嵌入人工智能產(chǎn)品的全生命周期，并形成政府、學(xué)術(shù)界、企業(yè)、公民社會(huì)、媒體、用戶、服務(wù)提供商等多方主動(dòng)共治的良性生態(tài)。

作為引領(lǐng)第四次科技革命的戰(zhàn)略性技術(shù)，人工智能給社會(huì)建設(shè)和經(jīng)濟(jì)發(fā)展帶來(lái)了重大而深遠(yuǎn)的影響。不過(guò)人工智能的治理問(wèn)題也愈發(fā)重要。雖然人工智能在純技術(shù)層面是價(jià)值中立的，但在實(shí)際應(yīng)用中，兼具創(chuàng)造性和破壞性。數(shù)據(jù)隱私、算法偏見(jiàn)、技術(shù)濫用等安全問(wèn)題正給社會(huì)公共治理與產(chǎn)業(yè)智能化轉(zhuǎn)型帶來(lái)嚴(yán)峻挑戰(zhàn)。

人臉識(shí)別濫用、數(shù)據(jù)隱私侵犯等人工智能倫理問(wèn)題在近年逐步受到法律規(guī)范。就在近期，7月28日，最高人民法院召開(kāi)新聞發(fā)布會(huì)，發(fā)布《最高人民法院關(guān)于審理使用人臉識(shí)別技術(shù)處理個(gè)人信息相關(guān)民事案件適用法律若干問(wèn)題的規(guī)定》，對(duì)濫用人臉識(shí)別問(wèn)題作出司法統(tǒng)一規(guī)定。國(guó)際上，2018年出臺(tái)的歐盟的通用數(shù)據(jù)保護(hù)條例以嚴(yán)厲執(zhí)行著稱(chēng)，也正在施行中。

曾毅提出一個(gè)問(wèn)題，為什么西方社會(huì)人臉識(shí)別被禁用，但是企業(yè)沒(méi)有很大反對(duì)聲音？“一個(gè)不爭(zhēng)的事實(shí)是，企業(yè)可以找到替代方案，”曾毅進(jìn)一步闡述，當(dāng)人臉識(shí)別被禁用時(shí)，固態(tài)識(shí)別、指紋識(shí)別、聲紋識(shí)別被使用，其風(fēng)險(xiǎn)與人臉識(shí)別相同，但因?yàn)檫@些方法沒(méi)有進(jìn)入公眾視野，所以沒(méi)有引起公眾的關(guān)注。

此前《華盛頓郵報(bào)》也有報(bào)道，有攻擊者假冒公司CEO利用音頻版深度偽造技術(shù)制造了一段虛假語(yǔ)音，最終成功敲詐一家英國(guó)能源公司24萬(wàn)美元。被敲詐公司的保險(xiǎn)公司 Euler Hermes的一位女發(fā)言人曾說(shuō)：“該軟件能夠模仿聲音，包括音調(diào)、標(biāo)點(diǎn)符號(hào)和德國(guó)口音?！?/p>

曾毅認(rèn)為，人臉識(shí)別技術(shù)的禁用并不代表問(wèn)題被徹底解決。人臉識(shí)別存在的風(fēng)險(xiǎn)，如對(duì)隱私的泄露、對(duì)公平性的侵犯、技術(shù)的不成熟性導(dǎo)致種族和性別之間的歧視等，在任何一個(gè)生物特征識(shí)別的方法中都存在。

包括歐盟通用數(shù)據(jù)保護(hù)條例中用戶的被遺忘權(quán)（數(shù)據(jù)主體有權(quán)要求數(shù)據(jù)控制者刪除與其相關(guān)的個(gè)人數(shù)據(jù)，數(shù)據(jù)控制者有義務(wù)刪除數(shù)據(jù)主體的個(gè)人數(shù)據(jù)，并不得無(wú)故拖延），用戶可以要求企業(yè)從數(shù)據(jù)庫(kù)中刪除自己的數(shù)據(jù)。但曾毅表示，“如何在人工智能的模型和服務(wù)中刪除用戶的數(shù)據(jù)和特征，這個(gè)在技術(shù)上實(shí)際存在極大困難，幾乎沒(méi)有人可以做到在一個(gè)深度學(xué)習(xí)模型中刪除單個(gè)用戶對(duì)這個(gè)結(jié)果的影響。而如果重新訓(xùn)練人工智能模型，一些大模型訓(xùn)練一次就需要五百萬(wàn)，于是在更多時(shí)候，選擇不去更新就是現(xiàn)狀?！?p>

當(dāng)下存在保護(hù)用戶數(shù)據(jù)的一些方法，但是其代價(jià)是犧牲其他的方面。曾毅以聯(lián)邦學(xué)習(xí)舉例，其可以在不分享自己數(shù)據(jù)的情況下在數(shù)據(jù)模型上進(jìn)行聯(lián)合學(xué)習(xí)。這樣保護(hù)了用戶隱私數(shù)據(jù)，但也回避了一個(gè)問(wèn)題——用戶的知情同意，用戶有沒(méi)有同意把數(shù)據(jù)以數(shù)據(jù)模型的形式共享給其他的企業(yè)和應(yīng)用？

也比如差分隱私（差分隱私模型中，攻擊者的計(jì)算能力及其所獲取的輔助信息不會(huì)影響隱私保護(hù)程度），曾毅認(rèn)為這在數(shù)據(jù)庫(kù)時(shí)代效果很好，但引入人工智能模型以后，會(huì)使人工智能的識(shí)別率下降10%到30%。那么對(duì)企業(yè)來(lái)說(shuō)，為了保護(hù)隱私而使識(shí)別率下降10%到30%，這可能也是非常困難的選擇。

“人工智能企業(yè)是談倫理最多的公司，但出倫理的問(wèn)題也最多，大公司雖然有自己的倫理研究團(tuán)隊(duì)，但很難將倫理研究的成果應(yīng)用到設(shè)計(jì)、研發(fā)、部署這些步驟中，有時(shí)候僅僅起一個(gè)倫理洗白的作用，”曾毅認(rèn)為。

由此，曾毅呼吁，企業(yè)應(yīng)該成為人工智能治理的重要參與者，但不只有企業(yè)。設(shè)計(jì)者、研發(fā)者、供應(yīng)者、部署者、管理者等都需要承擔(dān)自己的責(zé)任，真正實(shí)現(xiàn)敏捷治理和多方的共治。近期，北京智源人工智能研究院和中科院自動(dòng)化所共同研發(fā)了人工智能治理公共的服務(wù)平臺(tái)，把人工智能從監(jiān)管變成公共服務(wù)，向企業(yè)和研發(fā)機(jī)構(gòu)特別是沒(méi)有能力開(kāi)展企業(yè)合規(guī)、倫理委員會(huì)的建設(shè)，治理委員會(huì)建設(shè)這樣的企業(yè)，去進(jìn)行公開(kāi)、免費(fèi)的服務(wù)。

曾毅現(xiàn)場(chǎng)提出了一個(gè)解決方案，將倫理貫穿時(shí)于設(shè)計(jì)、研究、開(kāi)發(fā)、使用的每個(gè)環(huán)節(jié)，并且倫理的研究團(tuán)隊(duì)以及研發(fā)團(tuán)隊(duì)，同步保持跟政府、學(xué)術(shù)界、媒體、潛在用戶和服務(wù)、提供商高度交流，把存在的倫理風(fēng)險(xiǎn)防患于未然，在每個(gè)人工智能的流程中的每個(gè)環(huán)節(jié)，將倫理治理嵌入到全流程和全生命周期中。

對(duì)于治理先行還是發(fā)展優(yōu)先的問(wèn)題，曾毅認(rèn)為他們從來(lái)不是競(jìng)爭(zhēng)關(guān)系，而是人工智能穩(wěn)健發(fā)展兩大前提，是深度協(xié)作的關(guān)系，缺一不可。也即通過(guò)人工智能的善治和可持續(xù)發(fā)展，真正實(shí)現(xiàn)為人類(lèi)與生態(tài)創(chuàng)建可持續(xù)的人工智能。

如果人工智能的長(zhǎng)遠(yuǎn)風(fēng)險(xiǎn)可能三五十年可能不會(huì)發(fā)生，現(xiàn)在討論是不是過(guò)于提前？曾毅的回答是，“我們面臨的人工智能倫理技術(shù)、安全風(fēng)險(xiǎn)問(wèn)題，不是所有的問(wèn)題在30年之內(nèi)就能夠找到答案，所以需要企業(yè)、學(xué)術(shù)機(jī)構(gòu)形成真正多方共治的共同體，來(lái)面對(duì)人工智能將面臨的近期、遠(yuǎn)期的問(wèn)題，真正使人工智能賦能由我們?nèi)祟?lèi)其他的生命、環(huán)境構(gòu)成的未來(lái)的和諧共生的社會(huì)。”