3月底，非營利組織未來生命研究所發(fā)表一封公開信，呼吁暫停研發(fā)比GPT-4更強(qiáng)大的人工智能（AI）系統(tǒng)至少6個月。公開信獲得了千余名該領(lǐng)域?qū)＜?、科技人員、產(chǎn)業(yè)高層的簽名，其中包括中國科學(xué)家曾毅。
作為聯(lián)合國教科文組織人工智能倫理特設(shè)專家組專家，曾毅也是中國科學(xué)院自動化研究所研究員、人工智能倫理與治理中心主任。當(dāng)下的人工智能亟需解決哪些負(fù)面影響？身為AI技術(shù)和倫理專家，為何會在這封引發(fā)空前關(guān)注的公開信上簽名？圍繞這些話題，本報記者與曾毅進(jìn)行了對話。
文匯報：您為何認(rèn)為暫停6個月AI大模型研發(fā)是必要的？如何看待此次辛頓用離職發(fā)出的AI警告？
(資料圖片僅供參考)
曾毅：生成式AI大模型的發(fā)展速度可以在幾周內(nèi)將潛在風(fēng)險轉(zhuǎn)變?yōu)閷?shí)存風(fēng)險，不負(fù)責(zé)任地研發(fā)和使用AI可能在短期內(nèi)對社會造成顯著而急迫的風(fēng)險。
眼下，人工智能企業(yè)都在布局大模型，但很少有人說如何去防范風(fēng)險。正因?yàn)槲覀儗I潛在的風(fēng)險還沒有完全準(zhǔn)備好，但已經(jīng)開始過早且過于激進(jìn)地嘗試，所以我覺得暫停6個月是必要的，先去解決一些潛在風(fēng)險，先好好思考一下。當(dāng)然，6個月只是一個倡議，是一個可以嘗試的時段，能夠取得一定效果肯定比不做準(zhǔn)備要強(qiáng)得多。但是，6個月之內(nèi)是否能夠充分思考相關(guān)風(fēng)險，并做到防范？我覺得這是不夠的。
我認(rèn)為，應(yīng)對AI潛在威脅與應(yīng)對氣候變化危機(jī)并不存在重要性的差別，AI帶給人類的挑戰(zhàn)可能更緊迫。而且，AI技術(shù)每往前發(fā)展一步，人類對于倫理安全方面的考慮也需要前進(jìn)一步。AI治理對其未來發(fā)展而言已經(jīng)不是一道選擇題，而是必答題。
文匯報：人類歷史上有過很多次由新技術(shù)誕生而引發(fā)的危機(jī)時刻，您認(rèn)為此次生成式AI給人類帶來的影響和以往一樣嗎？
曾毅：生成式AI技術(shù)有能力合成虛假信息，極大降低了社會信任，該項(xiàng)技術(shù)的濫用、惡用，使得現(xiàn)今眼見、耳聽都難以為實(shí)。這對于人與社會之間的關(guān)系提出了前所未有的挑戰(zhàn)。從長遠(yuǎn)來看，生成式AI大模型等技術(shù)正在試圖模糊人與AI之間的界限。
現(xiàn)階段的AI只是看似智能的信息處理工具，并不具有真正的理解能力和真正意義的智能。它可以用來輔助人類決策，卻不能代替人類決策，因?yàn)樗⒉皇秦?zé)任主體，也不具有生命。然而，諸多應(yīng)用領(lǐng)域正在嘗試用其替代人類，無法作為責(zé)任主體的AI工具被錯誤地賦予責(zé)任主體的責(zé)任與義務(wù)，這將對人類與社會發(fā)展產(chǎn)生深遠(yuǎn)而廣泛的影響。
文匯報：您認(rèn)為人類有可能始終掌控AI，讓它永遠(yuǎn)只作為工具存在嗎？要實(shí)現(xiàn)這一目標(biāo)，人類有哪些手段？
曾毅：我們沒有選擇，對于作為工具的AI，我們必須竭力做好倫理安全框架、測試和負(fù)責(zé)任的部署，同時引導(dǎo)AI賦能可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。目前，AI賦能的實(shí)踐主要在教育與健康領(lǐng)域，因?yàn)檫@兩個領(lǐng)域有更明確的經(jīng)濟(jì)收益。而對于一些全球性的議題，例如生物多樣性保護(hù)、氣候變化、公平公正等對于人類的生存與發(fā)展極為重要的問題，AI的貢獻(xiàn)微乎其微，這是人類使用AI這一工具時必須意識到并采取行動的。
我們應(yīng)從制度建設(shè)和技術(shù)護(hù)航兩方面引導(dǎo)AI向善。從制度建設(shè)與實(shí)踐角度講，制定倫理安全原則、規(guī)范及相關(guān)立法是必要的社會保障。從技術(shù)護(hù)航角度看，通過AI技術(shù)實(shí)現(xiàn)倫理安全關(guān)切，落地法律法規(guī)要求，并根據(jù)目前的技術(shù)瓶頸及時與制度建設(shè)互動，實(shí)現(xiàn)敏捷自適應(yīng)治理是關(guān)鍵所在。
文匯報：在您的設(shè)想中，未來人類與AI應(yīng)當(dāng)是一種什么樣的關(guān)系？
曾毅：現(xiàn)在，AI正以一種試探、嘗試的方式去改變社會，人類社會則是以一種被動的姿態(tài)去應(yīng)對，而不是我們所期待的主動去迎接技術(shù)變革，更多人是疲于應(yīng)對。
如果把技術(shù)發(fā)展脈絡(luò)放到更長的歷史當(dāng)中來看，人類應(yīng)該回歸其自身的位置，從事更多具有創(chuàng)造性的、情感交互的工作。比如在家照顧孩子和老人，關(guān)愛社會中的年長者和弱勢群體，這些工作恰恰是AI最難替代的。在城市發(fā)展中，有必要給人留出沒有必要使用AI的空間，并且讓人們可以有選擇權(quán)，決定使用或者不用這項(xiàng)技術(shù)。
文匯報：不少專家認(rèn)為，AI最大的影響在于教育。在您看來，AI時代應(yīng)培養(yǎng)孩子的哪些能力？
曾毅：現(xiàn)在有很多家長非常焦慮，總是在想我的孩子是不是應(yīng)該盡早地接觸人工智能。在我看來恰恰相反。如果真的學(xué)有余力的話，讓孩子去學(xué)一門心理學(xué)，接觸認(rèn)知心理學(xué)的基礎(chǔ)，讓他對人本身有更多的認(rèn)識——人類的智慧到底是怎么回事？我們的內(nèi)心是什么樣的？人如何為人？事實(shí)上，生成式AI讓人更明白“何以為人”。因此，我覺得孩子們有必要學(xué)點(diǎn)哲學(xué)，在年輕的時候就去思考這些問題
標(biāo)簽：
