長期以來，科幻小說一直認為人工智能（AI）有意識，隨著AI的快速發(fā)展，這不再是異想天開，甚至得到了AI領導者的認可。例如，美國OpenAI公司首席科學家Ilya?Sutskever在社交媒體上表示，一些最前沿的AI網絡可能“有點意識”。

(相關資料圖)

許多研究人員表示，AI系統(tǒng)還沒有達到具有意識的程度，但AI的進化速度讓他們開始思考：如果它們有了意識，我們如何知道呢？

據《自然》報道，為了回答這個問題，一個由19名神經科學家、哲學家和計算機科學家組成的小組提出了一份標準清單，如果滿足這些標準，就表明一個AI系統(tǒng)很有可能是有意識的。8月17日，他們在預印本服務器arXiv上發(fā)布了他們的臨時指南。

合著者之一、美國非營利研究組織人工智能安全中心哲學家Robert?Long說，他們之所以這樣做，是因為“關于AI意識，似乎真的缺乏詳細、基于經驗、深思熟慮的討論”。

該團隊表示，識別AI系統(tǒng)是否具有意識具有重要的道德意義。合著者之一、美國加利福尼亞大學歐文分校神經科學家Megan?Peters表示，如果某物被貼上了“有意識”的標簽，“那么我們作為人類應該如何對待這個實體，就會發(fā)生很大變化”。

Long表示，據他所知，構建先進AI系統(tǒng)的公司沒有付出足夠多的努力來評估意識模型，并制定計劃以防AI具有意識。他補充道：“盡管如此，如果你聽聽實驗室負責人的言論，他們確實說過，他們對AI意識或AI感知很感興趣?！?/p>

《自然》雜志聯(lián)系了參與推進AI的兩家主要科技公司——微軟和谷歌。微軟的一位發(fā)言人表示，該公司開發(fā)AI的核心是以負責任的方式協(xié)助人類生產力，而不是復制人類的智能。這位發(fā)言人表示，自從GPT-4推出以來，“在探索如何充分發(fā)揮AI潛力、造福整個社會之際，需要新的方法來評估這些AI模型的能力”。谷歌則未作出回應。

在AI中研究意識的挑戰(zhàn)之一是定義什么是意識。Peters說，為了報告的目的，研究人員關注的是“現象意識”，也就是所謂的主觀體驗。這是存在的體驗——成為人、動物或AI系統(tǒng)的感覺。

有許多基于神經科學的理論描述了意識的生物學基礎。但是，對于哪一個是“正確的”，人們并沒有達成共識。因此，為了建立他們的框架，作者使用了一系列這樣的理論。其想法是，如果一個AI系統(tǒng)的運作方式與這些理論的許多方面相匹配，那么它就更有可能是有意識的。

他們認為，這是一種評估意識的更好方法，而不是簡單地對一個系統(tǒng)進行行為測試ーー比如，詢問ChatGPT它是否有意識，或者挑戰(zhàn)它，觀察它是如何反應的。這是因為AI系統(tǒng)已經變得非常擅長模仿人類。

英國薩塞克斯大學意識科學中心主任、神經學家Anil?Seth說，研究小組提出的是一種很好的方法，它強調的是，“我們需要更精確、更經得起檢驗的意識理論”。

為制定標準，作者假設意識與系統(tǒng)處理信息的方式有關，無論它們是由什么構成的——是神經元、計算機芯片還是其他什么。他們還假設，通過人類和動物的腦部掃描及其他技術研究的基于神經科學的意識理論可以應用于AI。在這些假設的基礎上，研究小組選擇了其中的6個理論，并從中提取了一系列意識指標。

Seth對團隊提出的標準印象深刻?！八浅Ｉ钏际鞈]，不夸夸其談，而且它的假設非常清晰?！彼f，“我不同意其中的一些假設，但這完全沒關系，因為我很可能是錯的。”

作者說，這遠不是關于如何評估AI系統(tǒng)的意識的最終結論，希望其他研究人員能幫助完善他們的方法。不過，現在已經有可能將這些標準應用于現有的AI系統(tǒng)結果顯示，至少現在還沒有任何AI系統(tǒng)具備意識。

相關論文信息：https://doi.org/10.48550/arXiv.2308.08708

標簽：