長(zhǎng)期以來(lái)，科幻小說(shuō)一直認(rèn)為人工智能（AI）有意識(shí)，隨著AI的快速發(fā)展，這不再是異想天開(kāi)，甚至得到了AI領(lǐng)導(dǎo)者的認(rèn)可。例如，美國(guó)OpenAI公司首席科學(xué)家Ilya?Sutskever在社交媒體上表示，一些最前沿的AI網(wǎng)絡(luò)可能“有點(diǎn)意識(shí)”。
(相關(guān)資料圖)
許多研究人員表示，AI系統(tǒng)還沒(méi)有達(dá)到具有意識(shí)的程度，但AI的進(jìn)化速度讓他們開(kāi)始思考：如果它們有了意識(shí)，我們?nèi)绾沃滥兀?/p>
據(jù)《自然》報(bào)道，為了回答這個(gè)問(wèn)題，一個(gè)由19名神經(jīng)科學(xué)家、哲學(xué)家和計(jì)算機(jī)科學(xué)家組成的小組提出了一份標(biāo)準(zhǔn)清單，如果滿足這些標(biāo)準(zhǔn)，就表明一個(gè)AI系統(tǒng)很有可能是有意識(shí)的。8月17日，他們?cè)陬A(yù)印本服務(wù)器arXiv上發(fā)布了他們的臨時(shí)指南。
合著者之一、美國(guó)非營(yíng)利研究組織人工智能安全中心哲學(xué)家Robert?Long說(shuō)，他們之所以這樣做，是因?yàn)椤瓣P(guān)于AI意識(shí)，似乎真的缺乏詳細(xì)、基于經(jīng)驗(yàn)、深思熟慮的討論”。
該團(tuán)隊(duì)表示，識(shí)別AI系統(tǒng)是否具有意識(shí)具有重要的道德意義。合著者之一、美國(guó)加利福尼亞大學(xué)歐文分校神經(jīng)科學(xué)家Megan?Peters表示，如果某物被貼上了“有意識(shí)”的標(biāo)簽，“那么我們作為人類應(yīng)該如何對(duì)待這個(gè)實(shí)體，就會(huì)發(fā)生很大變化”。
Long表示，據(jù)他所知，構(gòu)建先進(jìn)AI系統(tǒng)的公司沒(méi)有付出足夠多的努力來(lái)評(píng)估意識(shí)模型，并制定計(jì)劃以防AI具有意識(shí)。他補(bǔ)充道：“盡管如此，如果你聽(tīng)聽(tīng)實(shí)驗(yàn)室負(fù)責(zé)人的言論，他們確實(shí)說(shuō)過(guò)，他們對(duì)AI意識(shí)或AI感知很感興趣?！?/p>
《自然》雜志聯(lián)系了參與推進(jìn)AI的兩家主要科技公司——微軟和谷歌。微軟的一位發(fā)言人表示，該公司開(kāi)發(fā)AI的核心是以負(fù)責(zé)任的方式協(xié)助人類生產(chǎn)力，而不是復(fù)制人類的智能。這位發(fā)言人表示，自從GPT-4推出以來(lái)，“在探索如何充分發(fā)揮AI潛力、造福整個(gè)社會(huì)之際，需要新的方法來(lái)評(píng)估這些AI模型的能力”。谷歌則未作出回應(yīng)。
在AI中研究意識(shí)的挑戰(zhàn)之一是定義什么是意識(shí)。Peters說(shuō)，為了報(bào)告的目的，研究人員關(guān)注的是“現(xiàn)象意識(shí)”，也就是所謂的主觀體驗(yàn)。這是存在的體驗(yàn)——成為人、動(dòng)物或AI系統(tǒng)的感覺(jué)。
有許多基于神經(jīng)科學(xué)的理論描述了意識(shí)的生物學(xué)基礎(chǔ)。但是，對(duì)于哪一個(gè)是“正確的”，人們并沒(méi)有達(dá)成共識(shí)。因此，為了建立他們的框架，作者使用了一系列這樣的理論。其想法是，如果一個(gè)AI系統(tǒng)的運(yùn)作方式與這些理論的許多方面相匹配，那么它就更有可能是有意識(shí)的。
他們認(rèn)為，這是一種評(píng)估意識(shí)的更好方法，而不是簡(jiǎn)單地對(duì)一個(gè)系統(tǒng)進(jìn)行行為測(cè)試ーー比如，詢問(wèn)ChatGPT它是否有意識(shí)，或者挑戰(zhàn)它，觀察它是如何反應(yīng)的。這是因?yàn)锳I系統(tǒng)已經(jīng)變得非常擅長(zhǎng)模仿人類。
英國(guó)薩塞克斯大學(xué)意識(shí)科學(xué)中心主任、神經(jīng)學(xué)家Anil?Seth說(shuō)，研究小組提出的是一種很好的方法，它強(qiáng)調(diào)的是，“我們需要更精確、更經(jīng)得起檢驗(yàn)的意識(shí)理論”。
為制定標(biāo)準(zhǔn)，作者假設(shè)意識(shí)與系統(tǒng)處理信息的方式有關(guān)，無(wú)論它們是由什么構(gòu)成的——是神經(jīng)元、計(jì)算機(jī)芯片還是其他什么。他們還假設(shè)，通過(guò)人類和動(dòng)物的腦部掃描及其他技術(shù)研究的基于神經(jīng)科學(xué)的意識(shí)理論可以應(yīng)用于AI。在這些假設(shè)的基礎(chǔ)上，研究小組選擇了其中的6個(gè)理論，并從中提取了一系列意識(shí)指標(biāo)。
Seth對(duì)團(tuán)隊(duì)提出的標(biāo)準(zhǔn)印象深刻。“它非常深思熟慮，不夸夸其談，而且它的假設(shè)非常清晰?！彼f(shuō)，“我不同意其中的一些假設(shè)，但這完全沒(méi)關(guān)系，因?yàn)槲液芸赡苁清e(cuò)的。”
作者說(shuō)，這遠(yuǎn)不是關(guān)于如何評(píng)估AI系統(tǒng)的意識(shí)的最終結(jié)論，希望其他研究人員能幫助完善他們的方法。不過(guò)，現(xiàn)在已經(jīng)有可能將這些標(biāo)準(zhǔn)應(yīng)用于現(xiàn)有的AI系統(tǒng)結(jié)果顯示，至少現(xiàn)在還沒(méi)有任何AI系統(tǒng)具備意識(shí)。
相關(guān)論文信息：https://doi.org/10.48550/arXiv.2308.08708
標(biāo)簽：
