(資料圖片僅供參考)
文 ｜ 劉永謀（中國人民大學(xué)哲學(xué)院教授、國家發(fā)展與戰(zhàn)略研究院研究員）
最近，包括埃隆.馬斯克在內(nèi)的千名專家聯(lián)合簽署公開信，呼吁暫停訓(xùn)練GPT-4后續(xù)AI模型至少6個(gè)月。消息一出，引爆全球網(wǎng)絡(luò)和媒體，很快引來吳恩達(dá)等“AI大牛”的反對。
據(jù)公開信所稱，提出“暫停ChatGPT研發(fā)”的提議，直接刺激是對“最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場失控競賽”的擔(dān)憂。可實(shí)際上，短短幾日爭論，是往OpenAI公司和LLMs（Large Language Models，大語言模型）火上澆油，完成了又一波量子級別的免費(fèi)推廣。這波“操作”的宣傳效應(yīng)，繼續(xù)擴(kuò)大該領(lǐng)域領(lǐng)先公司的領(lǐng)先優(yōu)勢。如此聲譽(yù)競爭是不是失控的商業(yè)競爭呢？將目光拉到國內(nèi)，競爭問題會看得更清楚。GPT研發(fā)競爭不限于幾個(gè)美國公司之間，更是關(guān)涉各國尤其是大國之間的AI科研競爭。在LLMs領(lǐng)域，美國本來就領(lǐng)先一大截，其競爭對手可能暫停ChatGPT研發(fā)嗎？馬斯克一聲呼吁，OpenAI公司真的會暫停，而不是轉(zhuǎn)向秘密研發(fā)嗎？公開信呼吁政府出面，實(shí)施暫停研發(fā)的措施。新科技領(lǐng)域問題風(fēng)險(xiǎn)和倫理問題層出不窮，政府全部都要大包大攬嗎？而且依據(jù)何在，又如何能合法合規(guī)地實(shí)施呢？如果強(qiáng)力暫停措施在一個(gè)應(yīng)對、治理和管控能力有著顯著優(yōu)勢的國家奏效，而在其他國家完全不頂用，結(jié)果是不是反而擴(kuò)大了后者對前者的LLMs競爭優(yōu)勢呢？AI風(fēng)險(xiǎn)早就被學(xué)界指出，被各國政府所重視，近年來更是成為全社會的關(guān)注焦點(diǎn)。近十年來，從物聯(lián)網(wǎng)到大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈、元宇宙、ChatGPT，一波波的AI熱潮中，從來沒有缺少關(guān)注風(fēng)險(xiǎn)的呼聲。本人專業(yè)關(guān)注新科技社會沖擊問題，花了大量精力提醒大家注意AI可能導(dǎo)致的技術(shù)風(fēng)險(xiǎn)。比如，曾寫過專著《物聯(lián)網(wǎng)與泛在社會的來臨》《技術(shù)有病我沒藥》《元宇宙陷阱》《科技與社會十四講》，面向非專業(yè)人士提示ICT（信息與通訊技術(shù)）的社會沖擊和技術(shù)風(fēng)險(xiǎn)。可以說，警惕AI發(fā)展，防止AI失控，正在成為全球范圍內(nèi)科技領(lǐng)域的“政治正確”。在此氛圍之下，公開宣稱“AI無禁區(qū)”的聲音被極大地抑制。對此，作為技術(shù)控制的選擇論者，我完全贊同。然而，公開信指向的不是泛泛的AI風(fēng)險(xiǎn)，而是具體的、當(dāng)下的LLMs風(fēng)險(xiǎn)。那么，就目前的發(fā)展態(tài)勢而言，ChatGPT究竟存在什么嚴(yán)重的風(fēng)險(xiǎn)，必須以暫停至少六個(gè)月的方式加以應(yīng)對呢？有人說，ChatGPT是超級AI出現(xiàn)的征兆，如果現(xiàn)在不停止（注意：不僅是暫停），“潘多拉的魔盒”一旦打開，人類很快會被超級AI統(tǒng)治甚至滅絕。這種幻想色彩濃厚的念頭，很難讓人予以嚴(yán)肅的對待。尤其是，很多專業(yè)人員不承認(rèn)ChatGPT是通用AI，更別說它是超級AI的雛形了。超級AI可能是個(gè)問題，但在嚴(yán)防人類自我滅絕的問題上，很多風(fēng)險(xiǎn)如核大戰(zhàn)、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前。我們是不是先把它們都停止了？就算停止不了，暫停一下也行，起碼可以呼吁暫停。對不對？仔細(xì)想一想，LLMs對中國社會最重要的沖擊在于：1）失業(yè)問題：ChatGPT未來會威脅很多人的“飯碗”，進(jìn)一步加劇“AI失業(yè)問題”，即AI的推廣導(dǎo)致人們失業(yè)。2）教育問題：ChatGPT對應(yīng)試教育造成巨大挑戰(zhàn)，要求中國的教育體制適應(yīng)AI輔助工作和生活的未來社會環(huán)境。3）信息安全問題：ChatGPT很快生成海量的AIGC（計(jì)算機(jī)生成內(nèi)容），其中不乏錯誤的、虛假的、有害的內(nèi)容，威脅主流價(jià)值觀、意識形態(tài)和健康的輿論思想環(huán)境。如何應(yīng)對ChatGPT的沖擊？這是我們最后要討論的問題。暫停ChatGPT肯定不是應(yīng)對風(fēng)險(xiǎn)的好辦法。為什么？第一，暫停沒有道理。有人說，ChatGPT風(fēng)險(xiǎn)應(yīng)對措施沒有想清楚，所以先暫停。錯！不是沒想清楚，而是沒有落實(shí)到位。第二，暫停是不可能真正實(shí)現(xiàn)的，肯定會有AI公司違反禁令，結(jié)果是出現(xiàn)不公平的競爭。第三，暫停解決不了問題。就算所有AI公司都真的暫停ChatGPT科研，風(fēng)險(xiǎn)問題就解決了嗎？沒有！除非徹底停止和取締LLMs，否則風(fēng)險(xiǎn)不會消失。重新啟動之時(shí)，仍然得直面風(fēng)險(xiǎn)。如今，新科技是人類生存和發(fā)展最重要的不可須臾離開的工具。ChatGPT對社會生產(chǎn)力的推動作用已經(jīng)昭然若揭，我們?yōu)槭裁匆蛞瓘U食，為什么不能控制地利用呢？20世紀(jì)就有人提出來，彼時(shí)的科技人類已經(jīng)完全夠用了，繼續(xù)發(fā)展會導(dǎo)致很多新問題，應(yīng)該讓科技靜止下來，科學(xué)家不要再搞研究了。此類極端非理性想法，從來沒有被社會嚴(yán)肅對待過。顯然，上述ChatGPT導(dǎo)致的三大沖擊都不是什么新問題，早在ChatGPT爆火之間就已經(jīng)被學(xué)界和政府所關(guān)注、所研究，各種應(yīng)對建議早已被提出來。比如AI失業(yè)問題，各種討論汗牛充棟。具體的應(yīng)對措施不一而足，如學(xué)生的職業(yè)規(guī)劃、勞動者AI素養(yǎng)提升、失業(yè)人員社會保障和再就業(yè)、產(chǎn)業(yè)結(jié)構(gòu)升級改造等。長遠(yuǎn)的戰(zhàn)略規(guī)劃亦蔚為大觀，如制度性地減少勞動者工作時(shí)間（有些地方已經(jīng)在嘗試一周工作4天），征收AI稅（AI是全人類智力結(jié)晶，向AI公司征收重稅全民共享），靈活退休制度（勞動者一輩子可以短暫退休幾次）等。因此，現(xiàn)在的問題是根據(jù)國情落實(shí)AI治理措施，而不是暫停ChatGPT研發(fā)。總之，暫停ChatGPT研發(fā)的想法簡單粗暴，作用不大，也實(shí)現(xiàn)不了，純屬無效的“嘴炮”。
標(biāo)簽：
