文/陳根
【資料圖】
日前，人工智能安全中心（Center for AI Safety CAIS）發(fā)布了一份由350位人工智能領(lǐng)域的科學(xué)家與企業(yè)高管聯(lián)名簽署的《人工智能風(fēng)險聲明》，其內(nèi)容主旨為“降低人工智能導(dǎo)致人類滅絕的風(fēng)險，應(yīng)該與流行病及核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險一起，成為全球優(yōu)先事項?！?/p>
這封公開聲明，匯集了當(dāng)今世界最權(quán)威的人工智能專家、核科學(xué)家、流行病學(xué)家等專家學(xué)者的意見，可以說已經(jīng)將人工智能帶來的風(fēng)險進行了最全面的梳理。簽署者中包括OpenAI首席執(zhí)行官山姆·奧特曼、DeepMind首席執(zhí)行官戴米斯·哈薩比斯和Anthropic首席執(zhí)行官Dario Amodei三位AI公司高管；也包括被稱為AI教父的杰夫瑞·辛頓，與他同為“AI三巨頭”之一且同獲圖靈獎的約書亞·本吉奧；一同簽署公開信的還有兩位中國科學(xué)家，中國科學(xué)院的自動化研究所人工智能倫理與治理研究中心主任曾毅、清華智能產(chǎn)業(yè)研究院助理研究員詹仙園。
人工智能威脅論
人工智能技術(shù)的發(fā)展對社會科技的進步起到的推進作用不言而喻。但是，就在人工智能取得突破性進展的同時，其負面作用及給人類帶來的心理壓力也日益凸顯。比如，越來越多的學(xué)生利用人工智能寫作業(yè)、寫論文，導(dǎo)致抄襲變得難以界定；犯罪分子利用其開發(fā)新的黑客攻擊方式，竊取敏感數(shù)據(jù)進行勒索。
人工智能還將對人類工作方式帶來重大的沖擊。預(yù)計到 2030年，將會有7500萬至3.75億人需要重新去尋找工作。這不僅對經(jīng)濟造成史無前例的影響，還將對人們的心理造成從未有過的壓力。據(jù)報道，美國有61%的受訪者認為人工智能正在威脅著人類的未來。當(dāng)杰夫瑞·辛頓被問到“你認為可以想象的最壞的情況是什么”，他回答：“完全可以想象，人類只是智能進化的一個過渡階段?！?/p>
理性看待人工智能發(fā)展的利與弊
當(dāng)越來越多的人開始認為“人工智能將有可能比我們更聰明”時，對無節(jié)制人工智能技術(shù)開發(fā)的廣泛擔(dān)憂，也就不無道理了。雖然以ChatGPT為代表的尖端人工智能大多還是根據(jù)訓(xùn)練數(shù)據(jù)中的模式進行復(fù)制學(xué)習(xí)，但是，它的學(xué)習(xí)能力和成長速度可以說是用“突飛猛進”尚不足以形容其發(fā)展的速度之快。
目前，越來越多的立法者、倡導(dǎo)團體和科技行業(yè)內(nèi)部人士都開始對AI 聊天機器人傳播錯誤消息和取代人類工作的可能性提出警告。Center for AI Safety 主任 Dan Hendrycks更是指出，全社會還應(yīng)協(xié)力解決其他類型的AI風(fēng)險，如算法偏見或誤導(dǎo)消息。當(dāng)然，在這個風(fēng)險管理的過程中，只關(guān)注當(dāng)前的危害是魯莽的，忽視它們也同樣是魯莽的。因為跟其他的新生事物一樣，人工智能的快速普及有機遇也有風(fēng)險。人們在利用它好的一面的同時，也必須警惕可能帶來的風(fēng)險。只要善加利用，并防范風(fēng)險，就能“為我所用”。
（陳根為知名科技作者）
（文章來源：第一財經(jīng)）
標(biāo)簽：
