(資料圖片僅供參考)
多位頂級AI研究人員、工程師和CEO就AI對人類構(gòu)成的生存威脅發(fā)出了最新警告：“減輕人工智能帶來的滅絕風(fēng)險應(yīng)該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險一起成為全球優(yōu)先事項?！?/span>
超過350名人工智能行業(yè)的人士聯(lián)合簽署了22字簡潔聲明。
當(dāng)?shù)貢r間5月30日，這份只有22個單詞的聲明發(fā)布在非營利組織人工智能安全中心（Center for AI Safety）的網(wǎng)站上。該網(wǎng)站表示：人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的重要和緊迫的廣泛風(fēng)險。即便如此，也很難表達(dá)對先進人工智能的一些最嚴(yán)重風(fēng)險的擔(dān)憂。下面的簡潔聲明旨在克服這一障礙并展開討論。它還旨在為越來越多的專家和公眾人物提供常識，他們也認(rèn)真對待先進人工智能的一些最嚴(yán)重風(fēng)險。
超過350名從事人工智能工作的人士簽署了這份聲明。簽署者包括Google DeepMind首席執(zhí)行官戴米斯·哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）、“AI教父”杰弗里·辛頓（Geoffrey Hinton）和約書亞·本希奧（Youshua Bengio）等，辛頓和本希奧因其在AI方面的工作獲得了2018年圖靈獎，一同獲得該獎項的AI大牛、Meta首席人工智能科學(xué)家楊立昆（Yann LeCun）尚未簽名。
其中一些簽署者，在今年早些時候簽署了另外一封公開信，呼吁“暫停”開發(fā)比GPT-4更高級的AI至少6個月，這封信在多個層面受到批評，一些專家認(rèn)為它夸大了人工智能帶來的風(fēng)險，而一些人則贊同存在這種風(fēng)險，但不同意信中建議的措施。
人工智能安全中心執(zhí)行主任丹·亨德里克斯（Dan Hendrycks）告訴《紐約時報》，5月30日的聲明很簡潔，沒有提出任何減輕人工智能威脅的潛在方法，旨在避免這種分歧。 “我們不想推動包含30種潛在干預(yù)措施的龐大菜單?！焙嗟吕锟怂拐f，“當(dāng)這種情況發(fā)生時，它會淡化（想傳達(dá)的）信息?！?/p>
標(biāo)簽：
