3月30日，一封發(fā)布自安全機(jī)構(gòu)生命未來研究所的聯(lián)名信讓人們意識(shí)到，技術(shù)成果日新月異的背后，對(duì)人工智能潛在風(fēng)險(xiǎn)和危害的擔(dān)憂也在與日俱增?！白屛覀兿硎芤粋€(gè)漫長(zhǎng)的 AI 夏天，而不是毫無準(zhǔn)備地沖入秋天?！甭?lián)名信以此為結(jié)尾，呼吁暫停相關(guān)AI研究，直到各方協(xié)商后制定出相關(guān)安全協(xié)議。
風(fēng)口浪尖之上，近日，英國政府發(fā)布了針對(duì)人工智能產(chǎn)業(yè)監(jiān)管的白皮書(下稱“白皮書”)。
【資料圖】
白皮書提出了監(jiān)管人工智能的新方法，并概述了監(jiān)管機(jī)構(gòu)應(yīng)考慮的5條明確原則，即安全性和穩(wěn)健性、透明度和可解釋性、公平性、問責(zé)制和管理，以及可競(jìng)爭(zhēng)性和補(bǔ)救性。
受訪專家指出，在白皮書提出的五項(xiàng)原則中，透明度和可解釋性作為人工智能技術(shù)研究和應(yīng)用的基礎(chǔ)，需要得到特別重視。此外，白皮書提出的在現(xiàn)有法律框架下對(duì)人工智能治理的思路，以及可信人工智能、監(jiān)管沙盒等舉措，能夠在防范潛在風(fēng)險(xiǎn)的同時(shí)促進(jìn)產(chǎn)業(yè)發(fā)展，對(duì)我國未來的人工智能治理有一定借鑒意義。
AI治理的五個(gè)原則
“人工智能不再是科幻小說中的東西，其發(fā)展驚人，我們需要有新的規(guī)則來確保它安全地發(fā)展?！庇茖W(xué)、創(chuàng)新和技術(shù)部(DSIT)部長(zhǎng)表示。
在白皮書中，DSIT概述了針對(duì)ChatGPT等人工智能治理的五項(xiàng)原則，分別是：安全性和穩(wěn)健性、透明度和可解釋性、公平性、問責(zé)制和管理，以及可競(jìng)爭(zhēng)性和補(bǔ)救性。
具體而言，安全性和穩(wěn)健性指人工智能應(yīng)用應(yīng)當(dāng)以安全和穩(wěn)健的方式運(yùn)行，并持續(xù)識(shí)別、評(píng)估和管理風(fēng)險(xiǎn)，監(jiān)管機(jī)構(gòu)可采取舉措確保人工智能系統(tǒng)整個(gè)生命周期按預(yù)期可靠運(yùn)行；透明度和可解釋性指開發(fā)和部署人工智能的組織應(yīng)該能夠溝通何時(shí)以及如何使用它，并以適當(dāng)?shù)脑敿?xì)程度解釋系統(tǒng)的決策過程，以匹配使用人工智能帶來的風(fēng)險(xiǎn)；公平性指人工智能的使用方式應(yīng)符合英國現(xiàn)行法律，例如《2010年平等法》或英國GDPR，不得歧視個(gè)人或創(chuàng)造不公平的商業(yè)結(jié)果；可競(jìng)爭(zhēng)性和補(bǔ)救性則指需要有明確的途徑來質(zhì)疑人工智能產(chǎn)生的有害結(jié)果或決定。
“透明度和可解釋性是技術(shù)發(fā)展的關(guān)鍵要素，也是人工智能保證可信任度的基礎(chǔ)?！北本煼洞髮W(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括解釋道，也因此，其他原則的貫徹實(shí)施都以透明度和可解釋性為基礎(chǔ)。“這也是目前人工智能產(chǎn)業(yè)中各參與主體特別關(guān)注并投入資源建設(shè)的重點(diǎn)區(qū)域?！彼f。
白皮書顯示，英國政府將避免可能扼殺創(chuàng)新的嚴(yán)厲立法，并采取適應(yīng)性強(qiáng)的方法來監(jiān)管人工智能。英國計(jì)劃在其人權(quán)、健康和安全以及競(jìng)爭(zhēng)監(jiān)管機(jī)構(gòu)之間分配管理人工智能的責(zé)任，而不是創(chuàng)建一個(gè)專門負(fù)責(zé)該技術(shù)的新機(jī)構(gòu)。
在吳沈括看來，人工智能治理的相關(guān)問題和目前現(xiàn)行的法律制度之間存在一定的邏輯關(guān)聯(lián)和事實(shí)匹配，因此，現(xiàn)行法律仍能治理人工智能技術(shù)的相關(guān)問題。
不過他也指出，技術(shù)發(fā)展過程中出現(xiàn)的算法透明度、人工智能倫理等問題是最初法律制定過程當(dāng)中難以預(yù)見的?！耙虼宋艺J(rèn)為，適時(shí)研判并引入專項(xiàng)人工智能法律規(guī)則有其必要性?！彼硎?。
據(jù)了解，在接下來的12個(gè)月里，英國監(jiān)管機(jī)構(gòu)將向人工智能公司發(fā)布實(shí)用指南，以及其他工具和資源，如風(fēng)險(xiǎn)評(píng)估模板，以闡明如何在其行業(yè)中實(shí)施這些原則。在議會(huì)時(shí)間允許的情況下，可以引入立法，以確保監(jiān)管機(jī)構(gòu)始終如一地考慮這些原則。
失控和剎車？
耐人尋味的是，白皮書推出的時(shí)間點(diǎn)，正值ChatGPT等高級(jí)AI技術(shù)遭受質(zhì)疑的風(fēng)口浪尖。
就在白皮書發(fā)布前不久，著名安全機(jī)構(gòu)生命未來研究所( Future of Life Institute ， FLI )呼吁全球所有研究機(jī)構(gòu)暫停訓(xùn)練比 GPT-4 更強(qiáng)的系統(tǒng)至少六個(gè)月，理由是這種系統(tǒng)對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)；同時(shí)，要求在這六個(gè)月中來制訂和 AI 相關(guān)的安全協(xié)議，其中就包括如何監(jiān)管 AI 輸出的內(nèi)容，還有如何把 AI 創(chuàng)造出的內(nèi)容和真實(shí)的內(nèi)容區(qū)分開來。
圖靈獎(jiǎng)得主Yoshua Bengio、馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI 創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專家已經(jīng)簽署公開信。甚至OpenAI CEO Sam Altman的名字一度也出現(xiàn)在公開信上，盡管不久之后便無端消失。
這封信在產(chǎn)業(yè)界掀起了軒然大波。 對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣認(rèn)為，這封聯(lián)名信及其呼吁反映了科技從業(yè)者、技術(shù)社群、社會(huì)公眾以及監(jiān)管機(jī)構(gòu)對(duì)于人工智能的技術(shù)信任焦慮?！霸诩夹g(shù)展現(xiàn)其強(qiáng)大力量和極高發(fā)展速度的情況下，規(guī)則缺位帶來的人工智能技術(shù)的種種不確定性將會(huì)影響人們對(duì)這一技術(shù)的信任?！?
此次英國發(fā)布的人工智能產(chǎn)業(yè)監(jiān)管白皮書所搭建的監(jiān)管體系，能否有效讓存在“失控”風(fēng)險(xiǎn)的AI“懸崖勒馬”，在一定程度上提振行業(yè)的發(fā)展信心？
吳沈括表示，英國對(duì)新興產(chǎn)業(yè)，如數(shù)字經(jīng)濟(jì)等的監(jiān)管展現(xiàn)出實(shí)用主義色彩。其監(jiān)管主要目的是增強(qiáng)英國市場(chǎng)的吸引力和活力，推動(dòng)本國產(chǎn)業(yè)的發(fā)展，因此也更具產(chǎn)業(yè)友好性。
“此次產(chǎn)業(yè)白皮書的發(fā)布，將進(jìn)一步提升監(jiān)管框架的確定性、明確性，有利于增強(qiáng)該國甚至外國投資者的信心?！彼f。
據(jù)媒體報(bào)道，英國在近日宣布將投資9億英鎊(約合人民幣 75.06億元)來打造百億億級(jí)(exascale)超級(jí)計(jì)算機(jī)。這樣的超級(jí)計(jì)算機(jī)將被用于創(chuàng)建類似于ChatGPT的語言模型，并暫時(shí)命名為“BritGPT”。英國政府認(rèn)為“BritGPT”將為英國在人工智能領(lǐng)域發(fā)展帶來新的機(jī)遇。
可信AI、監(jiān)管沙盒等舉措助力我國產(chǎn)業(yè)發(fā)展
雖然人工智能并非近幾年才出現(xiàn)的新概念，但該市場(chǎng)目前正處在起步發(fā)展階段，而我國、乃至全世界對(duì)應(yīng)的規(guī)則、監(jiān)管機(jī)構(gòu)還在逐步建構(gòu)和明確。英國此次公布的監(jiān)管舉措及整體框架對(duì)我國未來的人工智能治理有一定的借鑒意義。
人工智能技術(shù)是否值得信任，是橫亙?cè)诩夹g(shù)的理論和實(shí)際應(yīng)用間的重要問題。英國政府在白皮書中宣布將提供相關(guān)技術(shù)和技術(shù)標(biāo)準(zhǔn)保障可信人工智能的落地，具體舉措包括提供保證技術(shù)工具箱衡量研發(fā)流程中的可信度，計(jì)劃分類分層擬定技術(shù)標(biāo)準(zhǔn)等。
“未來，可信人工智能仍然是各國在人工智能監(jiān)管工作中的重點(diǎn)?！睆埿乐赋?，只有技術(shù)被確保可信，人工智能技術(shù)的研發(fā)和產(chǎn)業(yè)應(yīng)用才能放心邁開腳步。
近年來，人工智能領(lǐng)域內(nèi)可信人工智能的研究與應(yīng)用步伐都在加快。中國信通院數(shù)據(jù)顯示，截至2022年 4月，全球可信人工智能領(lǐng)域相關(guān)論文數(shù)量論文共計(jì) 7059 篇。美國、中國、英國是可信人工智能領(lǐng)域論文發(fā)表的主要國家，三國發(fā)表的論文總數(shù)占全球論文總數(shù) 53%以上。
此外，在具體舉措上，英國政府還表示，將資助2萬英鎊建立一個(gè)監(jiān)管沙盒，為人工智能企業(yè)提供測(cè)試環(huán)境。企業(yè)可以測(cè)試如何將監(jiān)管應(yīng)用于人工智能產(chǎn)品和服務(wù)，以支持創(chuàng)新者將新想法推向市場(chǎng)。而不會(huì)受監(jiān)管規(guī)則的約束。
“監(jiān)管沙盒與人工智能產(chǎn)業(yè)迭代速度快的特點(diǎn)相適應(yīng)，對(duì)我國對(duì)人工智能產(chǎn)業(yè)治理亦有參考價(jià)值?！痹趶埿揽磥肀O(jiān)管沙盒模式一方面，則能夠在“沙盒”模擬中預(yù)判可能出現(xiàn)的風(fēng)險(xiǎn)，幫助監(jiān)管方早日知曉和防范；另一方面，能夠幫助激發(fā)技術(shù)創(chuàng)新活力，拓展產(chǎn)業(yè)發(fā)展的空間。
去年9月發(fā)布的《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》就提出，政府應(yīng)當(dāng)順應(yīng)人工智能快速迭代的特點(diǎn)，探索分級(jí)治理和沙盒監(jiān)管。
吳沈括認(rèn)為，從整體的監(jiān)管框架上看，英國重視現(xiàn)行法律法規(guī)的思路對(duì)我國具有一定參考意義。針對(duì)人工智能帶來的新挑戰(zhàn)和新問題，應(yīng)該充分挖掘和發(fā)揮現(xiàn)有的制度資源和監(jiān)管資源，然后再“查漏補(bǔ)缺”適當(dāng)引入必要的治理規(guī)范。
此外，重視產(chǎn)業(yè)發(fā)展的價(jià)值也值得深入思考?！氨敬伟灼芯坎l(fā)布了一個(gè)結(jié)論——繁重、不適宜的監(jiān)管可能會(huì)為中小企業(yè)的創(chuàng)新帶來負(fù)擔(dān)。”張欣指出，白皮書中體現(xiàn)出的監(jiān)管互操作性、一致性及監(jiān)管比例性，對(duì)我國未來促進(jìn)中小企業(yè)科技創(chuàng)新就有借鑒意義。
“人工智能的治理不應(yīng)當(dāng)以犧牲產(chǎn)業(yè)發(fā)展為代價(jià)?！眳巧蚶ū硎?，應(yīng)當(dāng)充分兼顧各方利益和訴求，在保護(hù)、保障、保衛(wèi)核心價(jià)值的基礎(chǔ)之上，兼容技術(shù)發(fā)展和產(chǎn)業(yè)發(fā)展的需求，最大限度推動(dòng)人工智能發(fā)展的一個(gè)良性生態(tài)。
（文章來源：21世紀(jì)經(jīng)濟(jì)報(bào)道）
標(biāo)簽：
