新一輪人工智能飛速發(fā)展，如何平衡發(fā)展與安全成為此次發(fā)展過(guò)程中的一道必答題。
8月1日，南財(cái)合規(guī)科技研究院與觀韜中茂律師事務(wù)所推出《中國(guó)AI治理的獨(dú)立思考——生成式人工智能發(fā)展與監(jiān)管白皮書(shū)》（以下簡(jiǎn)稱白皮書(shū)），通過(guò)分析生成式AI的發(fā)展現(xiàn)狀、政策導(dǎo)向、實(shí)操中面臨的風(fēng)險(xiǎn)，以及各國(guó)的監(jiān)管路徑，以期為未來(lái)的AI治理提供有益思路。
(資料圖)
生成式AI技術(shù)，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)。生成式AI本質(zhì)在于“創(chuàng)造未知世界”。
大模型是本輪生成式AI競(jìng)賽的殺手锏。各個(gè)科技公司加碼大模型，上演“百模大戰(zhàn)”。白皮書(shū)梳理了來(lái)自互聯(lián)網(wǎng)公司、AI公司、科研院所、教育行業(yè)、車企等發(fā)布的超過(guò)30個(gè)大模型。此外，白皮書(shū)還梳理了當(dāng)前接入類ChatGPT技術(shù)應(yīng)用，將其整理為辦公軟件、社交文娛、商業(yè)營(yíng)銷、家庭助理、智慧醫(yī)療六大類，并具體細(xì)分為16個(gè)應(yīng)用方向。
白皮書(shū)指出，生成式AI當(dāng)前主要面臨四大類風(fēng)險(xiǎn)：一是知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)，需要關(guān)注著作權(quán)侵權(quán)、商業(yè)秘密侵犯、不正當(dāng)競(jìng)爭(zhēng)和反壟斷風(fēng)險(xiǎn)；二是算法風(fēng)險(xiǎn)，面臨算法黑箱、算法歧視、算法決策、算法失真風(fēng)險(xiǎn)；三是數(shù)據(jù)安全與個(gè)人信息保護(hù)風(fēng)險(xiǎn)，需要考慮個(gè)人信息保護(hù)、數(shù)據(jù)跨境風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)等問(wèn)題；四是倫理道德風(fēng)險(xiǎn)，需要關(guān)注生成式AI發(fā)展過(guò)程中帶來(lái)的偏見(jiàn)、刻板印象、歧視等問(wèn)題。
值得關(guān)注的是，白皮書(shū)梳理了歐盟、美國(guó)的人工智能監(jiān)管框架，以期為中國(guó)人工智能治理思路提供參考。
白皮書(shū)指出，美國(guó)其未在聯(lián)邦或者州層面制定相關(guān)的法律文件來(lái)規(guī)制生成式AI的應(yīng)用以及其可能帶來(lái)的風(fēng)險(xiǎn)，而是采取以美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院的《人工智能風(fēng)險(xiǎn)管理框架》（以下簡(jiǎn)稱框架）為主引導(dǎo)實(shí)踐的治理框架，框架概述了可信的人工智能系統(tǒng)的特征，即可解釋性、透明度和問(wèn)責(zé)制。美國(guó)關(guān)于生成式AI應(yīng)用的治理框架反映了其對(duì)于創(chuàng)新技術(shù)的一貫態(tài)度，即鼓勵(lì)科技發(fā)展，著力保持自身在全球科技創(chuàng)新中的領(lǐng)導(dǎo)地位。
歐盟略顯保守，其采用了以人工智能法案為主的風(fēng)險(xiǎn)分級(jí)監(jiān)管治理框架，將人工智能技術(shù)可能對(duì)人的健康和安全或基本權(quán)利造成的風(fēng)險(xiǎn)程度分為四個(gè)級(jí)別：不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最小風(fēng)險(xiǎn)，并分別采取不同的限制措施。
具體到中國(guó)來(lái)看，白皮書(shū)指出，“發(fā)展”正逐漸成為中國(guó)AI治理的第一視角。中國(guó)在7月發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，提及“堅(jiān)持目標(biāo)導(dǎo)向和問(wèn)題導(dǎo)向”，單設(shè)了“技術(shù)發(fā)展與治理”章節(jié)，同時(shí)也新增了不少有力措施來(lái)鼓勵(lì)生成式AI技術(shù)發(fā)展，如探索優(yōu)化應(yīng)用場(chǎng)景、加強(qiáng)基礎(chǔ)技術(shù)自主創(chuàng)新、推動(dòng)公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)、豁免責(zé)任等。
針對(duì)生成式AI商業(yè)化中出現(xiàn)的一系列風(fēng)險(xiǎn)，開(kāi)發(fā)者又該如何應(yīng)對(duì)？白皮書(shū)亦給出了答案。
白皮書(shū)提出了以風(fēng)險(xiǎn)控制為核心目標(biāo)導(dǎo)向的AI風(fēng)險(xiǎn)治理框架。風(fēng)險(xiǎn)治理框架的核心為風(fēng)險(xiǎn)識(shí)別-風(fēng)險(xiǎn)度量-應(yīng)對(duì)策略-控制措施。
風(fēng)險(xiǎn)識(shí)別：關(guān)注知識(shí)產(chǎn)權(quán)、算法、數(shù)據(jù)安全以及個(gè)人信息等方面帶來(lái)的風(fēng)險(xiǎn)。同時(shí)提醒關(guān)注未知風(fēng)險(xiǎn)。
風(fēng)險(xiǎn)度量：典型的風(fēng)險(xiǎn)衡量方法需要開(kāi)發(fā)者將測(cè)量或估計(jì)的影響和影響可能性相乘或定性組合為風(fēng)險(xiǎn)評(píng)分(風(fēng)險(xiǎn)≈影響x可能性)。試圖完全消除負(fù)面風(fēng)險(xiǎn)在實(shí)踐中可能適得其反，因?yàn)椴⒎撬惺录惋L(fēng)險(xiǎn)都可以消除。
應(yīng)對(duì)策略：開(kāi)發(fā)者針對(duì)已識(shí)別的生成式AI商業(yè)化應(yīng)用風(fēng)險(xiǎn)的應(yīng)對(duì)治理模塊，目前包括以下模塊：協(xié)議安排、內(nèi)部政策、技術(shù)性限制、數(shù)據(jù)治理、動(dòng)態(tài)測(cè)試及評(píng)估、透明度實(shí)踐等。
控制措施：依據(jù)風(fēng)險(xiǎn)應(yīng)對(duì)策略，確定的具體風(fēng)險(xiǎn)控制節(jié)點(diǎn)，需要開(kāi)發(fā)者內(nèi)部具體落實(shí)的措施。
此外，生成式AI應(yīng)用風(fēng)險(xiǎn)事件庫(kù)也是一個(gè)值得借鑒的行業(yè)實(shí)踐。AI風(fēng)險(xiǎn)事件數(shù)據(jù)庫(kù)通過(guò)整理和分析生成式AI商業(yè)化應(yīng)用的開(kāi)發(fā)和部署在現(xiàn)實(shí)商業(yè)領(lǐng)域中造成的或可能造成不良后果或者損害的情況，形成相應(yīng)數(shù)據(jù)庫(kù)。
（文章來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）
標(biāo)簽：
