近年來(lái)，隨著人工智能算法不斷迭代升級(jí)，尤其是機(jī)器學(xué)習(xí)賦予人工智能強(qiáng)大的學(xué)習(xí)能力，使其不再局限于只能依據(jù)事先指定的模板或者規(guī)則，進(jìn)行簡(jiǎn)單的內(nèi)容輸出和制作，而是能夠根據(jù)用戶提出的指令即可生成靈活且真實(shí)的內(nèi)容，甚至能夠?qū)崿F(xiàn)高質(zhì)量的內(nèi)容創(chuàng)作，這類(lèi)技術(shù)也被稱(chēng)為人工智能生成內(nèi)容(AIGC)。
(資料圖片僅供參考)
近期爆火的ChatGPT就是AIGC的典型代表，該技術(shù)是基于語(yǔ)言模型GPT-3.5的聊天機(jī)器人，ChatGPT模型使用一種稱(chēng)為人類(lèi)反饋強(qiáng)化學(xué)習(xí)(RLHF)的機(jī)器學(xué)習(xí)進(jìn)行訓(xùn)練，可以模擬對(duì)話、回答后續(xù)問(wèn)題、承認(rèn)錯(cuò)誤、挑戰(zhàn)不正確的前提并拒絕不適當(dāng)?shù)恼?qǐng)求。雖然，此前不乏能夠與人進(jìn)行互動(dòng)對(duì)話的聊天機(jī)器人，但并沒(méi)有像ChatGPT一樣受到廣泛關(guān)注，是因?yàn)榕c其他聊天機(jī)器人相比，ChatGPT具有更強(qiáng)大的功能，借助其核心技術(shù)之一“Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu)”，利用從大型文本語(yǔ)料庫(kù)中所學(xué)到的內(nèi)容，能夠生成具有更豐富細(xì)節(jié)和更長(zhǎng)篇幅的內(nèi)容，可以完成包括寫(xiě)郵件、寫(xiě)代碼、寫(xiě)新聞報(bào)道以及寫(xiě)論文等多種任務(wù)，且任何人都可以輕松地使用，具有開(kāi)放性、跨領(lǐng)域及通用性的特征，其本身可以構(gòu)成網(wǎng)絡(luò)信息技術(shù)領(lǐng)域的終端，成為支撐人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的一種關(guān)鍵基礎(chǔ)設(shè)施。由此，ChatGPT也引發(fā)了全球各界的廣泛關(guān)注甚或擔(dān)憂。
潛在風(fēng)險(xiǎn)
ChatGPT強(qiáng)大的功能以及較低的使用門(mén)檻，打破了人們對(duì)人工智能的固有印象，且讓人們看到了AIGC技術(shù)在多領(lǐng)域應(yīng)用的巨大潛力。然而，隨著ChatGPT爆火掀起新一輪AIGC熱潮，也讓人們意識(shí)到其中潛在的諸如技術(shù)壟斷、資本擴(kuò)張、數(shù)據(jù)濫用、算法歧視、隱私侵權(quán)等法律風(fēng)險(xiǎn)，可能對(duì)市場(chǎng)競(jìng)爭(zhēng)、企業(yè)創(chuàng)新、消費(fèi)者福利甚或國(guó)家安全產(chǎn)生負(fù)面影響。為預(yù)防此類(lèi)技術(shù)廣泛適用帶來(lái)的法律風(fēng)險(xiǎn)，需結(jié)合ChatGPT的技術(shù)特性以及其在不同領(lǐng)域應(yīng)用的情況，分析存在的法律問(wèn)題并做好相應(yīng)對(duì)策。
其一，ChatGPT可能存在“技術(shù)+資本”的壟斷風(fēng)險(xiǎn)。
雖然，ChatGPT是由初創(chuàng)公司OpenAI開(kāi)發(fā)，并非出自微軟、谷歌等科技巨頭，但是，OpenAI創(chuàng)始人表示，ChatGPT的開(kāi)放成本和運(yùn)行成本相當(dāng)高，致使其開(kāi)發(fā)和運(yùn)維成本非一般初創(chuàng)型企業(yè)可以承擔(dān)。相關(guān)資料顯示，GPT-3訓(xùn)練一次的費(fèi)用是460萬(wàn)美元，總訓(xùn)練成本達(dá)1200萬(wàn)美元。高昂的成本使得初創(chuàng)公司難以實(shí)現(xiàn)獨(dú)立的開(kāi)發(fā)和運(yùn)營(yíng)，必須與科技巨頭合作，才能獲得運(yùn)營(yíng)所需的極其昂貴的數(shù)據(jù)資源和云計(jì)算能力。
在此情況下，OpenAI選擇與微軟達(dá)成合作，得到了微軟10億美元的投資，并專(zhuān)門(mén)為微軟新必應(yīng)(New Bing)搜索引擎專(zhuān)門(mén)定制了下一代大型語(yǔ)言模型。這在很大程度上預(yù)示著該領(lǐng)域市場(chǎng)在未來(lái)存在著被微軟、谷歌等科技巨頭壟斷數(shù)據(jù)、算法及技術(shù)要素資源的風(fēng)險(xiǎn)，因?yàn)槌鮿?chuàng)企業(yè)在該領(lǐng)域難以獨(dú)立生存，而科技巨頭可憑借其擁有的數(shù)據(jù)、技術(shù)、資本、用戶等優(yōu)勢(shì)，通過(guò)收購(gòu)、簽訂協(xié)議等方式獲得初創(chuàng)企業(yè)的技術(shù)，將其在原有市場(chǎng)的市場(chǎng)力量迅速傳導(dǎo)至新的市場(chǎng)，還可能通過(guò)實(shí)施技術(shù)封鎖、數(shù)據(jù)屏蔽等排除限制競(jìng)爭(zhēng)的行為以維持壟斷地位。
其二，ChatGPT可能存在算法偏見(jiàn)。
目前，ChatGPT仍存在一定的技術(shù)缺陷，其依賴于其訓(xùn)練數(shù)據(jù)中的統(tǒng)計(jì)規(guī)律，無(wú)法在網(wǎng)絡(luò)上抓取實(shí)時(shí)信息，也無(wú)法識(shí)別核實(shí)數(shù)據(jù)來(lái)源，易導(dǎo)致算法歧視、濫用現(xiàn)象的出現(xiàn)，因?yàn)橛?xùn)練數(shù)據(jù)受限于數(shù)據(jù)的種類(lèi)和內(nèi)容的不足，使數(shù)據(jù)集可能存在某種價(jià)值偏見(jiàn)，則ChatGPT算法的輸出結(jié)果可能會(huì)產(chǎn)生有害的指引或者有偏見(jiàn)的內(nèi)容。這種算法偏見(jiàn)產(chǎn)生的負(fù)面影響會(huì)隨著技術(shù)的廣泛應(yīng)用不斷凸顯。
譬如，ChatGPT給予的答復(fù)中存在性別歧視和種族歧視的問(wèn)題，可能會(huì)誤導(dǎo)使用者將具有歧視性的回答視為“正確答案”而作出錯(cuò)誤的決斷，從而可能會(huì)對(duì)社會(huì)認(rèn)知和倫理產(chǎn)生負(fù)面影響，甚至涉及國(guó)家安全、文化安全的風(fēng)險(xiǎn)。特別是在處理算法包容性的問(wèn)題上，由于中西文化的根源及演進(jìn)路徑不同，還會(huì)涉及對(duì)傳統(tǒng)文化和現(xiàn)實(shí)觀照之間的解讀、評(píng)價(jià)及傳播的問(wèn)題，這些都可能會(huì)在ChatGPT的大規(guī)模語(yǔ)言模型訓(xùn)練中被忽視或者選擇性忽略掉，亦有可能被特意地放大。為此，需要通過(guò)法律規(guī)則和科技倫理規(guī)則的融合，以穩(wěn)妥地處理技術(shù)應(yīng)用與技術(shù)規(guī)制之間的關(guān)系。
其三，ChatGPT可能引發(fā)著作權(quán)糾紛。
ChatGPT作為人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，它能夠通過(guò)學(xué)習(xí)和理解人類(lèi)的語(yǔ)言來(lái)進(jìn)行對(duì)話或?qū)懽?，并不是?jiǎn)單地從某個(gè)模板中選擇內(nèi)容，可以根據(jù)使用者提出的問(wèn)題或者要求，進(jìn)行內(nèi)容創(chuàng)作，甚至已有研究者和學(xué)生借助ChatGPT撰寫(xiě)論文，由此衍生出了關(guān)于著作權(quán)的兩方面問(wèn)題亟待解決。一是ChatGPT撰寫(xiě)論文的著作權(quán)歸屬問(wèn)題，二是研究者使用ChatGPT撰寫(xiě)論文是否構(gòu)成學(xué)術(shù)不端的問(wèn)題。這些問(wèn)題給學(xué)術(shù)圈帶來(lái)了巨大的沖擊，也引發(fā)了學(xué)者們對(duì)如何規(guī)范使用此類(lèi)技術(shù)的探討。這方面已經(jīng)在有的國(guó)家和地區(qū)的現(xiàn)實(shí)反饋中予以體現(xiàn)，譬如，全球?qū)W術(shù)頂刊《自然》(Nature)雜志一周之內(nèi)兩次發(fā)布有關(guān)ChatGPT的分析文章，探討諸如ChatGPT等大型語(yǔ)言模型(LLMs)給學(xué)術(shù)圈帶來(lái)的潛在混亂，生成內(nèi)容存在的潛在侵權(quán)，以及如何規(guī)范使用等問(wèn)題。
其四，ChatGPT可能存在數(shù)據(jù)安全隱患。
ChatGPT的運(yùn)行需要大量數(shù)據(jù)的支持，其所采用的數(shù)據(jù)量多達(dá)上萬(wàn)億，主要使用的是公共爬蟲(chóng)數(shù)據(jù)集和有著超過(guò)萬(wàn)億單詞的人類(lèi)語(yǔ)言數(shù)據(jù)集。根據(jù)ChatGPT和OpenAI官網(wǎng)的《隱私政策》可以看到，用戶在使用ChatGPT時(shí)，會(huì)被采集有關(guān)用戶訪問(wèn)、使用或互動(dòng)的信息，相關(guān)負(fù)責(zé)人也表示，ChatGPT會(huì)使用每個(gè)客戶的一小部分?jǐn)?shù)據(jù)樣本來(lái)提高模型性能，用戶若不希望數(shù)據(jù)用于提高性能，需要通過(guò)郵件向OpenAI發(fā)送申請(qǐng)。這意味著，包含用戶隱私以及用戶對(duì)話的數(shù)據(jù)可能會(huì)被OpenAI采集并存儲(chǔ)在其數(shù)據(jù)中心，隨著ChatGPT用戶數(shù)量暴增，其采集和存儲(chǔ)的用戶數(shù)據(jù)量也將非常龐大。
雖然，ChatGPT表示，存儲(chǔ)訓(xùn)練和運(yùn)行模型所需的數(shù)據(jù)會(huì)嚴(yán)格遵守隱私和安全政策，但在未來(lái)可能出現(xiàn)的網(wǎng)絡(luò)攻擊和數(shù)據(jù)爬取等現(xiàn)象下，仍存在不可忽視的數(shù)據(jù)安全隱患。特別是對(duì)涉及國(guó)家核心數(shù)據(jù)、地方和行業(yè)重要數(shù)據(jù)以及個(gè)人隱私數(shù)據(jù)的抓取、處理以及合成使用等過(guò)程中的安全保護(hù)與流動(dòng)共享的平衡處置，這不僅涉及數(shù)據(jù)安全，還涉及國(guó)家安全、行業(yè)安全及個(gè)人安全等。
正視背后問(wèn)題，未雨綢繆
目前，雖然ChatGPT暫未向中國(guó)開(kāi)放，但如騰訊、百度等眾多國(guó)內(nèi)科技巨頭紛紛表示將研發(fā)類(lèi)ChatGPT的產(chǎn)品，因此，當(dāng)前ChatGPT潛在的法律風(fēng)險(xiǎn)在未來(lái)也同樣可能會(huì)在我國(guó)出現(xiàn)，因此，必須正視ChatGPT產(chǎn)品爆火背后存在的問(wèn)題，否則將可能引發(fā)對(duì)AIGC的信任危機(jī)，不利于我國(guó)AIGC相關(guān)產(chǎn)業(yè)的規(guī)范持續(xù)健康發(fā)展。
首先，需要完善AIGC領(lǐng)域的反壟斷法監(jiān)管。
一方面，需進(jìn)一步優(yōu)化和明確AIGC領(lǐng)域的反壟斷法相關(guān)監(jiān)管規(guī)則，提高反壟斷法律法規(guī)在相關(guān)應(yīng)用場(chǎng)景的適用性。為此，仍然需要堅(jiān)持且完善以替代分析法為主的相關(guān)市場(chǎng)界定方法，充分考量AIGC類(lèi)產(chǎn)品的功能與技術(shù)特性，并在認(rèn)定其市場(chǎng)支配地位的過(guò)程中，提高與支持AIGC相關(guān)的技術(shù)因素、硬件條件、場(chǎng)景因素，尤其是算法、數(shù)據(jù)、算力等要素優(yōu)勢(shì)的考量比重。在判定行為競(jìng)爭(zhēng)效果時(shí)，需權(quán)衡行為的積極和消極影響，兼顧激勵(lì)創(chuàng)新與保護(hù)競(jìng)爭(zhēng)，在評(píng)估行為的負(fù)面影響的同時(shí)，也需考量行為對(duì)創(chuàng)新、經(jīng)濟(jì)效率以及消費(fèi)者體驗(yàn)等積極影響。
另一方面，由于傳統(tǒng)反壟斷法的事后規(guī)制存在滯后性和局限性，難以有效應(yīng)對(duì)動(dòng)態(tài)變化和高技術(shù)性的AIGC領(lǐng)域的市場(chǎng)壟斷問(wèn)題，因此，有必要分類(lèi)分級(jí)、科學(xué)審慎地引入反壟斷事前監(jiān)管方式，通過(guò)設(shè)置技術(shù)、資本、用戶等條件，抓住具體要素治理的綱目，明確AIGC領(lǐng)域需承擔(dān)特殊義務(wù)的平臺(tái)企業(yè)，設(shè)置行為“紅黃綠燈”，聚焦用戶、數(shù)據(jù)、算力、資本等可計(jì)量指標(biāo)，從事前層面規(guī)范和約束相關(guān)平臺(tái)企業(yè)的行為，預(yù)防可能出現(xiàn)的扼殺式經(jīng)營(yíng)者集中、算法(壟斷)協(xié)議以及濫用市場(chǎng)支配地位等反競(jìng)爭(zhēng)風(fēng)險(xiǎn)。
其次，要健全預(yù)防算法歧視的法律法規(guī)體系及規(guī)制機(jī)制。
一是要從源頭上規(guī)范相關(guān)技術(shù)所使用訓(xùn)練數(shù)據(jù)樣本的非歧視性，要求相關(guān)企業(yè)及時(shí)檢查和更新數(shù)據(jù)庫(kù)，并移除可能存在歧視性的特定數(shù)據(jù)內(nèi)容。二是要建立AIGC技術(shù)的算法問(wèn)責(zé)制度，當(dāng)AIGC生成的歧視性內(nèi)容對(duì)社會(huì)以及相關(guān)主體的權(quán)益產(chǎn)生實(shí)質(zhì)損害時(shí)，有必要完善相應(yīng)的歸責(zé)體系，明確導(dǎo)致算法歧視的責(zé)任主體以及各主體應(yīng)承擔(dān)的法律責(zé)任。三是要完善算法解釋與算法備案制度，提升人工智能算法透明度，并根據(jù)AIGC的應(yīng)用場(chǎng)景對(duì)算法進(jìn)行分級(jí)，加強(qiáng)對(duì)高風(fēng)險(xiǎn)算法和場(chǎng)景的審查，在可行的范圍內(nèi)使用可理解和可解釋的方法，以便用戶、監(jiān)督者和公眾酌情了解AIGC如何以及為何產(chǎn)生其輸出內(nèi)容。
再次，要規(guī)范AIGC技術(shù)在進(jìn)行內(nèi)容創(chuàng)作時(shí)的行為。
一方面，要完善AIGC著作權(quán)歸屬相關(guān)規(guī)則。根據(jù)我國(guó)著作權(quán)法，人工智能暫不被視為著作權(quán)人，但可根據(jù)不同主體對(duì)生成內(nèi)容價(jià)值的作用大小判定AIGC作品的著作權(quán)歸屬。這一點(diǎn)在司法實(shí)踐中已有體現(xiàn)，譬如，在騰訊訴網(wǎng)貸之家案中，法院經(jīng)過(guò)審理最終裁定，爭(zhēng)訴的作品《午評(píng)：滬指小幅上漲0.11%報(bào)2671.93點(diǎn)通信運(yùn)營(yíng)、石油開(kāi)采等板塊領(lǐng)漲》確系A(chǔ)I所創(chuàng)作，涉及的內(nèi)容判定為具有獨(dú)創(chuàng)性，AI生成的作品具有著作權(quán)。雖然，AI尚不具有法律上的著作權(quán)人資格，但是，AI是由人設(shè)計(jì)創(chuàng)造，即其擁有者(AI copyright owner)可以享有其作品的相關(guān)著作權(quán)利，最后法院認(rèn)定騰訊公司可享有相關(guān)信息網(wǎng)絡(luò)傳播權(quán)，這是國(guó)內(nèi)首例有關(guān)AI作品著作權(quán)保護(hù)的案件。
進(jìn)言之，ChatGPT 生成內(nèi)容的價(jià)值源于其設(shè)計(jì)者算法的巧妙設(shè)計(jì)，則設(shè)計(jì)者擁有ChatGPT 生成著作的權(quán)利，工具使用者不得濫用或者非法使用ChatGPT 生成內(nèi)容。若ChatGPT的最終生成內(nèi)容是經(jīng)由工具使用者反復(fù)調(diào)適，輸入變量等操作，使生成內(nèi)容的價(jià)值遠(yuǎn)大于其在一般運(yùn)行狀態(tài)下生成的內(nèi)容，則工具的使用者可以享有著作權(quán)。
另一方面，為避免學(xué)術(shù)不端問(wèn)題的出現(xiàn)，需要制定AIGC技術(shù)在學(xué)術(shù)寫(xiě)作的使用規(guī)范，明確可使用范圍和限度，并要求在文中規(guī)范標(biāo)注ChatGPT技術(shù)生成的內(nèi)容；在技術(shù)層面，需要基于ChatGPT技術(shù)生產(chǎn)內(nèi)容的邏輯與特征，加強(qiáng)對(duì)ChatGPT生成內(nèi)容的鑒別和識(shí)別。
最后，要從制度和技術(shù)層面加強(qiáng)AIGC領(lǐng)域的數(shù)據(jù)安全保護(hù)。
在制度層面，需要結(jié)合AIGC底層技術(shù)所需數(shù)據(jù)的特性和作用，建立健全數(shù)據(jù)分類(lèi)分級(jí)保護(hù)制度，譬如可根據(jù)數(shù)據(jù)主體、數(shù)據(jù)處理程度、數(shù)據(jù)權(quán)利屬性等方面對(duì)訓(xùn)練數(shù)據(jù)集中進(jìn)行分類(lèi)管理，根據(jù)數(shù)據(jù)對(duì)于數(shù)據(jù)權(quán)利主體的價(jià)值，以及數(shù)據(jù)一旦遭到篡改、破壞等對(duì)數(shù)據(jù)主體的危害程度進(jìn)行分級(jí)。
在數(shù)據(jù)分類(lèi)分級(jí)的基礎(chǔ)上，建立與數(shù)據(jù)類(lèi)型和安全級(jí)別相配套的數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)與共享機(jī)制，同時(shí)，AIGC還涉及數(shù)據(jù)跨境流通問(wèn)題，應(yīng)當(dāng)在考慮國(guó)際通行標(biāo)準(zhǔn)和做法的基礎(chǔ)上，制定合理的跨境數(shù)據(jù)安全執(zhí)法規(guī)則，加強(qiáng)與其他國(guó)家和地區(qū)規(guī)則的銜接，促進(jìn)數(shù)據(jù)安全跨境執(zhí)法合作。在技術(shù)層面，需要加快推動(dòng)“隱私計(jì)算”技術(shù)在AIGC領(lǐng)域的應(yīng)用，這類(lèi)技術(shù)能夠讓多個(gè)數(shù)據(jù)擁有者在不暴露數(shù)據(jù)本身的前提下，通過(guò)共享SDK或者開(kāi)放SDK權(quán)限的方式，在進(jìn)行數(shù)據(jù)的共享、互通、計(jì)算、建模，在確保AIGC能夠正常提供服務(wù)的同時(shí)，保證數(shù)據(jù)不泄露給其他參與方。
以ChatGPT為代表的AIGC領(lǐng)域具有巨大的發(fā)展前景，能夠帶來(lái)更多數(shù)字化創(chuàng)新的發(fā)展機(jī)遇，也已成為未來(lái)全球競(jìng)爭(zhēng)與創(chuàng)新的重點(diǎn)方向，但我們也必須正視ChatGPT爆火背后潛在的法律風(fēng)險(xiǎn)，及時(shí)更新、科學(xué)完善AIGC領(lǐng)域的相關(guān)法律法規(guī)，建立健全相關(guān)行為規(guī)范和倫理指南，用系統(tǒng)觀念和法治思維及方法來(lái)推動(dòng)AIGC在我國(guó)規(guī)范健康持續(xù)發(fā)展。
(陳兵系南開(kāi)大學(xué)法學(xué)院副院長(zhǎng)、教授、博導(dǎo)，南開(kāi)大學(xué)競(jìng)爭(zhēng)法研究中心主任，中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員；林思宇系南開(kāi)大學(xué)法學(xué)院博士生)
（文章來(lái)源：第一財(cái)經(jīng)）
