當(dāng)?shù)貢r間周二（5月16日），“ChatGPT之父”山姆·阿爾特曼（Sam Altman）首次在美國國會作證，他呼吁美政府對人工智能（AI）技術(shù)進行更嚴(yán)厲的監(jiān)管，并表示他掌管的OpenAI以及谷歌等同行都應(yīng)當(dāng)承受壓力。Altman呼吁國會對AI系統(tǒng)采取安全標(biāo)準(zhǔn)。
據(jù)澎湃新聞5月15日報道，阿爾特曼在最新的訪談中表示，可以建立一個類似于國際原子能機構(gòu)的AI機構(gòu)，讓每個人都參與到對極其強大的AI訓(xùn)練系統(tǒng)的全球監(jiān)管機構(gòu)中來。在訪談中，奧特曼還談到了自己如何使用ChatGPT，開源AI與閉源AI各自的特點與發(fā)展路徑。他認為，帶有人類反饋的強化學(xué)習(xí)（RLHF）不是正確的長期解決方案。
提議頒發(fā)AI開發(fā)許可
(資料圖片)
在這場美國參議院司法委員會舉行的聽證會上，Altman做開場白時就指出：“我們認為，對于減少日益強大的模型的風(fēng)險而言，政府的監(jiān)管干預(yù)至關(guān)重要?！?/p>
他認為，美國政府可以監(jiān)管AI行業(yè)的一種方式是，為開發(fā)功能最強大的AI系統(tǒng)的公司，實行持牌制度。如果有公司要開發(fā)和發(fā)布超出能力閥值的AI模型，政府可以將發(fā)放牌照和測試的要求結(jié)合起來，對他們予以監(jiān)管。
他還提到一種可能采取的解決方案，建立一個國際性的監(jiān)管方委員會，由美國領(lǐng)導(dǎo)。
Altman稱：“我最擔(dān)心的是（AI行業(yè)）會對世界造成重大傷害”。他說，AI可能被用于操縱選民以及有針對性的假消息是他“最關(guān)心的一些領(lǐng)域”，尤其是因為美國“明年將面臨選舉，而這些（AI）模型正在變得更好?！?/p>
同時，阿爾特曼還說道，ChatGPT-4將使一些工作實現(xiàn)自動化，同時將帶來新的工作機會。他還透露，目前公司并沒有訓(xùn)練GPT-5，未來六個月也沒有這方面的計劃。
據(jù)財聯(lián)社5月17日報道，與之前準(zhǔn)備好的證詞一致，阿爾特曼對監(jiān)管政策的初步建議主要集中在“AI開發(fā)許可”上。如此一來，只有獲得過許可的企業(yè)，才能發(fā)布新的人工智能模型并進行一系列測試。
一同出席聽證會的IBM首席隱私和信任官克里斯蒂娜.蒙哥馬利認為，應(yīng)該要求人工智能產(chǎn)品在與用戶互動時保持透明可信。
她還告訴議員，雖然國會尚未設(shè)定相關(guān)要求，但IBM內(nèi)部已經(jīng)組建了AI道德委員會。
歐盟欲出臺全球首個AI法案
據(jù)第一財經(jīng)5月13日消息，歐洲議會正就全球首部人工智能（AI）法案展開大規(guī)模協(xié)商，光修正案就有一千多項，創(chuàng)下了歐洲議會史上之最。當(dāng)?shù)貢r間11日，歐洲議會內(nèi)部市場委員會和公民自由委員會以84票贊成、7票反對和12票棄權(quán)通過關(guān)于《AI法案》的談判授權(quán)草案，其中包含了有關(guān)面部識別、生物識別監(jiān)控和其他AI應(yīng)用使用的新規(guī)則，并提出了嚴(yán)格監(jiān)管ChatGPT等AI工具的新思路。
領(lǐng)導(dǎo)上述法案制定的歐洲議會議員土多拉舍（DragoTudorache）表示，歐盟的《AI法案》是全球首個此類立法，“歐盟可以在全球范圍內(nèi)帶頭使AI以人為本，（變得）值得信賴和安全”。
目前的提案采取了分級管理的思路，即基于AI的四個等級（從風(fēng)險最小到不可接受），進行區(qū)別管理，風(fēng)險較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的規(guī)則，需要更高的透明度和準(zhǔn)確性。
歐洲議會認為，對人類安全造成不可接受風(fēng)險的AI系統(tǒng)將被嚴(yán)格禁止，包括部署潛意識或有目的操縱技術(shù)、利用人們?nèi)觞c或用于社會評分的系統(tǒng)。
根據(jù)目前的時間表，該法案將于6月提交歐洲議會全體表決，之后歐洲議會、歐盟理事會和歐盟委員會的代表將在“三方”會談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。
除了歐洲，全球各地越來越擔(dān)心快速發(fā)展的AI技術(shù)可能被濫用。美國聯(lián)邦貿(mào)易委員會此前發(fā)出警告，稱“正在密切關(guān)注公司如何選擇使用AI技術(shù)，包括新的生成人工智能工具，以及對消費者產(chǎn)生實際和實質(zhì)性影響的方式”。
據(jù)環(huán)球網(wǎng)報道，5月4日，拜登政府則宣布對“值得信賴的”人工智能增加新投資。同日，美國副總統(tǒng)哈里斯以及多位白宮高級官員與谷歌、微軟、OpenAI和AI初創(chuàng)公司Anthropic的首席執(zhí)行官會面，集中討論當(dāng)前和近期的技術(shù)發(fā)展所帶來的風(fēng)險。
（文章來源：每日經(jīng)濟新聞）
標(biāo)簽：
