當?shù)貢r間5月30日，推特發(fā)布公告稱將擴展其社區(qū)筆記系統(tǒng)，以標記被篡改和偽造的圖像。一周前，五角大樓爆炸的虛假圖片在該平臺上被病毒式傳播，推特推出這一新功能，旨在利用無償?shù)谋姲聦嵑瞬閬砜刂棋e誤信息和惡作劇。
該功能將允許用戶在推特的照片和視頻旁添加筆記，并為具有誤導性質(zhì)的內(nèi)容添加上下文和與該圖像相關(guān)的信息。
標記功能目前還處于測試階段，僅適用于包含單個圖像的推文。推特表示，計劃在不久的將來擴展該功能，以處理其他多媒體內(nèi)容，如動圖、視頻和多張圖片的推文。
【資料圖】
達到一定分數(shù)才能使用
在該公告發(fā)布一周前，一張五角大樓發(fā)生爆炸的AI生成圖片在推特上被廣泛傳播。這張圖片最先是由一個自稱和彭博社有關(guān)的賬號發(fā)出的，該賬號有一個“藍V”標志?！八{V”一直是賬號真實性的證明，但自從特斯拉CEO埃隆·馬斯克收購推特后，只要訂閱高級Twitter Blue服務就能得到這個標志。
推特在公告中表示，AI生成的虛假圖片已經(jīng)在平臺上像病毒一樣傳播，其中一些可能會引起人們的困惑或恐懼。在某些情況下，這些圖片不會帶來危害，但在五角大樓的案例中，虛假圖片對股市產(chǎn)生了真實的影響——引起了500億美元的市值變動。
此前，社區(qū)筆記對誤導性和虛假信息的檢查僅限于文本。而現(xiàn)在，貢獻者被允許添加媒體筆記（Notes on Media），即對圖像或視頻進行相關(guān)信息的注釋。
“社區(qū)筆記旨在通過授權(quán)推特用戶協(xié)作，為可能具有誤導性的推文添加上下文來創(chuàng)造一個信息更豐富的世界?！蓖铺卦诠嬷袑懙?，用戶對帶有社區(qū)筆記的推文的點贊和轉(zhuǎn)發(fā)率相較于沒有筆記的推文高15%到35%。
一旦用戶成為貢獻者，他們就可以開始添加筆記。要成為社區(qū)筆記的貢獻者，用戶必須首先證明自己有這個能力。為了確定這一點，推特給每個潛在的貢獻者分配了一個寫作影響力分數(shù)。分數(shù)從0開始，必須達到5分才能成為社區(qū)筆記的貢獻者，達到10分才能在圖像上添加社區(qū)筆記。用戶可以通過評級已有的筆記等方式來提高寫作影響力分數(shù)。
“他們的工作質(zhì)量可能導致他們失去貢獻者的身份。”推特表示，換句話說，如果有人通過遵守規(guī)則進入系統(tǒng)，然后利用貢獻者身份放大或傳播錯誤信息，就會被踢出貢獻者團隊，必須再次證明自己才能重新加入。
此前，社區(qū)筆記用戶添加的注釋會隨著推文的轉(zhuǎn)發(fā)和引用展示給其他人，但如果推文中的圖片出現(xiàn)在其他帖子中，該筆記就不存在了。推特稱，現(xiàn)在社區(qū)筆記將跟隨圖片出現(xiàn)。這意味著一個被標記的可疑圖片即使被其他用戶發(fā)到推特別處，旁邊也會有筆記。
一個被標記的可疑圖片即使被其他用戶發(fā)到別處，旁邊也會有筆記。
“在許多情況下，這些筆記可以提供有價值的上下文，不僅適用于一條推文，也適用于包含相同媒體的任何推文。”推特官方公告中寫道。
遭到質(zhì)疑
然而，推特對于能否將標記過的圖片與平臺上其他類似圖片進行匹配還缺乏信心。推特社區(qū)筆記團隊提醒道，新功能在匹配圖片時可能會出現(xiàn)誤報或漏報，“我們會努力調(diào)整這個功能，讓它覆蓋更多圖片，同時避免錯誤匹配?！?/p>
2022年底，馬斯克在收購推特不久后首次推出了社區(qū)筆記功能，這一功能基于該公司之前的“觀鳥（Birdwatch）”計劃，其目的是通過利用無償?shù)谋姲鼇砗藢嵧莆牡恼鎸嵭?，從而控制錯誤信息和惡作劇的傳播。
自馬斯克收購推特后，該平臺的內(nèi)容審核一直是一個關(guān)鍵問題。他在大規(guī)模裁員中砍掉了大部分內(nèi)容審核團隊的職位，但內(nèi)容審核卻是維持社交媒體網(wǎng)站正常運行、保持平臺吸引力和盈利能力的關(guān)鍵。
此外，即便有完整的內(nèi)容審核人員，推特也難以應對虛假信息的問題。信任和安全專家表示，分辨AI生成的圖像和視頻是專業(yè)工作者最擅長的內(nèi)容。推特想通過擴展筆記功能來讓用戶群參與內(nèi)容審核，但不幸的是，這些用戶并不以他們的紀律性或細節(jié)處理能力而聞名。
日本SmartNews的信任與安全主管阿瓊·納拉揚（Arjun Narayan）也在一次采訪中對這種做法表示擔心，“這種削弱專業(yè)團隊的做法可能會給公司帶來麻煩。”
（原標題：AI假造五角大樓爆炸圖片致股市波動，推特開啟眾包事實核查）
標簽：
