| |
| |
| 超89%的學(xué)生使用ChatGPT作弊！斯坦福率先打響反擊戰(zhàn) |
| |
編譯 | 卜金婷
在去年的一篇雷帕霉素抗老應(yīng)用的論文中，ChatGPT被列為改論文的一作，引發(fā)了業(yè)內(nèi)的爭(zhēng)議。
人工智能實(shí)驗(yàn)室OpenAI于去年11月發(fā)布ChatGPT，這種聊天機(jī)器人能根據(jù)簡(jiǎn)短的提示生成文采斐然的文字。
現(xiàn)在，人們用它來(lái)寫情書、詩(shī)歌、小說，甚至還有他們的課程作業(yè)。ChatGPT的爆火，顯然已經(jīng)對(duì)高校教育工作者帶來(lái)了挑戰(zhàn)。
這不，北美密歇根大學(xué)哲學(xué)系教授Antony Aumann就遇到了這樣的教學(xué)問題。
上個(gè)月，Aumann在為他的世界宗教課程批改論文時(shí)，驚喜地讀到了一篇他所謂的 “全班最好的論文”。
這篇論文以簡(jiǎn)潔的段落、恰當(dāng)?shù)睦雍蛧?yán)謹(jǐn)?shù)恼撟C，探討了罩袍禁令的道德問題。但，Aumann對(duì)這篇文章存在質(zhì)疑。隨后，Aumann質(zhì)問學(xué)生這篇論文是否他本人所寫。最終，這名學(xué)生承認(rèn)使用了ChatGPT。這令A(yù)umann大為震驚。最終他決定改變他的課程論文寫作方式，他要求學(xué)生們使用受訪問限制的瀏覽器，并且在教室里完成初稿。在隨后的草稿中，學(xué)生們必須解釋每一次修改的理由。Aumann表示，他可能會(huì)在以后的學(xué)期中放棄論文的考核方式，他還計(jì)劃將ChatGPT納入課程，比如要求學(xué)生評(píng)估ChatGPT的回答。在全美范圍內(nèi)，很多大學(xué)教授、系主任和行政人員正在開始全面改革教案，以應(yīng)對(duì)ChatGPT對(duì)教學(xué)活動(dòng)的影響。一些教授正在重新設(shè)計(jì)他們的課程，更多地采用口試、小組合作和手寫文章作為考核方式，而不是在電腦上撰寫文章。超過89%的學(xué)生曾使用ChatGPT作弊
隨著ChatGPT的發(fā)展，學(xué)生和教師都開始意識(shí)到它在學(xué)術(shù)界的用途。目前，TikToks推廣其在論文寫作和其他學(xué)校作業(yè)中的應(yīng)用，話題已經(jīng)轉(zhuǎn)向這種開創(chuàng)性的AI對(duì)高等教育造成的影響，導(dǎo)致許多人考慮禁止其使用。近日，Study.com調(diào)查了100多名教育工作者和1000多名學(xué)生對(duì)使用ChatGPT的看法。調(diào)查顯示，其中超過89%的學(xué)生曾使用ChatGPT幫助他們完成家庭作業(yè)。除此之外，48%的學(xué)生承認(rèn)使用ChatGPT來(lái)完成家庭測(cè)試，53%的學(xué)生使用它寫論文，22%的學(xué)生使用它寫論文提綱。令人驚訝的是，72%的大學(xué)生認(rèn)為ChatGPT應(yīng)該在學(xué)校中被禁止，表明學(xué)生同樣擔(dān)心作弊成為常態(tài)。此外，超過三分之一（34%）的教育工作者認(rèn)為ChatGPT應(yīng)該在學(xué)校中被禁止。教育工作者擔(dān)心AI對(duì)學(xué)生的教育產(chǎn)生重大影響是可以理解的，他們正在求助于AI檢測(cè)應(yīng)用程序，試圖檢測(cè)出學(xué)生是否使用ChatGPT作弊。斯坦福團(tuán)隊(duì)推出DetectGPT
為應(yīng)對(duì)大型語(yǔ)言模型（LLMs）生成文本工具的“入侵”，斯坦福大學(xué)的一個(gè)研究團(tuán)隊(duì)提出了名為DetectGPT的新方法，旨在成為首批打擊高等教育中LLMs生成文本工具之一。
?
研究團(tuán)隊(duì)基于“LLM 生成的文本通常徘徊（hover around）在模型的對(duì)數(shù)概率函數(shù)的負(fù)曲率區(qū)域的特定區(qū)域周圍”這一發(fā)現(xiàn)，提出了一種用于判別 LLM 生成文本的新指標(biāo)，這一方法既不需要訓(xùn)練單獨(dú)的分類器，也不需要收集真實(shí)或生成的段落的數(shù)據(jù)集。該團(tuán)隊(duì)在假新聞文章的數(shù)據(jù)集上測(cè)試了DetectGPT，它在檢測(cè)機(jī)器生成的文本方面的表現(xiàn)優(yōu)于其他方法。他們發(fā)現(xiàn)DetectGPT 可以將20B參數(shù)GPT-NeoX生成的假新聞文章的檢測(cè)從0.81 AUROC提高到0.95 AUROC。研究團(tuán)隊(duì)表示，這一方法在檢測(cè)機(jī)器生成的文本方面優(yōu)于其他零樣本方法，或在未來(lái)的機(jī)器生成文本檢查方面非常有前途。另外，他們也將嘗試將這一方法用于 LLM 生成的音頻、視頻和圖像的檢測(cè)工作中。隨著LLMs的不斷使用，檢測(cè)機(jī)器生成文本的相應(yīng)系統(tǒng)的重要性將變得越來(lái)越關(guān)鍵。總之，DetectGPT是一種不需要任何額外數(shù)據(jù)或訓(xùn)練的零散方法，是識(shí)別機(jī)器生成文本的有效工具。https://www.nytimes.com/2023/01/16/technology/chatgpt-artificial-intelligence-universities.htmlhttps://www.neowin.net/news/stanford-introduces-detectgpt-to-help-educators-fight-back-against-chatgpt-generated-papers/https://arxiv.org/abs/2301.11305
<script src="/html/js/share.js" type="text/javascript"></script>
(資料圖片)
