前段時(shí)間，由人工智能研究實(shí)驗(yàn)室OpenAI所發(fā)布的全新聊天機(jī)器人模型ChatGPT在全球范圍內(nèi)引起了一股熱潮，在強(qiáng)大的AI學(xué)習(xí)幫助下，ChatGPT甚至還能幫助大學(xué)生潤(rùn)色乃至生成論文。日前，斯坦福大學(xué)的一個(gè)研究小組提出了一種名為 DetectGPT 的新方法，旨在成為打擊高等教育中機(jī)器生成文本的首批工具之一。
該方法基于的原理是：由 LLM 生成的文本通常在模型的對(duì)數(shù)概率函數(shù)的負(fù)曲率區(qū)域的特定區(qū)域徘徊。通過這個(gè)發(fā)現(xiàn)，該團(tuán)隊(duì)開發(fā)了一種新的指標(biāo)，用于判斷文本是否是機(jī)器生成的，并且不需要訓(xùn)練人工智能或收集大型數(shù)據(jù)集來比較文本。
這種方法被稱為“零次學(xué)習(xí)(zero-shot)”，允許 DetectGPT 檢測(cè)機(jī)器寫的文本，而不需要了解用于生成文本的是什么人工智能工具。它的操作與其他需要訓(xùn)練“分類器”和真實(shí)及生成段落數(shù)據(jù)集的方法形成鮮明對(duì)比。
據(jù)了解，該團(tuán)隊(duì)在假新聞文章的數(shù)據(jù)集上測(cè)試了 DetectGPT，它在檢測(cè)機(jī)器生成的文本方面的表現(xiàn)優(yōu)于其他零次學(xué)習(xí)方法。該團(tuán)隊(duì)聲稱檢測(cè)性能有了實(shí)質(zhì)性的提高，并表明 DetectGPT 可能是一種有前途的方法，可以仔細(xì)檢查機(jī)器生成的文本。
無獨(dú)有偶，除了斯坦福大學(xué)外，美國(guó)紐約的教育部門也發(fā)現(xiàn)了ChatGPT可能帶來的某種危害，其在不久前開始禁止全市的學(xué)生和教師在教育部設(shè)備或互聯(lián)網(wǎng)上訪問ChatGPT。弗曼大學(xué)哲學(xué)助理教授Darren Hick曾表示，ChatGPT的免費(fèi)和即時(shí)性，及其超強(qiáng)的自然語言處理能力，令很多學(xué)生動(dòng)了“歪腦筋”，他們會(huì)將有關(guān)文字寫作的作業(yè)，交由ChatGPT來完成，而一般人幾乎難以分辨真人和機(jī)器所寫的文章有何不同。
以上就是斯坦福大學(xué)推出DetectGPT的相關(guān)內(nèi)容。如果您對(duì)美國(guó)留學(xué)感興趣，歡迎您在線咨詢托普仕留學(xué)老師，托普仕留學(xué)專注美國(guó)前30高校申請(qǐng)，助力國(guó)內(nèi)學(xué)子順利獲得美國(guó)藤校入讀資格。
熱門資訊：
相關(guān)推薦
最新資訊