ChatGPT寫的論文,有多少被發表了?搜完谷歌學術後我慌

連「作為一個大模型……」這樣的AI 語都忘了刪就提交,結果還過審發表了。

ChatGPT 出現以後,很多學術機構都發出了禁令,因為這種AI 雖然生成能力強,但有時會胡說八道,濫用大模型寫文章也違背了做研究的初衷。

但隨著大模型的應用浪潮,我們很快忘記了剛開始的恐懼。有學術機構正在解禁,微軟也計劃在年內把ChatGPT 整合到Office 全家桶裡。或許過不了多久,人人都可以用大模型去寫文章。

**這讓人不得不去想像以後的學術論文會被AI 生成的內容衝擊成什麼樣。 **其實,這種事可能已經在發生了。

今天,有個斯坦福本科生在谷歌學術搜索(Google Scholar)上就發現了這類「渾水摸魚」的摻假論文。

當你輸入「“As an AI language model” -“ChatGPT”」搜索時,會搜到很多直接將ChatGPT 答案貼上去的論文。

比如下面這篇經過同行評審、發表在《國際工程與技術創新期刊》的論文中,作者似乎遺漏了一個重要的合著者—— AI 語言模型(ChatGPT)。

**突出一個投者無心,審稿故意。 **

另外一篇經過同行評審、發表在《網絡銀行和商業雜誌》上的論文,題目為《基於反向傳播神經網絡和梯度下降的股價預測》,同樣有不存在的作者——ChatGPT。

開篇就是AI,看上去讓人忍俊不禁。

類似例子還有很多,比如下面兩篇分別發表在《國際現代農業和環境期刊》和《技術創新和能源雜誌》上的論文。

更離譜的是,下面這篇發表在《國際高級工程和土木研究期刊》的論文,ChatGPT 甚至引用了作者X 和Y 的一篇虛假(fake)文章。

除了參與論文撰寫之外,ChatGPT 還參與了一些書籍的寫作,比如下面的《性知識入門》和《利比亞概覽》。

機器之心也在谷歌學術中輸入「“As an AI language model” -“ChatGPT”」,結果出現了10 個頁面,有100 篇左右。

Andrew Kean Gao 的發現在推特(X)上吸引了上百萬人的圍觀,Google Scholar 似乎對此很快做出了反應。 **最新的情況是:很多能被搜到的AI 文章只有名字,不給鏈接了。 **不過必須要說的是,這距離真正的「整頓」還差的挺遠。

在AI 領域,大模型的發展速度以天為計,學術期刊的審稿規則為了應對也在急速變化。此前,很多期刊、會議禁止將ChatGPT 列為合著者。

其中《科學》雜誌明確表示不接受ChatGPT 生成的論文,也不允許ChatGPT 作為論文作者。 《自然》雜誌則表示可以使用ChatGPT 等大語言模型工具撰寫論文,但也禁止列為論文合著者。

對於這位斯坦福本科生的發現,有人揶揄道,**你不會以為人們在發表論文之前會再通讀一遍吧。 **也有人再補了一刀,在發表之前讓ChatGPT 再讀一遍。

**或許真正的問題在於,這些論文是如何通過編輯審核或同行評審的。 **

**最後有人一語道破天機,表示這些都是四級(four-tier)期刊,只要付錢啥都可以發表,都是一些毫無意義的垃圾。 **

至少目前來說,ChatGPT 生成的論文還沒造成太大影響。就是不知這種工具在Office 上真正流行起來,學術界會變成什麼樣子。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)