資訊專欄INFORMATION COLUMN
檢查內容是否用了ChatGPT，準確率高達99.9%！
OpenAI又左右互搏上了，給AI生成的文本打水印，高達99.9％準確率抓「AI槍手」作弊代寫。其能夠精準識別出論文或研究報告是否由ChatGPT撰寫，甚至能追溯其使用的具體時間點。它能專門用來檢測是否用ChatGPT水了論文/作業。
早在2022年11月（ChatGPT發布同月）就已經提出想法了。
但是！
這么好用的東西，卻被內部雪藏了2年，現在都還沒對外公開。OpenAI首席執行官薩姆·阿爾特曼（Sam Altman）和首席技術官米拉·穆拉蒂（Mira Murati）也參與了有關反作弊工具的討論。一些知情人士表示，阿爾特曼對該項目表示肯定，但并未實際推動其發布。
為啥？
OpenAI對忠實用戶做了調查，結果發現近三分之一的人都表示如果用了反作弊工具，他們就棄了ChatGPT。而且還可能對非英語母語的用戶影響更大。
但公司內部也有人提出，使用反作弊方法對OpenAI生態有好處。雙方一直爭執不下，該水印檢測工具因此未發布。而除了OpenAI，如谷歌、蘋果也都準備了類似工具，有一些已開始內測，但都未正式上線。
ChatGPT沒發布前已開始討論
ChatGPT大火后，不少高中生大學生都拿它來寫作業，所以如何甄別AI生成內容也成為了圈內的熱議話題。從最新曝光的信息來看，OpenAI早在ChatGPT發布前就考慮到了這一問題。當時開發這項技術的人是Scott Aaronson，他在OpenAI從事安全方面的工作，也是德克薩斯大學計算機科學教授。
2023年初，OpenAI公司聯合創始人之一約翰·舒爾曼（John Schulman）在一份共享Google文檔中概述了該工具的優勢和缺點。
OpenAI高管則決定在采取進一步行動之前，先征求更多人的意見。在接下來的一年半時間里，OpenAI的管理層反復討論這項技術，并希望通過數據分析來決定到底要不要對外發布。一份內部文件顯示，OpenAI于2023年4月委托開展的一項調查指出，有四分之一的用戶支持AI檢測工具的推出。同月，OpenAI針對ChatGPT用戶開展了一項調查，結果顯示，高達69%的受訪者擔憂由于作弊檢測技術的誤判，使用AI的人可能會無端遭受“濫用AI”的指責。
此外，近30%的受訪者強烈表示，如果ChatGPT決定實施水印機制，他們將選擇轉向那些不采用水印機制的競爭對手平臺，或者至少會減少對ChatGPT的使用頻率。OpenAI公司內部還一直存在擔憂，即反作弊工具可能會損害ChatGPT的寫作質量。但知情人士表示，OpenAI今年早些時候進行了一項測試，發現水印并不會影響ChatGPT的性能。根據內部文件，參與測試的員工總結道：“既然我們確認了水印不會降低輸出質量，恐怕就很難繼續反對文本水印機制的落地了。”
今年6月初，OpenAI的高層團隊與研究人員再次開會，就該項目進行了深入討論。小組內部達成了共識，認為水印技術確實展現出了良好的效果，但同時，去年ChatGPT用戶調查的結果依然具有重要的參考價值。據知情人士透露，有觀點提出，公司應該探索那些尚未得到驗證、但有望在用戶群體中引發較少爭議的新方法。
6月會議紀要的核心指出：“若未能及時行動，我們的聲譽將會受損，公眾可能會因此質疑OpenAI的責任感。”
為啥不公開？
總結OpenAI遲遲不公開這項技術的原因，主要有兩方面：一是技術，二是用戶偏好。
先說技術，早在2023年1月，OpenAI就開發了一種甄別多個AI模型（包括ChatGPT）文本的技術。
這項技術利用了一種類似“水印”的方法，把看不見的標記嵌入文本中。這樣，當有人用檢測工具分析文本時，檢測器可以提供一個分數，表示文本由ChatGPT生成的可能性有多大。
不過當時成功率只有26%，僅過了7個月，OpenAI就撤回了。后來OpenAI逐漸將技術的成功率提到了99.9%，從技術上講，該項目大約一年前就已經可以發布。然而，圍繞技術的另一個爭議是，內部員工認為該技術可能會損害ChatGPT寫作質量。
同時，員工們還提出了一些關于“人們可能規避水印”的潛在風險。比如大學生都會的“翻譯術”，將文本翻譯成另一種語言，然后通過類似谷歌翻譯的方式再次翻譯回來，從而有可能被擦除。再比如有人搞個“上有政策下有對策”，一旦公開使用水印工具的人多了，網友們指定分分鐘搞出破解版。
除了技術，另一大阻礙因素就是用戶了，OpenAI的多項調查顯示，用戶們似乎并不看好這項技術。這也不得不提到用戶們到底拿ChatGPT在干啥？這個問題可以參考《華盛頓郵報》的一項調研，他們從數據集WildChat中查看了近200,000個英語聊天記錄，這些對話由人類與兩個基于ChatGPT構建的機器人生成。可以看出，人們主要用ChatGPT來寫作（21%）以及幫助完成家庭作業（18%）。
這樣看來，人們反對這項檢測技術好像也不難理解。
另外，OpenAI內部還有一種反對的聲音是反作弊工具可能會損害ChatGPT的寫作質量。知情人士稱，OpenAI今年早些時候進行了一項測試，發現文本水印不會降低輸出質量。
6月初，OpenAI高級員工和研究人員再次聚會討論該項目。該組織一致認為水印技術效果良好，但去年的ChatGPT 用戶調查結果仍然是一個頭疼的問題。內部文件顯示，OpenAI需要在今年秋天之前制定一項計劃，圍繞AI透明度以及相關潛在新法律來左右公眾輿論——「如果做不到這一點，我們就有可能失去負責任企業的信譽。」
文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。
轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/131149.html
在最近的大模型戰爭中，OpenAI似乎很難維持霸主地位。雖然沒有具體的數據統計，但Claude3.5出現后，只是看網友們的反響，就能感覺到OpenAI訂閱用戶的流失：既然Claude3.5比GPT-4o好用，為什么我們不去訂閱Claude呢？而這長達數月的批評聲中，OpenAI似乎盡顯頹勢，除了GPT-4o mini這個小模型以外，似乎再也沒有什么創新點。甚至就在前幾日，GPT-4o還被開源的大模...
一、ChatGPT介紹ChatGPT是一款由OpenAI開發的大型語言模型，它使用了深度學習技術和海量數據集進行訓練，使其可以實現多種自然語言處理任務。ChatGPT可以根據用戶的輸入生成自然流暢的回答，并可用于各種聊天機器人、智能客服或者在線問答系統中。ChatGPT使用了Transformer模型框架，在訓練時使用了大量開源數據集如Wikipedia、Common Crawl等等，以及其他非結...
本文梳理了OpenAI團隊最新的GPT-4.o（o代表omni 全方位）模型發布內容，以OpenAI團隊發布會口吻整理。我們很高興地宣布，推出了全新的旗艦模型 GPT-4o，能夠在音頻、視覺和文本之間實時進行推理。GPT-4o（o代表omni 全方位）能夠實時處理音頻、視覺和文本信息，使人機交互更加自然流暢。這款模型支持多種輸入（文本、音頻、圖像）和輸出（文本、音頻、圖像）模式，其響應音頻的速度極...
一直在生成式AI戰爭中默默無聞的蘋果終于憋不住了！北京時間6月11日凌晨1點，2024蘋果WWDC全球開發者大會在蘋果總部 Apple Park開幕。Day 1的發布會在介紹完各個操作系統的更新后，一半的時間都留給了本次WWDC的重頭戲——蘋果AI（Apple Intelligence）。Apple Intelligence概述蘋果將其AI技術命名為Apple Intelligence。還記得五年...
摘要：在全面兼容Apache Kafka生態的基礎上，消息隊列Kafka徹底解決ApacheKafka穩定性不足的長期痛點，并且支持消息無縫遷移到云上。 近日，阿里云宣布正式推出消息隊列Kafka，全面融合開源生態。在全面兼容Apache Kafka生態的基礎上，消息隊列Kafka還具備了超易用，超高可用可靠性，擴縮容不操心，全方位安全診斷，數據安全有保障的特點。可用行達99.9%，數據可靠行99...
閱讀 156·2024-12-10 11:51
閱讀 303·2024-11-07 17:59
閱讀 328·2024-09-27 16:59
閱讀 466·2024-09-23 10:37
閱讀 540·2024-09-14 16:58
閱讀 334·2024-09-14 16:58
閱讀 531·2024-08-29 18:47
閱讀 811·2024-08-16 14:40
