去年十一月，愛達荷州立大學化學系本科生Lauren Jager在申請博士課程時，注意到部分申請系統警告學生不得使用生成式人工智慧工具撰寫個人陳述，並會利用檢測器來辨識AI生成的文字。雖然系統未明確指出使用哪種檢測器，但明確表示若判定個人陳述為AI所寫，整份申請將被忽略。Jager當時並未使用AI，但朋友建議她用線上AI檢測器測試自己的文章，結果所有檢測器都顯示她的文章幾乎100%是AI生成，讓她非常緊張。
Jager回想，自己寫作風格嚴謹，遵循語法規則，可能因此被誤判為AI作品。她最終重寫個人陳述，刻意降低文章完美度以避免被標記為AI寫作，重新檢測後AI比例降至30%，她便以此提交申請。後來她成功被猶他大學錄取攻讀博士。
類似Jager的案例在全球各地大學層出不窮。面對大量可能由AI生成或大幅修改的文字作品，許多學校開始使用AI檢測工具應對，但這些工具仍存在不少缺陷。從古代學生抄襲同學楔形文字開始，教育者與作弊者的角力從未停止。現代網路時代，像是加州奧克蘭的Turnitin等公司提供的軟體，能偵測文字與既有作品的相似度，降低直接抄襲的可能。作弊者則轉向找代寫，促使學校採用監考或限時考試，但這些措施也有缺點，可能不公平且限制學生展現深入研究能力。
大型語言模型（LLM）如ChatGPT讓寫作變得更便宜且快速，然而這些AI產出的文字不易被傳統抄襲檢測工具發現，因為它們並非直接複製既有句子。澳洲西雪梨大學學術誠信專家Cath Ellis指出，AI的使用改變了文字的本質與規模，現在出現大量偽造或嚴重捏造的作品，數量激增。
市面上有多款聲稱能辨識AI生成文字的工具，如Copyleaks、GPTZero、ZeroGPT，以及Grammarly、QuillBot和Turnitin推出的產品。許多檢測器依賴「困惑度」（perplexity）指標，該指標衡量文字序列中每個詞的可預測性。AI生成的文字通常模式更可預測，困惑度較低，因此較易被標記為機器生成；相反，人類寫作較不規則，困惑度較高。
然而，這些工具真的有效嗎？如果有誤判學生作弊的風險，是否應該使用？學術界已有研究評估這些工具。2025年一篇論文測試了最廣泛使用的GPTZero，發現它能高信心識別純AI生成的文章，但誤判人類寫作為AI的比例約16%，顯示其辨識人類文本的可靠性有限。2023年另一研究評估多款工具，發現它們對較舊的GPT-3.5模型生成文字辨識較佳，對更先進的GPT-4則較差，且對人類寫作的判斷不一致，包含誤判和不確定結果。
社群媒體Reddit用戶發現，美國獨立宣言經常被標記為AI生成。Nature多次用ZeroGPT檢測1776年獨立宣言部分文字，結果顯示95%至100%為AI產出。
紐約Pangram Labs的檢測工具宣稱誤判率近乎零，透過訓練模型理解人類寫作再由AI改寫的文本，能掌握新發布的聊天機器人寫作風格。獨立評估認為該工具準確度居前。
英國越南大學研究員Mike Perkins認為，即使檢測器在受控環境表現良好，也不應用於高風險決策，因誤判率高，可能誤傷學生。教師習慣信任抄襲軟體的分數，但AI檢測缺乏明確證據支持判斷。
南伊利諾大學圖書館員William Walters發現檢測器對GPT-3.5文字辨識優於GPT-4，16款工具中僅3款對AI與人類寫作均表現良好。隨著GPT模型不斷更新，最新的GPT-5.5更擅長模仿人類寫作。
混合文本也讓檢測更困難。Perkins指出，純AI文本易被識別，但經過修改或重寫後，檢測效果大幅下降。作弊者甚至可用其他AI系統重寫文章或用「人性化」工具降低檢測分數，檢測公司雖嘗試追蹤此類工具，但新技術層出不窮，形成軍備競賽，難有實質幫助。
加拿大西門菲沙大學語言學家Marzena Karpinska與團隊利用Pangram工具分析2025年6月至9月間美國1500家報紙約18.6萬篇文章，發現約9%文章部分或全部由AI生成。但她提醒，這類工具適合揭示大規模趨勢，無法作為個別作者是否使用AI的直接證據，不能因此大規模拒絕申請者。
2023年史丹佛大學研究測試7款AI檢測器，對中國學生托福考試的91篇文章誤判率高達61.3%，但對美國13至14歲學生的88篇文章判斷較準確。研究作者James Zou指出，非英語母語者用詞簡單、句構較單一，困惑度指標較低，易被誤判為AI寫作。
學術出版界也面臨AI寫作挑戰。分析顯示，2024年約七分之一生醫研究摘要可能由生成式AI協助撰寫，約五分之一電腦科學論文含AI內容。為此，出版社與會議組織積極制定規範防止未申報AI使用。
例如，2026年國際機器學習會議因違反AI使用政策，拒絕約2%投稿，並在審稿文件中嵌入隱藏水印，若審稿人使用LLM撰寫評論，系統會標記違規。
部分國家法律系統也介入AI使用爭議。2026年2月，紐約最高法院撤銷對一名被指控使用AI作弊學生的處分，該學生教授使用的AI檢測應用被質疑不準確。
英國監察機構曾警告英格蘭與威爾斯大學，因學生團體投訴AI檢測軟體偏見，曾有自閉症學生因檢測結果被判零分，後申訴成功。
2023年Turnitin推出AI檢測軟體，但多所英國大學因缺乏透明度選擇不使用。美國范德堡大學經過多月測試後也停用該功能。
Turnitin表示，為降低誤判率，系統採取保守策略，無法確定的文字會判定為人類寫作。該公司已分析超過2億篇學生論文，其中約11%含至少20%AI生成內容。產品主管Annie Chechitelli強調，檢測結果非證明不當行為，而是輔助教師判斷並與學生討論AI使用情況。
澳洲查爾斯特大學學術誠信研究員Mark Bassett認為，AI檢測系統基於錯誤假設，認為人類與AI文本可明確區分，但實際上AI生成內容可能與人類寫作難以區分。且誤判率高，且未被標記的AI作品可能破壞學位價值與誠信。他指出，檢測器多半識別的是粗糙或不當使用AI，而非未授權使用。
Ellis認為，問題在於未區分AI使用與濫用。是否不當取決於任務目的與使用情境。許多場合AI工具已被合法用於輔助寫作，如文法檢查，減輕認知負擔。
Bassett建議，教育者應重新設計評量方式，無監督的書面評量已不合時宜。Turnitin推出Turnitin Clarity工具，記錄寫作過程、修訂歷史與貼上文字時間，讓教師了解文章構成過程。Chechitelli表示，這反映大學對AI使用態度從檢測轉向透明化。
Ellis認為，設計能展現學生學習過程的任務，比追求完美AI檢測更有意義。雖需防止不當行為，但重點應放在學生是否展現出評量所需的知識與判斷力，「我們需要檢測的是學習本身」。
