AI泔水(AI Slop),正在侵蝕人類的知識世界。這個詞在2025年入選《韋氏字典》年度詞彙,專門用來形容由人工智能批量生產、質量低劣的數字內容。
出現雙頭蝦的《南海海洋生物科普叢書》中,絕大多數圖片均由AI繪圖工具生成。圖片來源:澎湃新聞
近日,中國農業出版社出版的《南海海洋生物科普叢書》,因出現不符合常識的“雙頭蝦”配圖引發爭議,出版社回應稱正通知下架並召回。知情人士對界面新聞表示,圖片原本是為了表現斑節對蝦蛻殼,但因AI技術使用不成熟,導致呈現效果失真。
一隻蝦多長了一個頭,誰都知道有問題。可如果一隻蜂鳥被畫出了麻雀般的長腿,又有多少人能看出來?
幾乎同時,一位獨立開發者用AI製作了覆蓋全球11064種鳥類的貼紙,並且將這批寫實風格的貼紙免費開源允許商用,引發了觀鳥社群的批評。有科普博主指出,AI可能畫錯鳥類的關鍵特徵,寫實風格的圖片如果被用於識鳥和自然教育,反而可能傳播錯誤知識,造成數據汙染。

圖片來源:小紅書
面對批評,開發者多少有些委屈:這些貼紙只是插畫,不能代替專業圖鑑。他還投入超過10億Token用於生成和審核,AI又評審了這些AI生成貼紙的準確性。所打的準確分,開發者還保留下來供使用者自行判斷。
然而,看似無害的開源插畫,一旦進入互聯網的內容流通體系,便可能產生超出創作者預期的影響。一萬張鳥類貼紙,不僅可能被人們當作知識傳播,還可能在反覆引用、二次創作乃至AI訓練中,成為下一輪內容生產的素材。當AI製造的錯誤,又成為AI學習和生成的依據,細微的失真就可能被不斷複製、放大。
“雙頭蝦”未必是這一過程的產物,卻讓這種風險有了更直觀的註腳。兩件事性質不同,卻共同提出了一個問題:AI已經可以大規模生產看起來逼真的知識性內容,我們是否有能力為它們的準確性負責?
AI生成文章佔比過半,去偽存真更難了
AI內容的生產速度,已經快到足以改變互聯網的內容結構。
一個重要的拐點已經出現。數據分析公司Graphite從Common Crawl數據庫抽取約5.54萬篇英文文章,利用多種工具識別其創作方式。這個抽樣實驗顯示,自ChatGPT發佈以來,AI生成文章佔比快速攀升,2025年起與人類創作基本持平。
需要說明的是,AI生成內容並不等於低質內容。AI可以降低科普創作的門檻,讓原本耗費大量人力的插畫、動畫和視覺呈現變得更容易。
但效率的另一面,是驗證成本。產能上去了,驗證真偽的能力,不論是普通人還是工具,都未必跟得上。
在鳥類貼紙的項目中,開發者將真實鳥類照片交給AI生成貼紙,再用另一套AI審核。他發現,AI可能畫錯虹膜顏色,甚至給蜂鳥安上麻雀般的長腿。
AI可以把鳥畫得很像,卻未必能把每一種鳥畫對。而AI張冠李戴的細節,恰恰是觀鳥愛好者辨認物種的關鍵特徵,也是科普的準確性底線。
“AI泔水”正大肆進入科普領域
AI內容的質量問題,在科普領域尤其值得警惕。
2026年6月,視頻編輯平臺Kapwing抽查了TikTok(抖音海外版)上10472條熱門標籤視頻,發現兒童類內容中,57.4%被判定為AI泔水;科學與教育、健康、歷史類內容的佔比也都超過三成。
原本承擔嚴謹知識傳播功能的內容類別,正在成為“AI泔水”的聚集地。
更深層的矛盾在於,科普內容追求的是準確性,流量競爭卻更看重注意力。AI可能產生幻覺,編造事實、混淆概念,但在批量生產的流量生意裡,創作者未必願意為每一條內容投入專業審核的時間和成本。
AI已經可以大規模生產看起來逼真的知識性內容,將其隔離在內容生產領域已近乎不可能,但我們其實尚未真正解決這種不準確帶來的內容誤導與知識汙染。
當錯誤經過反覆傳播,還可能變成廣為接受的“知識”。
2008年,一名17歲的美國少年在維基百科中給長鼻浣熊(coati)編造了一個名稱——“巴西土豚”(Brazilian aardvark)。
本來只是個惡作劇,卻被多家媒體轉載,甚至進入芝加哥大學出版社出版的書籍。更荒誕的是,維基百科後來又引用了一篇轉載這條錯誤信息的新聞報道,為這個錯誤提供了“證據”。
直到2014年,《紐約客》才揭開這個持續多年的錯誤。
一個憑空編造的名稱,在傳播中獲得了“權威出處”,又反過來證明自己是真的。
2024年,《Nature》的一項研究指出,在特定的遞歸訓練條件下,模型反覆學習前代AI生成的數據,可能發生“模型坍塌”:原始數據中罕見的信息逐漸丟失,生成結果越來越偏離原始數據。
AI究竟應該在多大程度上參與知識生產?
北京印刷學院出版學院教授葉文芳在“雙頭蝦”事件後接受採訪時提出,AI輔助出版要滿足三個前提:標識可識別、內容可核驗、責任可追溯。
她認為,在裝飾性、示意性或虛構場景再現中,可以使用經過核驗的AI插圖;但在物種形態、實驗裝置、醫學圖示等準確性至關重要的領域,不能缺少領域專家的審查就作為定稿使用。
這一判斷,也與國際學術界的討論相呼應。
2025年發表於《Ethics and Information Technology》的一項研究指出,對AI生成科學插圖的判斷,不應簡單以是否使用AI為標準,而應考慮圖像的傳播目的、錯誤性質以及可能造成的後果。
一張用於營造氛圍的鳥類插畫,可以有藝術化表達;但如果用來教人識別物種,喙的形狀、虹膜的顏色,就不能隨意發揮。
這也是為什麼,科普對AI的使用不能只停留在“有沒有標註”上。中國科協2026年發佈的《科技工作者科普創作指南》,已經明確鼓勵AI輔助文本創作,同時要求專業人員全程發揮判斷,嚴格審核科學原理、引用和事實。
AI可以降低知識的表達成本,卻不能降低知識成立的證據標準。
從“雙頭蝦”到萬張鳥貼紙,爭議的關鍵不是有沒有使用AI,而是誰來為AI生成的內容負責。
澎湃新聞記者陳良賢對本文亦有貢獻
來源:澎湃新聞


