盡管AI已經火爆全球，但依然有不少人對它的使用存在置疑。
曉姐是一名文字工作者，自大模型推出伊始，她便嘗試借助AI工具寫作，但自始至終，她都無法相信AI。
“大模型剛推出的時候，大家都知道它‘資料更新不及時’，后來，隨著應用不斷升級，我也習慣了用大模型，但仍會對它生成的內容持遲疑態度。尤其大模型給出的數據和時間，幾乎很少標注信息來源和出處，這點我必須要做一番考證。”
在曉姐看來，大模型的行文方式和生成作品，“更像結論和觀點。”簡單來說，大模型給出的是邏輯和結論，但寫文章和做研究，只有遠遠是不夠的，“我們講究每一句發言是有跡可循，只有被敲打和反復考證過的傳播，才有價值。”
實際上，曉姐遇到的情況，并不是偶發。近期，越來越多的博主在社交平臺發出警示，告誡網友“警惕AI幻覺”，不少博主指出，AI的強邏輯，讓網友產生幻覺，認為“AI完全正確”，但實際上，不少跡象表明，AI經常出現“一本正經胡說”的現象。
Vectara平臺最新發布的數據還顯示，目前市場上AI大模型，均有幻覺率，即便是OpenAI-o3，也有0.8%的幻覺率；目前市場大熱的DeepSeek-V3，幻覺率達到3.9%。而在更早之前，這一幻覺率甚至高達30%。
圖：市場主流大模型幻覺率（截止2025年1月31日）
公開的報道顯示，此前，Vectara公司聯合創始人阿姆爾·阿瓦達拉亦表示，在訓練過程中，AI模型會壓縮數萬億個單詞間的關系，隨后通過龐大的網絡模型重新展開這些信息。盡管這些模型能夠重構出接近98%的訓練內容，但剩下2%內容卻會“誤入歧途”，生成不準確或虛假信息。
這就意味著，至少在目前，AI依然無法完全信任。不少業內人士亦對《聽筒Tech（ID：tingtongtech）》表示，在專業的領域，建議警惕使用AI，“我們可以借助AI來輔助我們的工作，而不是依賴AI。”
-01-“AI很強大，但我不怎么用”
曉姐是在朋友安利下開始使用AI。十年文字工作者的曉姐，日常資料梳理的工作量非常大。前兩年，大模型剛興起的時候，曉姐就在朋友的建議下成為最早使用大模型的那一批人。“快速響應，內容強大，邏輯也足夠清晰。”這是曉姐對大模型的直觀感受。
一度，她熱衷使用大模型，每逢寫作都要問“模”。但很快，曉姐發現，大模型不能滿足她的寫作需求，甚至讓其創作也不夠“絲滑”。實際上，大模型剛推出的時候，有的資料確實更新不及時，會誤導曉姐的文字創作。再者，曉姐發現，大模型給出的內容通常是結論和觀點，雖然邏輯性很強，但一旦出現細節和事實錯誤，就會給曉姐的工作帶來致命的打擊。
“比如，使用大模型的人會發現，模型生成內容的數據和時間，幾乎不標注信息來源和出處，在寫作過程中，我還發現了有名言出處錯誤的事實，所以，我現在對AI持遲疑態度。”高校任職的林哥也一度無法完全擁抱AI。“如今AI已經非常強悍了，但我還是在堅持手工敲字，這與正確錯誤無關，完全是個人愛好。”
林哥在批閱學生的作業和論文的時候發現，“有些學生的內容一看就是AI生成，引用也‘張冠李戴’，甚至出現憑空捏造的‘AI幻覺’，我改了一部分就堅持不下去，AI增加了我的工作量。”“這并不是一個好的引導和風向。當你越來越認為本就應該如此的時候，那么你就失去了對文字和內容的審美鑒別，也失去了對事實的判斷和認識能力。”林哥表示。
95后家裝設計師小屈告訴《聽筒Tech》，盡管自己是網絡擁護者，但也很少使用AI繪圖。
其實，在大模型剛出來的時候，小屈是興奮的，“畫圖是非常累的，客戶的需求也非常多，現在的家裝行業，通常有了初步的設計圖紙，客戶才會繳納意向金。我每天的工作不是跟客戶溝通設計需求，就是在畫圖。且畫的圖都不一定會被客戶采用，所以工作量非常大。”
AI繪圖出現后，小屈抱著試試的心理去AI作圖。不過，在嘗試了幾次后，小屈放棄了作圖。目前，他只是用AI編輯一些文案。
“主要問題在于不夠精準，每個空間不能統一設計手法。”在小屈看來，AI繪圖只能作為輔助，或者作為早期工作意向確認工具。
同樣的問題，也發生在視頻生成領域。
在AI軟件席卷行業的最早期，影視就被認為是被沖擊的巨大行業。后來，隨著細分領域模型的不斷推出和升級，影視行業從業者郭哥十分焦慮。他曾和《聽筒Tech》交流，要主動學習AI技術，避免在行業的內卷中被淘汰。
但郭哥發現，以全網都在吹的某平臺為例，生成的視頻有幾個明顯的缺點，比如圖人和物體之間存在交互失靈、物理引擎失效、對象突然冒出等使視頻產生“鬼畜感”。
-02-“小心AI一本正經胡說”
在曉姐和小屈看來，目前不敢將專業的工作交給AI來做，“或許有一天我會信任它，但不是現在。”
關于“我為什么不用AI”，在社交平臺，網友也眾說紛紜。有人表示，“我完全不覺得AI生成的短片有趣，因為創作這個東西的不知道痛楚為何物”、“有沒有人感覺越用AI越蠢，這學期用AI輔寫，被導師吐槽了幾遍文章寫作水平不行”、“越來越不會內容輸出了”......
尤其是，“AI幻覺”一詞最近被提及得越來越多。
一位博主表示，“小心AI一本正經的‘胡說’。”實際上，AI“強邏輯”幻覺的背后，存在“一本正經胡說”的隱患，且不是自己的專業和領域根本判斷不了。
該博主表示，尤其是AI在回應一些嚴肅知識性問題時，會存在憑空編造事實、杜撰不存在文獻的可怕現狀。
科普作家河森堡表示，自己讓某大模型介紹一下“青銅利簋”，它就開始一本正經地胡扯，說這件青銅器是商王帝乙為祭祀自己父親所鑄，還詳述了其內壁的銘文。
不過，河森堡曾經在博物館看見過“利簋”這件文物，此物是西周貴族為了紀念武王推翻商朝而鑄，銘文和祭祀也與商王毫無關系。
實際上，河森堡還繼續追問AI，這些資料都是從哪看來的，AI列出了一大堆文獻，但他發現，文獻和作者介紹不少是“捏造”的。
另一位博主也呼吁大家“警惕AI幻覺”、“希望大家使用AI時，甄別它的謊言”。
該博主表示，“體驗了DeepSeek，一開始看到它如此強大的推理能力，特別是它在自我思考的時候展現出來的完整思維鏈，確實非常驚艷。”
但當自己在問怎樣看待“創新是一種涌現”這個話題時發現，盡管大模型給出了一系列層次和角度的分析，但博主卻總感覺“有一絲絲的不對”。
該博主認認真真地對內容做了核對，發現這些看似正確的回答卻有很多問題。比如，AI在“編造數據謊言”。實際上，針對DeepSeek表示的“70%的創新出現在跨學科領域”，該博主查了很多文獻都沒有找到這個信息源頭和實驗數據。
該博主指出，“如果這種捏造廣泛流傳，不知有多可怕。”
甚至，如果AI能虛構文本、照片乃至視頻的一切內容，并且令其彼此之間相互印證和支撐，其制造幻覺的強度與編撰故事不可同日而語。
“除非你親自見到并本人求證，或者到現場實地考察，否則你會被AI創造出的假象玩得死死的。”一位業內人士這樣擔憂。
然而，在現實社會中，有意愿和有能力親自驗證事實的人并不多。也就是說，稍一個不留神，你可能就會被AI污染。
-03-別焦慮，現在AI還無法取代你我
實際上，AI幻覺已經給人們的工作和現實生活帶來了巨大影響。
世界經濟論壇發布的《2025年全球風險報告》顯示，錯誤和虛假信息是2025年全球面臨的五大風險之一。2023年，美國律師史蒂文·施瓦茨也曾因“輕信”ChatGPT，在法庭文件中引用了并不存在的法律案例。而在醫學領域，AI幻覺提供的錯誤診斷和治療建議，可能會危及患者生命。
從底層技術來看，AI幻覺的產生，是必然的。
AI企業落地師石云升便告訴《聽筒Tech》，“據我所知，目前AI底層架構師無法解決幻覺問題。因為它每一個字符都根據概率計算，這就導致它輸出的內容會有幻覺，這是無解的。”
不過，石云升指出，在真實場景中，用戶可以通過反復溝通來幫助AI更精準的回答問題。畢竟，AI給出的答案是否采納，最終還是由人來決定。
“降低AI幻覺的問題可以通過’預訓練、微調和推理‘三個層級來解決。”石云升指出，例如，在公司負責AI客服時，用戶主要通過“提示詞+知識庫”來防止AI輸出幻覺，“如果公司有懂得微調的技術人員，并且擁有優質的企業數據，微調的效果會更加理想。”
不過，石云升坦言，微調通常是針對企業專屬的大模型進行的，“一般我們會在通用大模型回復效果特別不好的情況才會考慮微調。”
比如，在法律領域，通用大模型訓練預料數量太少，質量太差，企業內部有很多更優質的法律數據，這種情況就可以考慮微調一個專屬公司的法律大模型，微調后出現幻覺的概率就小很多。
石云升指出，還有一種手法是使用“RAG增強檢索”，“在提問的時候，先從知識庫里查詢資料，然后給到大模型，如果用戶的問題在知識庫里有資料，那基本也不會出現AI幻覺。”
當然，石云升也表示，對于普通用戶來說，AI的幻覺率，目前沒有特別有效的解決辦法，“普通用戶很難接觸到預訓練和微調技術，因此只能在AI推理階段提供更詳細的信息。這也是為什么在AI剛剛興起時，行業內很多人開始教授如何編寫‘提示詞’并建立自己的知識庫。”
也即是說，至少在現階段，AI還無法真正取代你我。
此前，張雪峰“回應DeepSeek會讓自己失業”這一話題時曾這樣解釋，“第一，我們這個行當不止是打破信息差，還是在提供情緒價值；第二，大模型只會有一些公開信息，但是你要知道有些信息網上是不公開的。”
那些“網上非公開的”、“對情感的理解”，以及“深度思考引發的創新”，或許是現階段“你我”存在的價值和意義所在。
“警惕AI幻覺，這是一種呼吁，也是一種社會職責。”顯然，這不是“曉姐”一個人所希冀的事。
本文來源：博客園
文章轉載于其他網絡，如有侵權請聯系我們及時刪除！
