導讀：AI可以有技術層面的容錯空間，但絕不能冒充事實、傷及無辜，更不能成為不負責任的“造謠者”。當AI的“幻覺”演變成對人的實質傷害，法律不該再沉默。
北京一所知名國際高中的音樂老師小河（化名）怎麼也想不明白——AI搜索給他的“定罪”，來得比任何司法機關都快。AI不僅說他因猥褻學生被判處有期徒刑10年，還梳理出了一條完整的“案發時間線”：2024年6月事件爆發，7月被開除黨籍、開除公職，8月法院一審判刑10年，9月被依法送交監獄執行刑罰。
而真實的小河，一直在學校正常上課，從未被任何司法機關調查過。
這不是科幻電影，是2026年真實發生在AI搜索中的事。AI憑空給人“判刑”，誰在為算法暴力買單？
2025年1月，小河的一位同事在社交平台瀏覽帖文時，發現一個“猜你想搜”的詞條後綴出現了學校名字和小河的真名。同事點擊鏈接後，頁面跳轉到AI置頂的搜索結果，AI信誓旦旦地宣稱這是一起小河在學校發生的“事件”，並以“目前公開信息的梳理和總結”的權威口吻呈現。
更令人不安的是，AI還衍生出了新的版本，提到小河存在“體罰”或“辱罵學生”的行為，有糢有樣地提及來龍去脈，聲稱有相關視頻流傳，且事件在網上持續發酵成為熱點案例。
發現這一情況後，小河立刻聯系了AI服務提供商上海某社交平台的客服，將自己的相關證明材料發送到官方郵箱，還向上海市民服務熱線12345請求協調。但直到一年之後，這條AI生成的虛假信息網頁鏈接才終於失效。
00後二次元畫師小兆，常用同一個網絡暱稱在各社交平台發布原創作品。她搜索自己暱稱時發現，置頂的AI答案提到她在過去一起交易中存在“跑單、騙稿”行為，需要“避雷”。小兆在賬號中發了澄清帖和“防搜聲明”，但AI搜索結果至今仍會關聯虛假負面信息。
北京律師黃貴耕的遭遇更令人瞠目結舌。2025年5月，有人以“黃貴耕律師”為關鍵詞搜索，百度AI自動總結出“黃貴耕律師涉及偽造公司印章案”，點擊另一關聯詞條，AI甚至總結出他存在“威脅法官、涉嫌介紹賄賂的嚴重負面行為”。黃貴耕已起訴北京百度網訊科技有限公司人格權糾紛案，要求下架不實信息、公開道歉並索賠100萬元。而百度公司的代理律師給出的解釋是：這類事件是生成式AI在信息合成過程中出現“幻覺”造成的事實性錯誤，“在AI技術的發展過程中難以避免”，因此百度不應承擔責任。
專家分析，AI憑空造罪主要源於三方面問題：其一，生成式AI的訓練數據混雜了大量未經核實的網絡信息，糢型本身不具備事實判斷能力，只會盲目且“自信”地編造內容；其二，AI服務提供商缺乏完善的內容審核與快速糾錯機制；其三，當前法律針對AI生成虛假信息的責任認定尚不清晰，受害者維權路徑漫長、成本高昂。
對AI生成內容不準確的責任認定，司法實踐給出了分層框架。杭州互聯網法院在2025年底審結的全國首例生成式AI“幻覺”侵權案中明確，對一般性不準確信息，現行法律未要求服務提供者承擔確保信息準確的結果性審查義務，僅要求其採取合理措施提高生成內容的準確性與可靠性。但這一裁判標準針對的是信息查詢場景中的“一般性不準確信息”，當AI編造的是足以摧毀個人職業生涯的刑事犯罪記錄時，是否仍然適用同一標準，值得深究。
當AI生成關於小河的“判刑”信息時，AI本身沒有法律人格，不能作為侵權責任主體。但AI的服務提供者是否應當為其輸出的虛假內容承擔責任，是法律需要回答的核心問題。
2026年4月，北京互聯網法院審理的一起案件中，被告辯稱其發布的侵權視頻文案系AI生成，法院明確指出：生成式人工智能服務的使用者依法負有必要的核實義務，不得以“內容由AI生成”作為免責借口。
《民法典》第1197條確立的“知道或者應當知道”標準，曡加《生成式人工智能服務管理暫行辦法》的事前審查要求，正在將平台塑造為必須履行“紅旗標準”下高度註意義務的“守門人”。抖音生活服務2026年4月22日發布的AIGC創作規範即要求，創作者發布AI生成內容須主動聲明，未經合法授權不得使用他人肖像、聲音等進行AI創作，違者將面臨警告、限流直至封禁的處置。
但平台的責任認定仍存在糢糊地帶。以杭州互聯網法院審結的全國首例AI“幻覺”案為例，AI糢型生成了某高校校區的錯誤信息，法院認定：對一般性不準確信息，現行法律未要求服務提供者承擔確保信息準確的結果性審查義務。然而，AI編造教師猥褻學生並被判刑的完整司法記錄，顯然已不屬於“一般性不準確信息”，而是對社會評價具有毀滅性打擊的虛假指控。將此類信息與信息查詢場景中的“校區錯誤”等同處理，是否低估了其對個人名譽的實質性傷害？
小河的遭遇不是個案，任何人的姓名、職業信息，一旦被AI錯誤關聯負面事件，就可能淪為“數字判決書”下的囚徒。
對於教師而言，“猥褻學生”的指控無異於職業生涯的“死刑判決”，即便後續澄清，也難消除旁人“無風不起浪”的偏見；對於律師來說，虛假犯罪記錄更是對職業信譽的毀滅性打擊。黃貴耕面臨的困境即是明證——這些虛假信息被他在代理案件的委托人及家屬看到了，“突然有一天發現我被AI寫成了一個罪犯！這讓我以後還怎麼面對委托人？”
更值得警惕的是，這種結構化的虛假信息，借著公眾對AI“客觀公正”的信任，將技術幻覺包裝成司法事實，欺騙性與傳播力遠勝傳統網絡謠言。試想，如果求職時用人單位用AI核查背景、家長用AI了解教師口碑、合作方用AI核驗商業資質，若AI頻繁輸出有損人格的虛假信息，整個社會的信任機制都將遭受根本性破壞。而且這種傷害具有不可逆性，“造謠零成本，辟謠一整年”，即便虛假鏈接下架，搜索引擎緩存、網絡截圖傳播仍會持續造成負面影嚮。
小河發現問題後，經历整整一年才讓虛假信息失效——在AI信息傳播以秒為單位的今天，一年足以對個人聲譽造成不可逆的損害。
現行維權路徑中，受害者需要自行聯系客服、發送證明材料、向市民熱線求助，耗時耗力且結果不可預期。應當建立面向公眾的統一、便捷的AI信息侵權申訴機制，降低普通人的維權門檻。壓縮虛假信息存續周期，杜絕“一年才糾錯”的荒誕情況。
2026年3月30日，工信部等十部門聯合印發《人工智能科技倫理審查與服務辦法（試行）》，標志著我國人工智能倫理治理從原則倡導向制度化、程序化的關鍵跨越。
國家網信辦等七部門聯合印發的《生成式人工智能服務管理暫行辦法》已將“生成式人工智能服務提供者”明確為維護網絡安全法律責任主體，設定了生成內容標識等具體義務；新修訂的《網絡安全法》已於2026年1月1日生效，將總體國家安全觀內嵌於人工智能治理的規範框架。
但小河、小兆和黃貴耕的遭遇恰恰表明，現有規則在快速迭代的AI技術面前仍有不足。
技術可以犯錯，但技術不能成為傷害的工具。當AI開始隨意給普通人“判刑”，我們每個人都可能成為下一個受害者。在追逐技術創新的路上，必須守住底線——保護每一個普通人的名譽與尊嚴，才是技術發展最該堅守的初心。