新聞周刊|AI換臉明星帶貨泛濫,維權難點到底在哪?

  眼下,AI生成的視頻越來越讓人真假難辨,甚至有人利用AI生成明星、名人視頻,直播帶貨甚至去騙人。此類案例已非個例,而被侵權者真正維權成功並獲得賠償的案例卻不多。最近,演員吳越在社交媒體發聲,怒斥一個賬號用AI克隆她的臉和聲音賣貨,根據網店銷售記錄,這款產品已經賣出16000多套。這麼大的數量,顯然已經不是簡單侵權,可能涉嫌違法犯罪。吳越表示,她不會選擇沉默,準備走法律途徑維權。那麼,她的維權之路會有什麼樣的結果?又會給類似的AI侵權帶來什麼樣新的影響?

  AI換臉冒用名人,維權難在何處?

  奧運冠軍全紅嬋的聲音,被克隆去推銷土雞蛋;知名醫生張文宏的臉,被合成進深夜直播間賣蛋白棒;演員王勁松的形象,被冒用成理財廣告代言人。最新的受害者,是演員吳越。一個視頻號,用AI假冒她的形象和聲音,推銷護膚品。

  這段造假視頻結尾,還出現了仿冒奧運冠軍鄧亞萍的形象繼續帶貨。根據吳越保留的截圖,這個直播間近30天銷量達到6732件,該商品累計銷量達16492件,粗略估算銷售金額超過130萬元。10月18日凌晨3點,吳越憤怒發文表示:這位「花姐」,你騙了多少人的錢?請如數奉還!太惡劣!

  有關AI侵權,北京市海澱區人民法院的法官,對2024年1月至2026年6月的中國裁判文書網相關案件進行了梳理。他們發現,近八成涉訴案件爲肖像權侵權糾紛,並構成當前人工智能侵犯人格權的主要類型,其中,被侵權者以模特、影視明星、網紅博主等公衆人物爲主。

  更需要關注的是,AI侵權事件在不斷增加,但是受害者維權卻是困難重重。吳越發現侵權視頻後,因爲投訴效率太低,最終選擇在社交媒體發聲。她發文後不久,侵權視頻就被下架。

  惡劣的侵權,也發生在演員溫崢嶸身上。去年4月,她在個人賬號上置頂視頻打假,但假冒賬號卻不斷出現。溫崢嶸曾感慨,「我現在很難證明我是我」。今年4月,杭州中院發布一份涉人工智能知識產權審判的白皮書,直指當前人工智能案件審理中的「三難」:事實查明難、行爲定性難、責任認定難。

  來自北京市海澱區人民法院的法官對相關案件的梳理,目前,利用生成式人工智能侵害肖像權,已日益呈現由民事侵權向刑事犯罪演變的態勢。法律人士指出,在吳越被侵權的這起案件中,涉案金額大,相關人員也可能涉嫌刑事犯罪。

  加上AI標識,能否解決問題?

  AI視頻讓人真假難辨,加上AI標識,能否解決問題?去年9月,《人工智能生成合成內容標識辦法》開始施行。一年多過去,絕大多數AI視頻都增加了標識,但新問題隨之出現:近期多個涉嫌侵權的AI視頻都帶有「含AI生成內容」提示,標識反而成了侵權者的「擋箭牌」。AI標識只是給技術貼的標籤,絕不是給侵權發的通行證。視頻是否侵權、內容是否真實、使用是否合法,平臺和商家對內容的審核不僅不能減少,反而應成爲第一道防線。

  AI造假視頻,除了假冒吳越、鄧亞萍,還有跳水運動員郭晶晶。本周,涉事賬號「花姐美膚日記」已被永久封禁,侵權內容也已被清空。雖然賬號封了,但包括吳越本人在內,許多人的追問仍在繼續:這個賬號背後到底是誰在運營?他爲什麼敢如此明目張胆地盜用明星形象?

  來自北京海澱法院法官的觀察,相關案件顯示,AI侵權主體也已經從專業技術人員,逐步延伸至普通網民和市場經營者。在北京的一家大模型公司,記者看到,技術人員只需上傳一張肖像照片和一張產品圖片,再輸入一段描述文字,5分鐘左右,就可以生成一條既有臺詞又有配樂的完整產品介紹視頻。

  這家公司的技術人員表示,公司的平臺通過模型識別和人工審核,會對明星名人等形象的生成請求設置限制。而國內主流視頻大模型,也普遍明確禁止生成明星、公衆人物等未授權的真實人物肖像視頻。然而,在一些電商平臺上,仍有一些店鋪承接付費定製業務。有的商家表示,什麼明星的都可以做;有的表示,只管制作,不管法律風險。

  在吳越形象被仿冒的這起事件中,另一個值得關注的問題是,視頻中是有「含AI生成內容」的標識,但這樣的標識能有什麼意義呢?事實上,最近,一批名叫「小海」的苦命男孩在短視頻平臺上大量出現,視頻同樣標註了由AI生成,但苦情的故事,還是讓不少人買貨幫扶。有評論就指出,這種模糊的「AI標識」,不能成爲作惡者的免責牌。

  記者發現,目前的AI標識一般有兩種:一種是作者主動聲明「內容由AI生成」,另一種是平臺識別後標註「疑似使用AI技術」。在專家看來,逃避AI標識、平臺檢測不出等問題依然存在。

  今年9月30日部署的「清朗·整治短視頻虛假人設亂象」專項行動,要求平臺不能因爲加了AI生成等標籤就放鬆內容治理。專家建議,在強化標識的顯著性和提示位置的同時,還應探索人臉授權信息核驗,核對人物與所推薦商品的授權關係,及時處置明顯侵權內容。

  AI侵權視頻越來越多

  法律和相關平臺該做些什麼?

  爲什麼AI侵權的視頻越來越多?專家指出,侵權成本已低到忽略不計,維權成本卻高得讓人望而卻步。不只是吳越,許多人在發現形象被冒用後,都面臨複雜的投訴流程,有時甚至要先證明「我就是我」。即使視頻被下架,過不了幾天,類似的視頻又會換個「馬甲」重新出現。若走司法途徑,還要固定證據、做相關鑑定,等待數月,所得索賠甚至難以覆蓋投入。侵權一本萬利,維權千辛萬苦。這筆賬,真的就只能算了嗎?法律和相關平臺,該做些什麼?

  目前AI生成的視頻,已經能夠騙過人眼。最近,巴黎埃菲爾鐵塔被大火吞噬、攔腰燒斷的視頻在網上傳播,就是AI生成視頻。杭州市中級人民法院今年公布一起案例,AI生成視頻已經能夠逃過人臉識別系統。兩名不法分子利用網絡收集他人照片,通過AI生成點頭、搖頭、眨眼等動態視頻,再通過篡改相機數據,成功突破了購物平臺的人臉核驗,盜取了賬戶內的個人信息。該案說明,AI換臉技術濫用,已經開始破壞社會的信任秩序。

  技術在不斷推進,侵權門檻也在不斷降低,法律又該如何應對?9月7日,最高人民法院發布《關於依法審理涉人工智能糾紛案件的意見》,針對的就是AI換臉擬聲、AI幻覺侵權、網絡開盒等社會熱點、重點問題。

  針對受害者收集證據難的現實問題,最高法《意見》明確,針對涉人工智能糾紛技術性、專業性強等特點,當事人因客觀原因不能自行收集的證據,可申請人民法院調查收集,必要時,人民法院可以依職權調查收集證據,並及時審查證據保全申請,進一步降低當事人的舉證難度。

  此外,最高法《意見》進一步明確了肖像認定中的「可識別」標準。也就是說,即使AI合成的肖像與本人存在一定差異,只要一般公衆能夠識別出這是某個特定自然人,也應當被認定爲使用了其肖像。

  一方面降低維權成本,另一方面則是加大違法成本。《意見》明確,經營者利用人工智能仿冒名人帶貨且構成欺詐,消費者依據消費者權益保護法第五十五條的規定主張懲罰性賠償的,人民法院依法予以支持。也就是說,符合條件的消費者,可以依法主張「退一賠三」。

  法律需要不斷完善,平臺責任也需要強化落實。在民法典「避風港原則」下,平臺目前只需依循「通知—刪除」規則進行事後補救,即在收到投訴後再採取相應措施。但在AI生成門檻不斷降低、短視頻內容海量傳播的當下,事後補救已經不夠。

  無論AI怎麼發展,都不能以侵害別人的權益爲代價,更不能讓造假的人佔盡便宜,讓受害者獨自承受代價。我們必須從法律和規則上補上漏洞,爲AI的發展規劃畫好安全底線。相關平臺也必須負起責任,大家都不應該沉默,我們需要推動更快的改變。

轉自央視網