人與AI之間的界線可能越來越模糊，但權利與責任的界線必須越畫越清。
“手敲了一下午的劇本被以為是AI”。據(jù)報道，隨著AI的廣泛應用，一些“真人創(chuàng)作者”也面臨窘境：自己發(fā)布的內(nèi)容被平臺誤判為AI生成，甚至面臨作品被限流、下架的境遇。
不久前，一句評論引發(fā)全國首例AI誤判案或能帶來啟示。一位普通網(wǎng)民李先生在某平臺發(fā)表評論，被機器判定為“AI生成”，內(nèi)容遭隱藏，賬號被禁言一天。向平臺申訴未果后，李先生選擇起訴平臺，北京互聯(lián)網(wǎng)法院經(jīng)審理支持了李先生的訴求，判決平臺刪除對李先生評論的違規(guī)處理記錄，撤銷隱藏內(nèi)容。
表面上，這只是一次輕微的網(wǎng)絡糾紛，但因身處“算法”和“AI”生成兩大前沿科技的交匯點而別具意義。比如應該如何對待AI生成內(nèi)容？平臺算法在其中承擔了什么角色，產(chǎn)生誤判又該怎么辦，用戶與平臺出現(xiàn)爭議誰來舉證等問題。
在此案例中，法院并沒有親自下場厘清李先生的評論到底是不是AI生成，而是通過明確兩個原則進行判定，其一，平臺有權對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進行審查和處理；其二，平臺應該有合理依據(jù)。這實際上把舉證的責任交給了平臺，而平臺又無法對算法決策依據(jù)和結(jié)果進行適度的解釋和說明，因此敗訴。
9月1日起，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》將施行，要求上游AI模型需要對生成內(nèi)容、元數(shù)據(jù)文件添加標識，平臺亦應根據(jù)不同情形添加相應標識。
現(xiàn)實遠比規(guī)則復雜。未來靠人力對AI生成內(nèi)容標識顯然不可能，“用AI對抗AI”將成為常態(tài)，AI檢測技術難免出錯。更大問題在于，當算法的判定缺乏解釋性、申訴機制不透明時，誤判不僅是一時的技術錯誤，而是對創(chuàng)作者聲譽和作品可見度的直接傷害。
北京互聯(lián)網(wǎng)法院此次判決的意義在于，它首先認可了平臺的“守門員”角色，認為平臺具有相關內(nèi)容的審核權，但同時又限制了平臺的“裁判員”角色。這不僅是法律邏輯，也是權力與責任的平衡。
判定一條網(wǎng)友評論是否AI生成事小，但確定原則、防患于未然事大。2016年，澳大利亞政府通過技術手段檢測社會福利欺詐，簡單對比稅務與福利數(shù)據(jù)，自動判定了大量低收入者涉嫌騙保，這一過程中超過50萬人受到影響。但這是一次誤判事件，最終政府公開道歉并啟動賠償計劃。如無合理制度，類似事件并非不可能重演。
由此也可讓公眾知曉，在AI時代，被誤判后是可以主張合法權益的；平臺應建立更高效、更可追溯的復核機制，同時要加強算法的“可解釋性”。
在未來的數(shù)字世界里，人與AI之間的界線可能越來越模糊，但權利與責任的界線必須越畫越清。否則，我們將生活在一個諷刺的場景中：最擅長模仿人類的AI安然無恙，而真正的人類卻要四處證明自己“不是機器”。（信海光）
編輯：郭成
