人與AI之間的界線(xiàn)可能越來(lái)越模糊，但權(quán)利與責(zé)任的界線(xiàn)必須越畫(huà)越清。
“手敲了一下午的劇本被以為是AI”。據(jù)報(bào)道，隨著AI的廣泛應(yīng)用，一些“真人創(chuàng)作者”也面臨窘境：自己發(fā)布的內(nèi)容被平臺(tái)誤判為AI生成，甚至面臨作品被限流、下架的境遇。
不久前，一句評(píng)論引發(fā)全國(guó)首例AI誤判案或能帶來(lái)啟示。一位普通網(wǎng)民李先生在某平臺(tái)發(fā)表評(píng)論，被機(jī)器判定為“AI生成”，內(nèi)容遭隱藏，賬號(hào)被禁言一天。向平臺(tái)申訴未果后，李先生選擇起訴平臺(tái)，北京互聯(lián)網(wǎng)法院經(jīng)審理支持了李先生的訴求，判決平臺(tái)刪除對(duì)李先生評(píng)論的違規(guī)處理記錄，撤銷(xiāo)隱藏內(nèi)容。
表面上，這只是一次輕微的網(wǎng)絡(luò)糾紛，但因身處“算法”和“AI”生成兩大前沿科技的交匯點(diǎn)而別具意義。比如應(yīng)該如何對(duì)待AI生成內(nèi)容？平臺(tái)算法在其中承擔(dān)了什么角色，產(chǎn)生誤判又該怎么辦，用戶(hù)與平臺(tái)出現(xiàn)爭(zhēng)議誰(shuí)來(lái)舉證等問(wèn)題。
在此案例中，法院并沒(méi)有親自下場(chǎng)厘清李先生的評(píng)論到底是不是AI生成，而是通過(guò)明確兩個(gè)原則進(jìn)行判定，其一，平臺(tái)有權(quán)對(duì)涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理；其二，平臺(tái)應(yīng)該有合理依據(jù)。這實(shí)際上把舉證的責(zé)任交給了平臺(tái)，而平臺(tái)又無(wú)法對(duì)算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說(shuō)明，因此敗訴。
9月1日起，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》將施行，要求上游AI模型需要對(duì)生成內(nèi)容、元數(shù)據(jù)文件添加標(biāo)識(shí)，平臺(tái)亦應(yīng)根據(jù)不同情形添加相應(yīng)標(biāo)識(shí)。
現(xiàn)實(shí)遠(yuǎn)比規(guī)則復(fù)雜。未來(lái)靠人力對(duì)AI生成內(nèi)容標(biāo)識(shí)顯然不可能，“用AI對(duì)抗AI”將成為常態(tài)，AI檢測(cè)技術(shù)難免出錯(cuò)。更大問(wèn)題在于，當(dāng)算法的判定缺乏解釋性、申訴機(jī)制不透明時(shí)，誤判不僅是一時(shí)的技術(shù)錯(cuò)誤，而是對(duì)創(chuàng)作者聲譽(yù)和作品可見(jiàn)度的直接傷害。
北京互聯(lián)網(wǎng)法院此次判決的意義在于，它首先認(rèn)可了平臺(tái)的“守門(mén)員”角色，認(rèn)為平臺(tái)具有相關(guān)內(nèi)容的審核權(quán)，但同時(shí)又限制了平臺(tái)的“裁判員”角色。這不僅是法律邏輯，也是權(quán)力與責(zé)任的平衡。
判定一條網(wǎng)友評(píng)論是否AI生成事小，但確定原則、防患于未然事大。2016年，澳大利亞政府通過(guò)技術(shù)手段檢測(cè)社會(huì)福利欺詐，簡(jiǎn)單對(duì)比稅務(wù)與福利數(shù)據(jù)，自動(dòng)判定了大量低收入者涉嫌騙保，這一過(guò)程中超過(guò)50萬(wàn)人受到影響。但這是一次誤判事件，最終政府公開(kāi)道歉并啟動(dòng)賠償計(jì)劃。如無(wú)合理制度，類(lèi)似事件并非不可能重演。
由此也可讓公眾知曉，在AI時(shí)代，被誤判后是可以主張合法權(quán)益的；平臺(tái)應(yīng)建立更高效、更可追溯的復(fù)核機(jī)制，同時(shí)要加強(qiáng)算法的“可解釋性”。
在未來(lái)的數(shù)字世界里，人與AI之間的界線(xiàn)可能越來(lái)越模糊，但權(quán)利與責(zé)任的界線(xiàn)必須越畫(huà)越清。否則，我們將生活在一個(gè)諷刺的場(chǎng)景中：最擅長(zhǎng)模仿人類(lèi)的AI安然無(wú)恙，而真正的人類(lèi)卻要四處證明自己“不是機(jī)器”。（信海光）
編輯：郭成
