填補(bǔ)法律空白 強(qiáng)化技術(shù)監(jiān)管 壓實(shí)平臺責(zé)任
代表委員建言加強(qiáng)AI虛假信息治理
甘肅洪某利用ChatGPT編造虛假新聞牟利，四川“山體滑坡致8人遇難”等AI造謠案例引發(fā)社會恐慌，西藏地震后AI合成的災(zāi)害場景視頻被抖音平臺處理超2萬條……
今年全國兩會上，人工智能技術(shù)的濫用與虛假信息治理成為熱議焦點(diǎn)。多位代表委員指出，隨著生成式AI技術(shù)的迅猛發(fā)展，虛假視頻、音頻、圖文等內(nèi)容“李逵”“李鬼”難辨，不僅誤導(dǎo)消費(fèi)者、侵犯公民權(quán)益，更擾亂社會秩序，亟須通過完善立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺責(zé)任等手段構(gòu)建綜合治理體系。
AI虛假信息泛濫成風(fēng)險隱患
全國人大代表、美的集團(tuán)副總裁兼首席財務(wù)官鐘錚在調(diào)研中發(fā)現(xiàn)，網(wǎng)絡(luò)上有大量AI生成的視頻模仿明星或?qū)＜业男蜗?、聲音，虛?gòu)人設(shè)、推銷商品，誤導(dǎo)消費(fèi)者購買不必要的商品，造成財產(chǎn)損失，甚至產(chǎn)生信任危機(jī)。還有些視頻通過流量變現(xiàn)的形式去獲利，加劇亂象。
“AI技術(shù)降低了視頻合成和制作的門檻，使得虛假內(nèi)容的生成變得容易。”鐘錚近日在接受《法治日報》記者采訪時說。
全國人大代表、小米集團(tuán)創(chuàng)始人雷軍注意到“AI換臉擬聲”帶來的問題。
雷軍在建議中指出，AI深度合成技術(shù)的快速發(fā)展，推動了“AI換臉擬聲”在影視、廣告、社交等領(lǐng)域廣泛興起，成為社會喜聞樂見、傳播力強(qiáng)、易成熱點(diǎn)的技術(shù)應(yīng)用。但同時“AI換臉擬聲”不當(dāng)濫用造成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽(yù)損害，帶來社會治理等風(fēng)險。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來較大挑戰(zhàn)。
責(zé)任歸屬與處罰標(biāo)準(zhǔn)須明?確
多位代表委員指出，當(dāng)前AI治理的法律體系仍存空白。
鐘錚認(rèn)為，現(xiàn)在生成式人工智能在法律法規(guī)體系上存在不完善之處，特別是在界定AI生成內(nèi)容的版權(quán)歸屬，以及侵權(quán)責(zé)任認(rèn)定、隱私保護(hù)標(biāo)準(zhǔn)方面存在空白。此外，目前生成式人工智能視頻的審核技術(shù)還不夠健全，雖然已有一些AI技術(shù)用于視頻審核，但仍存在一定的差錯率。
全國政協(xié)委員、安徽省律師協(xié)會監(jiān)事長周世虹介紹，我國于2023年8月15日起施行《生成式人工智能服務(wù)管理暫行辦法》，從而形成以該暫行辦法為核心，輔以數(shù)據(jù)安全法、個人信息保護(hù)法等單行法的人工智能規(guī)范，但缺乏高位階的專門立法，覆蓋范圍有限，難以應(yīng)對技術(shù)發(fā)展可能引發(fā)的各種社會問題。
全國人大代表，TCL創(chuàng)始人、董事長李東生帶來的《關(guān)于加強(qiáng)AI深度偽造欺詐管理的建議》提到，隨著生成式人工智能技術(shù)的發(fā)展，深度偽造技術(shù)也快速發(fā)展。要規(guī)范對于這一新興技術(shù)的不當(dāng)利用，有必要要求深度合成服務(wù)提供商對人工智能生成的內(nèi)容進(jìn)行強(qiáng)制標(biāo)識，減少惡意濫用，并有助于厘清責(zé)任、對違法犯罪行為追責(zé)。
“近年來，我國相關(guān)立法雖有關(guān)注這一議題，但已出臺的規(guī)章制度尚不成體系，還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。”李東生在建議中指出。
審核機(jī)制與處罰力度雙升級
如何加強(qiáng)AI虛假信息治理？代表委員一致認(rèn)為，須通過完善立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺責(zé)任等舉措構(gòu)建綜合治理體系。
周世虹建議，將生成式人工智能納入專項(xiàng)立法，明確開發(fā)者、運(yùn)營者、用戶三方責(zé)任；完善監(jiān)管協(xié)同機(jī)制，建立網(wǎng)信、工信、公安等多部門聯(lián)動的動態(tài)監(jiān)管體系；設(shè)立AI生成內(nèi)容標(biāo)識制度，強(qiáng)制標(biāo)識AI生成內(nèi)容，防范虛假信息傳播。
雷軍的建議是，加快單行法立法進(jìn)程，安全與發(fā)展并重?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)已頒布實(shí)施，《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》完成社會意見征集，對人工智能立法進(jìn)行了有益探索。但目前“AI換臉擬聲”的有關(guān)規(guī)定，尚存在效力位階偏低、內(nèi)容偏原則且分散、多個部門職責(zé)交叉或職權(quán)定位有待明晰等不足，導(dǎo)致現(xiàn)階段針對“AI換臉擬聲”造成的侵害，只能依靠基礎(chǔ)法律中關(guān)于隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等的零散法條來規(guī)制。
“建議針對‘AI換臉擬聲’等某一代表性問題，探索推出人工智能單行法，提高立法位階及其效力，在分級分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確‘AI換臉擬聲’應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。與時俱進(jìn)探索新議題的細(xì)化監(jiān)管措施，凝聚人工智能倫理規(guī)范共識。”雷軍提出。
代表委員普遍認(rèn)為，AI治理需兼顧技術(shù)創(chuàng)新與風(fēng)險防控，平臺責(zé)任是治理焦點(diǎn)。
鐘錚認(rèn)為，平臺應(yīng)加強(qiáng)對AI生成視頻的審核和監(jiān)督，確保內(nèi)容的真實(shí)性。對于AI生成的視頻，應(yīng)強(qiáng)制標(biāo)注警示性提示，提醒消費(fèi)者注意辨別。此外，利用AI技術(shù)審核AI合成的視頻內(nèi)容，同時投入更多資源開發(fā)高效的AI審核工具，并結(jié)合人工審核，通過雙重校驗(yàn)提高識別準(zhǔn)確率。
“平臺企業(yè)開發(fā)可精準(zhǔn)識別人工智能深度合成內(nèi)容的技術(shù)能力，創(chuàng)新直接有效的治理工具供給。加大人力物力投入，優(yōu)化升級通信軟件和內(nèi)容平臺巡查審核機(jī)制、投訴舉報機(jī)制、應(yīng)急處理機(jī)制，確保及時阻斷問題內(nèi)容傳播。”雷軍建議。
在李東生看來，除了加快人工智能深度合成內(nèi)容標(biāo)識管理規(guī)章制度的出臺外，還需明確對人工智能深度合成服務(wù)商未履行標(biāo)識義務(wù)的懲罰制度，完善對深度合成內(nèi)容服務(wù)提供商未按要求進(jìn)行標(biāo)識的行為界定、分類細(xì)則，以及相應(yīng)的處罰標(biāo)準(zhǔn)。加強(qiáng)深度合成內(nèi)容標(biāo)識技術(shù)標(biāo)準(zhǔn)和發(fā)布的管理，出臺深度合成內(nèi)容標(biāo)識的技術(shù)標(biāo)準(zhǔn)，保證標(biāo)識的有效性。此外，對相關(guān)內(nèi)容平臺出臺要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時，有義務(wù)對其進(jìn)行標(biāo)識。還需加強(qiáng)國際合作，形成人工智能生成合成內(nèi)容的有效監(jiān)管。
京公網(wǎng)安備 11010102003980號