填補法律空白 強化技術(shù)監(jiān)管 壓實平臺責任
代表委員建言加強AI虛假信息治理
甘肅洪某利用ChatGPT編造虛假新聞牟利，四川“山體滑坡致8人遇難”等AI造謠案例引發(fā)社會恐慌，西藏地震后AI合成的災害場景視頻被抖音平臺處理超2萬條……
今年全國兩會上，人工智能技術(shù)的濫用與虛假信息治理成為熱議焦點。多位代表委員指出，隨著生成式AI技術(shù)的迅猛發(fā)展，虛假視頻、音頻、圖文等內(nèi)容“李逵”“李鬼”難辨，不僅誤導消費者、侵犯公民權(quán)益，更擾亂社會秩序，亟須通過完善立法、強化技術(shù)監(jiān)管、壓實平臺責任等手段構(gòu)建綜合治理體系。
AI虛假信息泛濫成風險隱患
全國人大代表、美的集團副總裁兼首席財務官鐘錚在調(diào)研中發(fā)現(xiàn)，網(wǎng)絡上有大量AI生成的視頻模仿明星或?qū)＜业男蜗?、聲音，虛?gòu)人設、推銷商品，誤導消費者購買不必要的商品，造成財產(chǎn)損失，甚至產(chǎn)生信任危機。還有些視頻通過流量變現(xiàn)的形式去獲利，加劇亂象。
“AI技術(shù)降低了視頻合成和制作的門檻，使得虛假內(nèi)容的生成變得容易。”鐘錚近日在接受《法治日報》記者采訪時說。
全國人大代表、小米集團創(chuàng)始人雷軍注意到“AI換臉擬聲”帶來的問題。
雷軍在建議中指出，AI深度合成技術(shù)的快速發(fā)展，推動了“AI換臉擬聲”在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術(shù)應用。但同時“AI換臉擬聲”不當濫用造成了違法侵權(quán)行為的重災區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強等特點，給治理帶來較大挑戰(zhàn)。
責任歸屬與處罰標準須明?確
多位代表委員指出，當前AI治理的法律體系仍存空白。
鐘錚認為，現(xiàn)在生成式人工智能在法律法規(guī)體系上存在不完善之處，特別是在界定AI生成內(nèi)容的版權(quán)歸屬，以及侵權(quán)責任認定、隱私保護標準方面存在空白。此外，目前生成式人工智能視頻的審核技術(shù)還不夠健全，雖然已有一些AI技術(shù)用于視頻審核，但仍存在一定的差錯率。
全國政協(xié)委員、安徽省律師協(xié)會監(jiān)事長周世虹介紹，我國于2023年8月15日起施行《生成式人工智能服務管理暫行辦法》，從而形成以該暫行辦法為核心，輔以數(shù)據(jù)安全法、個人信息保護法等單行法的人工智能規(guī)范，但缺乏高位階的專門立法，覆蓋范圍有限，難以應對技術(shù)發(fā)展可能引發(fā)的各種社會問題。
全國人大代表，TCL創(chuàng)始人、董事長李東生帶來的《關(guān)于加強AI深度偽造欺詐管理的建議》提到，隨著生成式人工智能技術(shù)的發(fā)展，深度偽造技術(shù)也快速發(fā)展。要規(guī)范對于這一新興技術(shù)的不當利用，有必要要求深度合成服務提供商對人工智能生成的內(nèi)容進行強制標識，減少惡意濫用，并有助于厘清責任、對違法犯罪行為追責。
“近年來，我國相關(guān)立法雖有關(guān)注這一議題，但已出臺的規(guī)章制度尚不成體系，還不具備可操作的細則和明確的處罰標準。”李東生在建議中指出。
審核機制與處罰力度雙升級
如何加強AI虛假信息治理？代表委員一致認為，須通過完善立法、強化技術(shù)監(jiān)管、壓實平臺責任等舉措構(gòu)建綜合治理體系。
周世虹建議，將生成式人工智能納入專項立法，明確開發(fā)者、運營者、用戶三方責任；完善監(jiān)管協(xié)同機制，建立網(wǎng)信、工信、公安等多部門聯(lián)動的動態(tài)監(jiān)管體系；設立AI生成內(nèi)容標識制度，強制標識AI生成內(nèi)容，防范虛假信息傳播。
雷軍的建議是，加快單行法立法進程，安全與發(fā)展并重?！痘ヂ?lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法律法規(guī)已頒布實施，《人工智能生成合成內(nèi)容標識辦法(征求意見稿)》完成社會意見征集，對人工智能立法進行了有益探索。但目前“AI換臉擬聲”的有關(guān)規(guī)定，尚存在效力位階偏低、內(nèi)容偏原則且分散、多個部門職責交叉或職權(quán)定位有待明晰等不足，導致現(xiàn)階段針對“AI換臉擬聲”造成的侵害，只能依靠基礎法律中關(guān)于隱私權(quán)、肖像權(quán)、名譽權(quán)等的零散法條來規(guī)制。
“建議針對‘AI換臉擬聲’等某一代表性問題，探索推出人工智能單行法，提高立法位階及其效力，在分級分類的基礎上進行務實治理，明確‘AI換臉擬聲’應用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對利用人工智能技術(shù)實施犯罪行為的刑事處罰力度。與時俱進探索新議題的細化監(jiān)管措施，凝聚人工智能倫理規(guī)范共識。”雷軍提出。
代表委員普遍認為，AI治理需兼顧技術(shù)創(chuàng)新與風險防控，平臺責任是治理焦點。
鐘錚認為，平臺應加強對AI生成視頻的審核和監(jiān)督，確保內(nèi)容的真實性。對于AI生成的視頻，應強制標注警示性提示，提醒消費者注意辨別。此外，利用AI技術(shù)審核AI合成的視頻內(nèi)容，同時投入更多資源開發(fā)高效的AI審核工具，并結(jié)合人工審核，通過雙重校驗提高識別準確率。
“平臺企業(yè)開發(fā)可精準識別人工智能深度合成內(nèi)容的技術(shù)能力，創(chuàng)新直接有效的治理工具供給。加大人力物力投入，優(yōu)化升級通信軟件和內(nèi)容平臺巡查審核機制、投訴舉報機制、應急處理機制，確保及時阻斷問題內(nèi)容傳播。”雷軍建議。
在李東生看來，除了加快人工智能深度合成內(nèi)容標識管理規(guī)章制度的出臺外，還需明確對人工智能深度合成服務商未履行標識義務的懲罰制度，完善對深度合成內(nèi)容服務提供商未按要求進行標識的行為界定、分類細則，以及相應的處罰標準。加強深度合成內(nèi)容標識技術(shù)標準和發(fā)布的管理，出臺深度合成內(nèi)容標識的技術(shù)標準，保證標識的有效性。此外，對相關(guān)內(nèi)容平臺出臺要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時，有義務對其進行標識。還需加強國際合作，形成人工智能生成合成內(nèi)容的有效監(jiān)管。
京公網(wǎng)安備 11010102003980號