被AI仿冒困擾的不止張文宏一人。如何識別AI換臉換聲？AI在商業中的合法使用場景如何界定？如何防止AI技術被濫用？部分政協委員對此進行了解讀。

如何識別AI換臉換聲？

隨著技術發展，AI生成的畫面、聲音、視頻越來越逼真，普通用戶愈發難辨真偽，因此也出現了不少利用AI進行違法犯罪的案例。那么，如何識別AI換臉換聲？

全國政協委員、金杜律師事務所高級合伙人張毅介紹，在特定場景下，如深度偽造的實時視頻，可以在視頻對話時，臨時要求對方在臉部前面揮手等方式進行識別。實時偽造的視頻，在揮手過程中，會造成面部數據干擾，所偽造的人臉會產生一定的抖動、閃現或其他異常情況。若是短視頻換臉，一般出于娛樂大眾的目的，仿真度一般較低，只要注意觀察細節，如眨眼頻率、聲畫同步情況等，便容易發現是否為人工智能生成內容。

“依法進行生成式人工智能的內容標識，應成為識別主要方法。”張毅介紹，《互聯網信息服務深度合成管理規定》要求深度合成服務提供者對深度合成的內容添加顯式或隱式水印。《人工智能生成合成內容標識辦法（征求意見稿）》《網絡安全技術人工智能生成合成內容標識方法（征求意見稿）》亦均有相關規定。

“所以說，AI換臉不是想換就能換，有可能涉及肖像權及個人信息權益侵害問題，進而承擔相應的法律責任。”張毅提醒說。

如何合法使用AI聲音和人臉數據？

目前，國內市場上存在多種提供AI生成視頻服務的新型軟件，“合法邊界”問題成為大家熱議的重點。

談到合理合法使用AI聲音和人臉數據，張毅表示要堅持幾個原則：首先是合法獲取，即取得數據主體的明確同意。對此，《中華人民共和國民法典》有明確規定。其次是明確用途，即取得授權同意。若對聲音、人臉數據用于與收集時告知的目的不符的其他用途，也可能存在數據濫用的法律風險，如侵犯個人信息保護。再次是數據保護。采取必要的技術措施保護聲音和人臉數據在存儲和傳輸過程中的安全，否則可能存在數據泄露的法律風險，如個人信息泄露導致的侵犯隱私權問題。同時，要嚴格遵守行業標準。比如，電商場景、游戲場景中若自動生成的內容包含侮辱、誹謗、淫穢、暴力及虛假宣傳等，可能違反《互聯網信息服務管理辦法》。

如何防止AI技術被濫用？

任何技術的應用和發展都應建立在符合道德倫理、社會規則和法律的前提下。如何防止AI技術被濫用，讓“科技向善”落地有聲？

張毅建議，一是在源頭端，需要進一步加強公民個人信息保護，尤其是加強對生物特征等隱私信息的技術、司法保護力度。二是在技術端，研發AI產品的企業和使用AI產品的平臺要做好“守門人”的工作，不僅要確保所有的開發和使用活動符合相關的法律法規，也要增強透明度，向用戶清晰說明產品功能、數據使用及潛在風險。三是在法律制度層面，要進一步完善人工智能等領域相關法律法規。

“首先，盡快推進人工智能法出臺，讓人工智能監管有法可依。其次，加強行業標準制定，確保企業在使用AI技術時遵守法律和倫理規范。此外，完善的責任追究機制也至關重要，以明確各方在人工智能濫用時的法律責任。最后，可以推動跨部門協作和信息共享，以提升對AI技術綜合監管能力，確保技術發展與社會利益之間的平衡。”張毅進一步建議。

監管如何跟上技術發展？

AI技術快速發展，監管如何跟上？

“當前，明確AI在商業中的合法使用場景刻不容緩。”十三屆全國政協委員，云南聯通黨委書記、總經理張云勇表示。

張云勇建議，首先，完善法律法規，加強監管力度。應進一步完善相關法律法規，明確AI技術在直播帶貨等商業行為中的使用場景負面清單，確保AI合成技術用于商業宣傳和帶貨的視頻內容合法合規。

其次，加強技術監測與信息共享。識別AI換臉直播帶貨的技術涉及到機器學習算法、圖像與音頻分析技術、人工審核與AI算法輔助等多個方面，只有綜合運用這些技術，才能提高識別AI換臉內容的準確性和效率，進而保護消費者免受欺詐。因此，要推動建立跨平臺的信息共享和協同機制，對AI直播帶貨侵權行為賬號相關責任人進行聯合打擊和治理。

再次，強化安全合規主體責任。一方面，直播平臺應承擔起對直播主體的監管責任，強化技術手段應用，加強對直播帶貨內容的審核和管理。另一方面，電商平臺應建立健全內部質量管理體系，要嚴格篩選主播和經過AI處理的視頻及商品，營造健康有序的直播環境。

張云勇進一步建議，要鼓勵行業協會制定直播行業帶貨的行業標準和行為準則，引導企業自覺遵守，強化直播營銷平臺、直播間運營者、直播營銷人員的主體責任。推進行業信用體系建設，向社會公布行業內從業人員、平臺等信用等級，推動“直播帶貨”信用體系建設。

十三屆全國政協委員、第五空間信息科技研究院院長談劍鋒建議，要進一步擴大監管范圍，不僅要監管技術應用，還要在前端的技術研發立項階段就進行源頭管理。同時，適當整合監管手段。對生成式人工智能技術的發展，不僅要在各個分領域做相應調整，還要做好系統整合，用好技術和法律的合力，健全適用性高的人工智能技術法律體系。

“在人工智能技術迅速發展的背景下，監管必須具備靈活性和適應性。”張毅表示，在法律層面，可以采取靈活審慎的立法策略。針對突出問題，可以通過出臺司法解釋、監管部門指導意見等形式解決；在涉及具體場景問題時，可以通過先行先試、監管沙盒等方式進行探索，也可以先出臺地方立法或部門規章，再逐步推進立法。

在張毅看來，人工智能應用涉及面較廣，跨界合作至關重要。政府、行業和學術界需要共同參與，分享最佳實踐和技術標準，從而制定出科學合理的監管政策，也可以考慮借助AI手段進行監管。