首页 > 观点 > 正文

南财快评:“AI换脸”暗含法律风险,多方共治实现“科技向善”

2023-05-26 15:39:38 21世纪经济报道 21财经APP 赵琮

新媒体时代,“AI换脸”技术在生活中逐渐增多。通过人工智能的人体图像合成技术,能将原有影像中的面部特征更改、替换,呈现其他个体的面部特征,效果逼真,甚至可以欺骗其他AI、完成“刷脸支付”。近来媒体爆出多个“AI换脸”诈骗案件,新华社,央视等多家中央媒体都发文讨论如何防范此类问题。

“AI换脸”技术具有低成本、低门槛特征,普通百姓也能直接获取换脸后的影像,能够轻易满足娱乐需求。但是,这一技术也逐渐成为侵害他人合法权益的工具与手段,出现于越来越多的违法犯罪案件中,甚至在网络平台形成了从技术研发到人脸识别应用的完整灰色产业链条,其风险与管制明显失衡,引发了社会各界的关注与担忧。

首先,“AI换脸”技术暗含了侵权色彩,必须在明确授权后使用。

人脸作为公民的核心识别信息,既是肖像权的一部分,也是重要个人信息,受到法律的严格保护。根据《中华人民共和国民法典》之规定,“未经肖像权人同意,不得制作、使用、公开肖像权人的肖像”,每个公民都有权拒绝将自己的面部转移至其他人的身体形象中,也有权拒绝将其他人的面部转移至自己的身体形象中。技术使用者若未获得面部主人的单独授权,即构成对肖像权的侵犯,生活中的大量“AI换脸”技术已经构成侵权,只是其未被关注、或消极影响较小。

其次,“AI换脸”技术的真正风险在于其用途的多样性,导致信息的真实性受到前所未有的重大挑战,所见不再为实。

长久以来,面部特征都是公民个人最明显、为他人所信赖的个人特征,“AI换脸”技术能够欺骗这一固定思维,给科技伦理、人身及财产安全等带来危害,参与刑事犯罪。实践中,有大量技术使用者将他人人脸替换在不雅色情视频、违法行为视频中,捏造不实信息、降低其社会评价,侵犯名誉权的同时,也成为诽谤罪、制作淫秽物品牟利罪的犯罪工具;或通过模拟他人的点头、摇头等面部表情生成虚假影像,成为在网络贷款、盗窃或精准诈骗时进行身份核实的手段,让网络侵权、网络犯罪更容易实现。

最后,合理规制“AI换脸”技术,需要各方共同参与、协同发力。

研发者、运营者必须明确认识到这项技术在法律上、伦理上的严重滥用风险,在开放使用时设置更为严谨合理的制度与技术措施,实现源头治理。2023年1月生效实施的《互联网信息服务深度合成管理规定》已经明确要求,此类“深度合成技术”的服务提供者,必须尽到提示、监管义务:告知使用者需要获得授权;展现的影像中需要标有“经过AI技术处理”的明确提醒,避免公众混淆或误认;对技术平台开展安全性评估等。上述措施能有效规避一些法律风险,否则,平台运营者同样需要因其过错承担相应的民事、行政责任。

网信部门、公安机关需要重视这一情况,加大对涉及AI换脸违规违法现象的整治打击力度,并将“AI换脸”技术领域的法律规范进一步细化明确,严格监管,对违法、侵权、犯罪行为重拳出击。对我们个人,也需要意识到面部特征是重要的个人信息,保护好自己的人脸图像,依法维护自身权利。

深度合成技术不断推进,“AI换脸”技术导致的法律问题仅仅是一个开端,也是网络发展不可回避的伦理冲击。必须多主体共力协同、多管齐下,通过结合行业治理、技术进步、司法惩治,共同营造个人信息保护的良好氛围,真正实现“科技向善”。

(作者系中闻律师事务所高级合伙人,澳大利亚新南威尔士大学法学博士)