最近，有网友发消息称，“张文宏是不是深夜带货了？”视频中，张文宏在卖一种蛋白棒，让不少老人信以为真，疯狂跟单。仔细看网友提供的视频，张文宏正在反复介绍一种产品，口型是他的，声音也是他的，乍一看跟真的似的。但仔细一看，视频画质潦草，口型也对不太上，对AI多少有一些了解的人可以分辨出来这是AI合成的视频，但对互联网了解不深的老年人却不好甄别真伪。这段视频被网友曝光后，从账号内被删除，只剩商品橱窗里还保留着售卖的页面，并显示已售1180件商品。
张文宏本人回应称，气到想报警。其实，这种现象并非罕见，除了张文宏，不少名人都深受生成AI仿冒之苦。
现状：“眼见为实”的常规认知正在被挑战
当下，AI合成技术已经非常成熟且已被频繁应用在短视频制作中。调取一段录像，输入一段语音，便能提取克隆相关的嗓音特质，并针对“自行设计”的台词，智能修改口型。一段足以“以假乱真”的“带货”视频，再加上张文宏的名人效应，其形象和言论具有一定的权威性和影响力，让不少消费者信以为真。
除了向平台方投诉，张文宏医生称自己也考虑过向警方报案，但对方的账号一直在不断变化看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门能加强监管。他告诉记者：“报警总要有个对象对吧，现在报警报谁呢？他一天换一个账号，而且全是虚拟的，我向谁报警？所以我认为，他侵犯的是消费者的利益，我觉得相应的部门应该来进行处理。”
“这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。”对此，张文宏医生也表示既愤怒又无奈。不难想象，受害者们发现真相后的沮丧与失落。
在类似的AI合成冒充名人的骗局中，上当者比比皆是。
据报道，今年11月，江西一位老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自由AI合成的视频；今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌；更有甚者，已然过世的名人，也有被“借尸还魂”带货的……
在AI技术面前，“眼见为实”“有图有真相”的常规认知正在被挑战，人们对于网络信息传播的信任感也在被挑战。一些由AI合成的虚假视频内容，成为别有用心之人的造谣敛财工具，不仅影响着公众人物的专业形象和社会公信力，更破坏了互联网的诚信体系。
在自拍、短视频盛行的时代，想要让普通公民少露脸、少出镜，几乎是不可能的。所以，奇安信行业安全研究中心主任裴智勇提醒道，当公众遇到有人使用伪造视频、音频等内容对财产侵害、名誉损害时，最好的办法还是及时报警或向平台进行举报，减少深度伪造内容带来的影响。
案例：没有直接使用他人面部形象，也能构成肖像权侵害
近日，广州互联网法院就审结了一起由“AI换脸”视频合成模板引发的侵权纠纷。一位知名短视频博主发现自己的汉服装扮视频被某科技公司擅自制成了付费“AI换脸”模板。法院审理后认定，该公司的行为侵犯了博主的肖像权。
张先生是一位知名短视频博主，经常在各大自媒体平台上发布含本人肖像的国风汉服装扮的短视频。最近，有粉丝提醒他，在一款美颜拍照小程序当中，他的汉服形象成了视频模板，还需要付费使用。张先生发现，小程序的运营方是某科技公司，付费用户可以用此模板进行“AI换脸”，体验国风妆造。张先生的代理律师严茜告诉记者，在意识到自己的肖像权被侵害后，张先生把这家公司告上了法院。
广州互联网法院综合审判三庭庭长曹钰表示，经过综合判断，原告除了面部特征以外的形象，还是属于可以被识别的外部形象，张某对这个形象是有肖像权的。
广州互联网法院审理认为，某科技公司未经张某同意，擅自利用张某的身体形象使用AI技术制作“换脸”视频，构成对张某肖像权的侵害，结合本案具体案情判令某科技公司向张某赔礼道歉并赔偿损失2000元。
焦点：如何有效防范AI技术被滥用
随着技术的快速发展，近两年，AI领域迎来了一轮发展热潮。但AI带来便利的同时也暴露出不少风险隐患。
对此，曹钰表示，AI技术的发展使图像、视频等更加容易被修改，而且修改幅度更大、更深入、更容易使观看者难以分辨。为此，我们应当充分注意到AI技术对肖像权可能带来的影响，通过强化行政、司法和网络平台的监管、保护，以及全社会共同提高保护意识来更好地保护肖像权在内的各类合法权益。
在2022年，我国颁布的《互联网信息服务深度合成管理规定》就划定了深度合成技术的使用规范，包括不得利用深度合成服务侵犯他人合法权益等法律规定。
中国政法大学传播法研究中心副主任朱巍表示，对AI的约束要跟上AI技术的发展，在传播渠道上，可以对AI作品实现溯源。现在短视频平台，它实际上无法来判定这个作品到底是不是AI合成的，除非这个作品是在本平台用AI方式来完成的，生成人工智能平台和视频传播平台有没有一种方式能给AI的作品有一个标记，平台在加工处理和传播过程中也能够进行分辨，平台必须要对这种AI合成的作品有完全的技术上和制度上的把控手段。
观点：不能任由AI造假泛滥成灾
这种现象之所以猖獗，其实和追责困难有关，这点从张文宏的大吐苦水就能看出来。
这种乱象显然不应该再持续。快速发展的AI产业造成了相关信息的爆炸式增长，客观上给AI信息甄别带来了困难。因此，治理也应当提速，跟上产业发展的步伐。值得注意的是，今年9月，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》，明确要求AI生成合成的内容要在显著位置作出标识，这也是进一步提出的强制性规范。
而问题的关键还在于执行，尤其是生成AI的主要使用场景——短视频平台，更要主动承担主体责任。对于生成AI内容应当进行更加严格的审核，并定期进行大规模内容筛查，如发现违规使用场景，就应当对账号作出严肃处理。同时也应当对被侵权人和消费者维权提供更大的支持。
无论如何，不能任由AI造假泛滥成灾。从新闻也能看到，被造假的名人只能“发声明”，上当的消费者只能“认倒霉”，这种无力被动的状况必须改变。对此，无论是相关部门还是互联网平台，都需要进一步发力，提高信息筛查能力，让侵权者付出沉重代价，也让AI的技术发展始终保持在法治轨道之内。
（综合央视新闻、光明日报、新京报、潮新闻）