近日,AI换脸技术因几例诈骗案的告破引发大众关注。一位包头老板被AI换脸诈骗430万元后,安徽警方又公布了另一起AI换脸导致的诈骗案,涉案金额同样高达百万元。
伴随着AI大模型的发展,深度合成技术应用范围越来越广,门槛也越来越低,催生了美颜换脸、影视制作、虚拟主播等应用服务。
(相关资料图)
技术突破还使得换脸后的人物表情、动作细节更为逼真,存在被不法分子恶意利用,制作违法和不良信息,诋毁贬损他人名誉,仿冒他人身份实施诈骗等现象。
付费软件可支持直播换脸
商家宣称“混合多个人脸”可降低侵权风险
红星新闻记者注意到,自今年起,市面上涌现出许多以“AI换脸”为宣传标签的软件和网站。由于涉及人脸信息泄露等网络安全问题,该类技术的运用一直是网络安全监管的重点对象,许多换脸软件因而通过短视频平台、社交账号等私密渠道进行资源共享。
5月底,红星新闻记者实测发现,以“AI换脸”为关键词在电商平台搜索,显示“没有找到相关宝贝”,但通过类似关键词搜索,依旧可以搜索到相关的换脸技术服务。一名商家向红星新闻记者介绍,目前店铺只支持换大部分国外明星的脸,不含国内明星的脸部模型。
另一位商家则介绍,可以提供国内明星换脸服务,软件价格2000元一套,可送一个模型,“模型可以定制,另外加500元一个。”据该商家销售人员说,他们的模型要比网上免费分享的“swapface、表情照相机”效果更好,且操作上简单易学,几分钟便可以学会。
此外,该名商家提供了多组套餐供选择:包括单图换脸、实时换脸、全自动换脸等,价格多集中在2000元至3000元每套。对于红星新闻记者提出的侵权顾虑,该商家表示可以进行多个人脸混合的方式,即将使用者本人的脸和明星的脸进行混合,从而降低侵权风险。
在某销售网站上,一名软件开发者向红星新闻记者展示了如何将知名女星的眼睛和嘴巴拼接融合到一起,生成全新虚拟数字人的过程。据介绍,该款软件提供了从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,付费499元可提供软件界面、视频指导、入门级模型、基础指导等,付费2888元,则可得到全套(LV5)等级的视频换脸模型。价格不同,套餐中包含的人脸模型数目也不同。
上述软件开发者介绍,软件不仅可以实现视频换脸,还支持直播换脸。“如果你有看中的脸,可以找到某个人的正面、侧面等各种角度视频拿来训练。”该软件开发者同样表示,“如果你想要明星脸,又怕侵权,不想那么像,就可以找几个人的脸放在一起训练,就可以看上去又像又不像,达到明星脸的效果。”
广告
X 关闭
广告
X 关闭