深圳信息港

每日热议!马保国成AI换脸的“新宠”?当心打开了“潘多拉”魔盒!

2023-06-13 10:10:49 来源:张家口新闻网

曾经爆红的马保国,近日又成为网络热词。只是这次是因为他的脸成了被AI换脸的“新宠”。

在各大短视频平台,马保国的脸被人恶搞“安装”在各种人身上,配合搞笑的肢体动作、语言、配乐等,着实给发布者带来很多流量。

网友这般跟风“创作”,虽然大多数是把马保国的头像当作“搞笑”素材,但这背后反映出AI应用走偏带来的风险隐患,值得人们严肃讨论。


(资料图片)

正如马保国本人在其个人短视频账号中所作的普法提示,网友在未经其本人允许情况下大肆使用其个人头像,已涉嫌侵犯公民肖像权。我国民法典中明确规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。除非是法律另有规定,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。

必须看到,AI换脸应用技术的泛滥,正给我们的生活带来已知或未知的严重后果,由此引发的案件已多次发生。

女子地铁照被AI“一键脱衣”

就在今年3月,广州一女子在地铁上乘车照片被AI“一键脱衣”,相关造谣图迅即在网络广泛传播,事实上,这张裸体照并非真实照片,原图中她衣着正常,完全没有任何不妥之处,但却被有心之人用AI软件“一键脱衣”故意全网散播,对个人已造成巨大伤害。(>>此前报道)

此外,多起AI换脸或AI换装的争议事件也引起网友讨论。

“AI换脸”诈骗防不胜防

前不久,多地警方提醒公众警惕“AI换脸”新型诈骗,就有一男子因AI“偷脸”,10分钟被骗430万元……

近日,内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。

来自福建的郭先生是一家科技公司的法人代表。今年4月,他的好友突然通过微信视频联系他,称自己的朋友在外地竞标,需要430万元保证金,想借用郭先生公司的账户走账。

基于对好友的信任,加上已经视频聊天“核实”了身份,郭先生在10分钟内,先后分两笔把430万元转到了对方的银行账户上。

事后,郭先生拨打好友电话才得知被骗,原来骗子通过AI换脸和拟声技术,佯装好友对其实施诈骗。“当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”郭先生事后说。

这类案件虽与马保国所遭遇的被换脸恶搞属于不同性质,但人们必须要警惕在这种泛娱乐氛围中大家会逐渐失去对AI换脸的风险意识。如果AI换脸能够被轻松应用,这将大大降低侵权、诈骗行为的门槛,也将令所有人陷入防不胜防的悲催境地。

央广网评

这一次是马保国,下一次没准就是你我这样的普通人。这一次换脸引发的是恶搞,下一次或许就是我们中的任何一个人被恶搞、被构陷、被……细思极恐。无论如何,在AI应用日益频繁且多元化的今天,对其可能带来的风险,我们绝不可忽视,且每一个驻在互联网空间的居民都要自觉守护个人权益不受侵犯。

这一现象应引起监管层面的重视。

到底哪些AI应用应该被规范和克制,哪些应被彻底禁止?

如何确保AI应用开发不触犯法律和伦理底线?

个人如何有效防范AI应用可能伴生的公民权益风险?

平台对于类似AI换脸内容的传播,是否有必要作出限制?

这些问题都应该在AI技术的研发应用实践中同题共答。总之,有效预防AI应用误入歧途,避免打开“潘多拉”魔盒,是我们每个人必须采取的态度和行动。

(来源:央广网|作者 朱昌俊)

编辑:郑雪梅

关键词:

热门推荐