谨防AI技术击穿安全底线,有必要出台法律、明确监管框架
近日,包头警方发布一起利用AI实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。AI既可以换脸还可以拟声,逼真到视频聊天也看不出破绽,“仿真”程度足以以假乱真,这让不少人“细思极恐”。
此前,在多个省份都有类似案例。骗子往往通过有偿收购等手段获取他人音频素材等基础“物料”,利用AI技术合成声线、“活化”照片,然后“骗过”验证、登录他人社交平台并联系“好友”诈骗获利。深度合成技术正瓦解“眼见为实”的信任逻辑,一张正脸静态照片,在经过“活化”处理之后,可以呈现出丰富表情、生成流畅视频。同样,经处理后声音也可呈现真人音效,足以以假乱真。
目前,深度合成应用正呈现出指数级增长,一些滥用该技术的行为正带来肉眼可见的伦理和治理问题。除了用AI换脸假装好友诈骗,还有人用它来制作他人不雅视频、冒充明星带货等等。在支付场景日益丰富的当前,人们的面部、声音、指纹、虹膜等生物信息的使用越来越广泛,隐私泄露等风险隐患点也随之增多。同时,人工智能的深度学习和算法越来越先进,其处理过的音频日益逼近真人,恰如那句网络流行语:你永远不知道网络的对面是一个人还是一条狗。如果不对此类技术加以限制,AI技术不仅容易威胁到他人财产安全、伤害个人尊严和隐私,还可能会构成较大社会危害。
英国科幻剧《黑镜》通过若干小故事带领观众思考未来数字化生存的挑战,探讨了数字化生存危机,指出“科技至上”和技术专制的尽头或许是不测深渊。要防止坠入技术滥用的深渊,当然要靠公众提升防护意识、避免网络“踩坑”,不过在技术优势面前,自我防护效果有限,人们总有意识松懈麻痹时。因而,要求公众有不“踩坑”的意识之外,更需要相关部门和企业积极引导技术向善,完善风险治理体系,从而帮助公众堵上高技术诈骗这个漏洞。
面对有可能击穿安全底线的技术风险,有必要出台法律、明确监管框架,给AI技术套上缰绳。当前,AI合成技术还属新生事物,立法和监管应当紧跟实际、甚至具有一定前瞻性。警惕科技“变坏”,关键还在于不能让AI“吃”进过多公众信息,否则这些信息就有可能被大数据技术抓取,让不法分子描摹出精细的用户画像。相关平台要加大力度研发防骗反诈监测系统和应急软件,同时基于自身大数据能力和安全防护能力,对侵权行为及时采取删除、屏蔽、终止交易和服务等必要措施,以科技防骗杜绝科技诈骗。
- 【招聘】工行安全攻防实验室招AI安全、云安全、移动端安全等信息安全技术岗
- Airwallex空中云汇与MODIFI贸德飞携手推出全球账户解决方案
- Airwallex空中云汇迈入以色列市场,将在中东全面拓展业务
- Airwallex空中云汇焕新升级“云汇伙伴”计划
- 跨境支付服务商Airwallex香港业务收入按年增207%
- Airwallex空中云汇吴恺:强化中国业务布局,以全球金融服务设施服务中国企业
- Airwallex空中云汇携手百度国际,助力跨境电商高效营销推广
- 马上消费:大语言模型安全热议下,金融行业AI风险的思考
- 【出海周报】跨境外汇再增1家 香港坡县高层变动频 Airwallex PingPong“扩服”
- Airwallex空中云汇上线JCB银行卡收单服务