在赛博世界中隐身穿行:逃避识别检测,算法是怎么被击破的?
在许多科幻电影中,赛博世界身穿通过脑机接口进入的中隐虚拟世界完全由代码构成,在现实世界中只需要修改几行代码,行逃主角就可以自动加载所需要的避识别检技能,成为足够为所欲为的测算超级英雄。
赛博时代,法被现实与虚拟之间的击破界限正在越来越模糊。在人脸识别开始决定我们的赛博世界身穿身份,智能算法在揣测我们的中隐现实喜好的同时,一些背刺人工智能算法的行逃技术正在悄然成长。
在2022世界人工智能大会现场,避识别检一家名为瑞莱智慧的测算公司展示了一项足以让人在人工智能视觉算法面前“隐身”的技术。界面新闻记者拿上一件他们定制的法被T恤挡在身前,和同伴同时站在一台带有视觉算法的击破人体识别机器前。电脑屏幕中可以清晰识别出同伴的赛博世界身穿人脸并且根据移动位置实时跟踪,而被T恤所挡住的记者则形若空气,处于“隐身”状态,不论靠得多近都无法被机器所识别出。
展台现场工作人员告诉界面新闻记者,这件可以让人隐身的“T恤”真正的秘密在于胸前的特定图案。这些图案由特定的代码生成,它可以对抗基于人工智能视觉识别技术的检测算法,使其出错。普通人一旦穿上,就可以逃避检测系统的追踪,让识别系统检测不到该目标。
瑞莱智慧方面解释,实际上,这种技术所反映的是人工智能的结构性缺陷。目标检测系统大多基于数据驱动的深度学习算法,存在不可靠和不可解释等局限性,即便是开发者也难以理解其内在的运行逻辑,这一结构性漏洞可能导致系统遭受恶意攻击。
上述所演示的人体检测技术在当下被广泛利用于各种安防场景。此外,工作人员称,该隐身攻击对象也可拓展至更广泛的识别检测系统上。例如,车辆检测是自动驾驶智能感知系统的一项常用功能,只要车辆位于摄像头前方,一般的检测系统都能准确识别出车辆和车辆的位置。但如果车身上粘贴了对抗图案,就可能使检测算法出错,变得无法被检测到,进而可能导致一些交通事故的产生等等。
据介绍,这套“隐身”技术属于是攻防实战中的一个具体实验场景,它搭载于瑞莱智慧人工智能安全平台RealSafe中,该平台主要提供人脸比对、图像分类、目标检测三类通用计算机视觉场景的安全测评和加固,帮助提高AI系统的安全性。
(责任编辑:娱乐)
- 高盛:需求急剧减速 大幅下调Beyond Meat目标价至5美元
- 华泰证券:消费“重启”,科技“共生”
- 意大利计划拨出至少150亿欧元应对能源危机
- 酱酒终端动销调查:高库存、贴牌乱象扰动市场,资本退潮下行业洗牌加速
- 债市风波暂平 短债理财“转危为安”
- 中远海运与中国一汽签署战略合作框架协议
- 适马18-50mm F2.8富士X卡口镜头现身电商平台,售价约4000元
- 证券日报:双积分驱动汽车行业高质量发展
- 贵阳银行招标疑云再起:易鲸捷独吞4.2亿数据库大单,项目仍未上线
- 直击第五届进博会首日:首发首秀齐亮相 环保科技唱主角
- 张永伟:中国新能源汽车能够保持持续领先的非常关键力量 在于科技企业
- 成为主要股东一年多之后,中国信达拟减持方正证券2%股权
- 世界杯70%周边商品来自义乌制造!有商家一个月接上百万个足球订单,也有小旗子商家感慨又卷又淡
- 韩国一列火车脱轨 致首尔地铁1号线暂停运行