无人车被骗、指纹被识别、定位被干扰:AI安全风险超出你的想象

2019-12-02 11:58:50

经济观察网的记者任萧宁在路边有两个看起来一样的交通标志。所有的招牌都指示停止,任何开车的人都会停下来。然而,当没有人经过时,他们会有疑问,不知道是停下来还是过去。

10月15日,百度安全总经理马杰演示了上述实验。虽然两个交通标志肉眼看起来完全一样,但其中一个背景有轻微的污点,这是算法计算的污点。带有污点的标志,在机器视觉看来,意思完全相反,它是交通,而不是停车。

"如果被坏人利用,这是一种可能的风险."马吉说。

马杰已经在安保行业工作了20年。目前,他的主要研究方向是人工智能安全。他告诉包括经济观察网在内的记者,在人工智能时代,以前的安全风险仍然存在,一些新的风险已经出现。包括隐私保护问题,包括新人工智能技术带来的模型安全问题和传感器问题,以及人工智能前端aiOT小型设备上的云安全问题。

还有更多的安全问题

人工智能时代有四大安全风险。

一个是机器学习和适应人类。在机器适应人类的过程中,大量的深入学习技术被使用,这将带来包括模型安全在内的新问题。

二是深入研究。深度学习需要大量数据作为原材料来使机器变得智能,这带来了数据安全和隐私问题。

第三,一切都是互连的,aiot设备被完全覆盖,这将带来与系统和网络安全相关的问题。

第四,人工智能渗透到社会和经济的方方面面。“同样的问题,20年前最大的损失是电脑上的文件,风险是有限的。在人工智能时代,较小的风险可能会导致更大的问题,而质量的变化会因数量的变化而发生。”马吉说。

除了没有人被骗的实验之外,马吉还展示了其他几个实验。通过算法和机器视觉的对抗,一辆现有的汽车可以消失,一个人也可以给人留下错误的印象。

人工智能时代出现了大量的传感器,也出现了新的问题。马杰的团队做了一项研究,测试市场上8款旗舰手机的指纹识别。因此,所有的模型都可以完美地破解。

“在新的人工智能时代,会有许多我们以前没有意识到的风险,尤其是从人类的角度。”马吉说。

如果你能找到它,你就能解决它。

人工智能安全领域存在很多问题,有什么解决方案吗?

作为安保业务的负责人,马吉将定期安排外部专家侵入团队成员系统。他的目的是评估团队发现风险和及时停止损失的能力。

目前,中国领先的人工智能公司已经研究人工智能安全多年。马杰告诉记者,安全最重要的是赢得黑色产品。"找出他们面前的问题,然后和每个人一起解决它."人工智能安全几乎没有边界,需要提前发现。

"很多时候,当问题出现时,解决方案实际上更容易处理."Majie说,例如,如果证明机器视觉有被恶意攻击的可能性,制造无人驾驶汽车的团队肯定不仅会使用机器视觉作为唯一的判断来源,而且会交叉验证,从而解决无人驾驶汽车被欺骗的风险。当指纹被发现不安全时,手机制造商也会做出反应。

黑色生产是安全行业的一个老问题。一些证券从业者说,每年可能有1000亿元的资金流入黑色产品的口袋,但我国所有的证券公司每年的总销售额只有300-400亿元。

马吉承认这确实是事实。然而,一个趋势是形势正在好转。“几年前,我们说证券市场只能有100亿元,但现在已经增加到300亿到400亿元。”这是由于近年来国家政策、研究机构和各种公司不断提高安全意识。他告诉记者,安全最重要的是要有安全感。“我们相信世界上没有什么是不会被攻破的,”他说。"只要我们思考这个问题,许多问题就已经解决了."

本文已被认证为“原创”,作者《经济观察报》访问了源本io,向[3t8wdhjq]查询授权信息。

河北十一选五 黑龙江十一选五开奖结果 河北快三开奖结果