当前位置:首页 > 安防资讯 > 安防业界

如何让AI变傻看看这些图片都那些特别之处

人工智能很“聪明”,尤其在于识别这一块,可以做到很多人类难以做到的事情。比如说,通过识别人脸验证身份信息;能从监控中准确找到罪犯的身影;能够自动分辨网站上的图片是否含有色情内容。

人工智能通过计算机视觉技术,GPU赋予快速处理图片的能力,搭载神经网络让机器辨别以及理解图片。但机器视觉与人类视觉又存在很大的差异,能够让人类视觉犯错往往是因其复杂性,而能够让机器视觉犯错的图片,你知道长什么样吗?

机器视觉新病毒——对抗样本

举一个简单的例子。

在上图中,一开始神经网络还有57.7%确定图为一直熊猫,而经过一点点处理之后,竟然变成了99.3%的把握认为是一直长臂猿。你说AI是不是有点傻呢?

其实,主要还是机器的视觉模式造成的,本质上更像是一个分类器,辨别图片中的熊猫、树…最后输出结果,告诉人类照张照片有90%可能是树。

还有很多这样能欺骗机器的图片,名为对抗样本。对抗样本能够混淆机器的视觉,可怕的是目前还没有很好的办法来解决,所以这更像是“病毒”一般的存在。

谷歌曾经做过一组实验,将下面这些小圆点的图案让机器分辨,机器也立马给出了答案,只不过却又很大的不同。

不过大家也不必太多担忧,这很难发生在现实应用场景当中的。且对抗模型的开发也是需要时间和金钱的。

AI的迷幻药

这可以说是AI的迷幻药了,前一秒说是香蕉,后一秒就说是吐司机。

这些图片之所以能让AI晕头转向,主要是因其某一分类的特征浓度够高,从而导致AI忽略了其他因素,直接给出答案了。但是,这些图片都是需要经过复杂处理才能做到欺骗神经网络。

现在我们来想象一下,虽然我们不能改变真实世界的像素点,但是如果把这类图片打印下来,贴在各个地方,或许真的能改变很多东西,你也可以变成行走的吐司机。当然这只是一种可能,这场实验告诉我们,AI的其实也并没有那么聪明,安全程度也比我们想象中要低。

华强智慧网结语

AI虽然智能,但相较于人类始终是缺乏了灵活性。但AI的技术还处于发展当中,未来的成长空间巨大。这些图片实验告诉我们,让AI进入到物理世界,恐怕还需要再做些准备。

来源:华强智慧网     编辑:     热度:  
更多.
工具资料
安防技术
热点资讯

更多.最新内容

更多.热门关注