都需要事先获取被攻击对象(即被识别的图像)的大致内容,但这张“神奇贴纸”却什么都不用做——不管它试图干扰的图像里有什么,它都能正常工作。
人类不会轻易被这些黑客手段蒙骗,但这并不意味着我们可以彻底的免疫。比如,魔术师们就可以利用人类大脑的潜意识行为倾向,分散我们的注意力。这里有一个典型的例子——著名的两队传球:如果要求观众计算其中一支球队的传球次数,他们的注意力就会完全集中在球上,而看不到一个身穿着球衣的男子走到球员跟前,猛击他的胸部后离开了。可见,不仅算法存在视觉盲点,我们人类一样也有视觉盲点。
无人驾驶汽车所使用的也是视觉识别算法,很明显,这些算法也可能受到类似的攻击。想象一下,一个停车标志上贴着一张“神奇贴纸”,一个安检系统把枪错认为一只海龟……将会发生什么?
我尝试在摄像头前做一些奇怪的、扭曲身体的动作,以对Kinect算法进行测试,看是否会对其识别结果产生影响。事实上,即便是训练数据中从未出现过的瑜伽动作,Kinect算法也能高度准确地识别出我身体的各个部位。由于缺乏外部刺激,即人身体能够做出的所有动作基本都是固定的,所以这个算法没有进一步“进化”。事实上,它也不需要进化,因为它正在有效地完成人类交给它的工作。而其他的一些算法可能需要不断适应新的变化,例如,算法若要给我们推荐喜欢看的电影、想读的书、想听的音乐,那么它必须是灵活的,足以应对我们不断变化的审美品位,并要能启发人类的思维和智慧去生成创造性的新潮流。
这就是算法能够不断学习、完善并适应新数据的力量所在。机器学习为其开辟了一个新篇章,即算法会像我们人类一样成长并走向成熟。
63107650
病柳提醒您:看完记得收藏【蓝色书屋】 www.liaseo.com,下次我更新您才方便继续阅读哦,期待精彩继续!您也可以用手机版:m.liaseo.com,随时随地都可以畅阅无阻...