您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
3D模型也能做—CSAIL做出被谷歌AI识别成枪支的玩具乌龟
2017年11月06日 由 yuxiangyu 发表
373361
0
在过去，我们欺骗AI的对抗样本往往是平面图。而近日CSAIL（麻省理工学院的计算机科学与人工智能实验室）的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。
[video width="1280" height="720" mp4="http://imgcdn.atyun.com/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4"][/video]
从视频中我们可以看到，即使我们移动或翻转这只玩具龟，AI仍然认为这是一支来福枪。CSAIL研究人员表示，开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本，如果想要更加安全的自动驾驶技术，这无疑会成为接下来的研究焦点。
此外，3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范，可能会造成很严重的事故。
[video width="1280" height="720" mp4="http://imgcdn.atyun.com/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4"][/video]
从视频中我们可以看到，即使我们移动或翻转这只玩具龟，AI仍然认为这是一支来福枪。CSAIL研究人员表示，开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本，如果想要更加安全的自动驾驶技术，这无疑会成为接下来的研究焦点。
此外，3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范，可能会造成很严重的事故。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消