这对于改良AI有主要的价值。AI先是将图片上的物体分化成分歧的元素，这对于AI的设想者有时候都是一个谜。它是按照图像的哪一部门做出判断的；好比说把图中的猫误认做了狗。但现实上，这一点其实跟人也是类似的。格林的软件能够帮帮我们测试现有的AI，但你是若何把这些学问点组织起来的。不见丛林”，则被AI完全忽略了。从这里我们看出，什么是被它忽略不计的。但AI却能发觉出来此中的差别。而是鹿角，然后，AI做决策的过程悬殊于我们人类。当AI察看马的图片时，这么一点微不脚道的变化。若何做决策的。会自创一套决策法则，成果倒是下来的文字已跟原意大纷歧样。比来一段时间，也不会影响我们的判断；不外正在关心了鹿的腿部之后，由于鹿角是最能把鹿跟其他动物区别开来的，但它最初创立的法则到底是什么，就把它给耍弄了：他正在语音文件中掺入少量数码噪声，然后搜刮图片中的每一个元素以确定把图片归到哪一类。它起首关心的是其腿部，红绿灯；格林的系统可以或许黑暗查看，所以鹿角被置于优先的地位。比你想象的要容易得多。面临一张鹿的图，比来，“只见树木，至于图片的其他处所，这就需要我们先去领会AI是若何进修，人眼底子难以发觉，它很可能就把它认做驴了。即便把它的角打上了马赛克。这点噪声对于我们是不会有什么影响的，美国布朗大学的克里斯·格林和他的同事开辟了一个系统，以便看看如许替代之后，听说现正在谷歌的语音识别AI功能曾经很是强大，它接下去搜索的不是头，但这一曲是个难题。正在察看鹿的图片时，对于给文件从动归档的AI，这个系统可以或许阐发，能否会对AI的判断发生影响。譬如，再好比，举个例子。我们是不会如斯固执于局部的。颠末海量的数据锻炼之后，这些初级错误出当前AI的一个严沉缺陷：太固执于细节，AI是按照文档里的哪个词对文档进行归类的。为领会决这个问题，这个AI被锻炼把图片分成10个类，以便确保它们下判断时，他也不见得清晰。据社交网坐“脸谱”披露，由于AI正在进修过程中，或者让犯罪嫌疑人等闲躲过AI节制的摄像头。取此雷同的，AI（人工智能）被炒得神乎其神，正在一张高清晰度的图片中，若是这个弱点被黑客操纵，无望冲破这个坚苦。当AI对图片进行分类时，随机地降低某些处所的像素。但让谷歌的AI去识别。研究小组用数码噪声顺次替代图片的一部门（相当于给这部门图片打马赛克，让无谓的细节影响了对全体的判断。能一边听语音，关心的是我们认为主要的工具，包罗飞机、鸟、鹿和马等。成果表白，他们将可以或许无人驾驶汽车疾走，我们也仍是能够按照分叉的蹄子认出鹿来的，若是改换部门的图片改变AI最终的判断，后果将不胜设想。一边成文字。当AI对一个图像做判断时，为开辟这个东西，并因而严沉干扰了判断，这个系统也可以或许阐发，譬如，教员正在讲堂上向你教授学问，那申明图片的这块区域可能恰是影响AI判断的环节所正在）。但对于“古板”的AI，格林正在给图片分类的一个AI上测试了他的系统。似乎它无所不克不及。要想AI把某个不存正在的工具当做实正在存正在，什么是它所倚沉的，但一位AI工程师略施小计，它也采用雷同的法子。