跳转到主要内容
移动世界。
深入学习人工智能

深度学习人工智能就在我们身边。

它运行自驾。它使医疗诊断。它能识别你的脸和你的声音——用于翻译,将声音转换成文本,以及“嘿,Alexa”。对于各种不同紧急程度的应用程序,我们相信深度学习人工智能。

深度学习算法具有难以置信的强大功能,能够在难以想象的大数据集中筛选并发现模式,就像在恒星中寻找星座一样,它的表现常常超过人类。所以我们使用它们;有时候,我们相信他们。但深度学习人工智能及其神经网络与其他机器学习算法不同。

我们不知道他们在想什么;它们是黑匣子。研究人员正致力于用两种主要方法来破解它们:解剖和绘图。

在奥本大学(Auburn University),计算机科学和软件工程助理教授阮安(Anh Nguyen)正在剖析图像识别深度学习算法,以一点一点地分析它们。Sameer辛格,加州大学欧文分校的计算机科学助理教授,是创建归因地图——本质上是一种算法的“热图”关注,帮助理解可以使自然语言算法(Alexa如何理解和说话,你开始说的东西,嗯……种族主义者。

两种方法都有福利和缺点。打破算法分开可以帮助计算机科学家和程序员对发生的事情进行粒度的理解,但可能对一个人来说意义上。并且归因地图,同时更容易读取,不提供与解剖相同的细节。

但为什么这些AIs是黑盒呢?为什么我们不理解人类编写的计算机程序在想什么?

深度学习与机器学习

机器学习是人工智能的一种形式,人工智能使用大量的“地面真相”数据来训练自己,以获得给定的输出;一个经典的例子是认识一只猫。给机器学习算法喂食数千张标记为“猫”的照片,它就能学会识别猫。玩相当于几千年的游戏可以教会它玩那个游戏。

阮表示,机器学习的想法可以追溯到20世纪50年代,但直到最近,计算机才具备了有效处理足够数据的能力。到了20世纪90年代,机器学习算法开始使用简单但有效的概念进行学习。但更复杂的问题需要更复杂的算法,灵感来自我们眼睛背后的算法。这就是深度学习的用武之地。

与机器学习不同,“深度学习”人工智能不需要结构化数据。它利用了所谓的人工神经网络。神经网络的灵感来自于许多神经元共同工作的人脑,它创建了一层又一层的“神经元”,人工智能通过这些神经元来考虑数据——每一层都提供不同的解释。这些解释合力将数据分类。

问题是,这些系统是如此密集和复杂,人类无法理解它们。

问题是,这些系统是如此密集和复杂,人类无法理解它们。我们知道深度学习AI提供的输入(数据或任务),也知道输出(答案或结果)。但在这两者之间发生的是一个黑匣子。

人工智能是如何以及为什么从A点到达B点的,被这些神经反馈层锁定了。

除了令人不安的,我们不理解的计算机程序可以做出不可预测的事情,并且在出错时难以逆转工程或纠正它们。

“总的来说,这可以归结为为什么,”Nguyen说。“为什么神经网络的行为是这样的,而不是相反的。”

蜈蚣,熊猫,还有一辆漂浮的消防车

神经网络在检测图像方面非常出色。给它们提供足够的数据,它们就能梳理出人眼看不见的模式和差异。这种能力可以应用于各种应用中。有些是生死攸关的——比如检测行人的自动驾驶汽车或检测癌症的诊断工具。

无论多么先进,神经网络仍然是脆性:当在其参数之外提出的东西时,它将崩溃。深度学习AI通常优于一个特定的狭义定义的任务。但由于它的脆性,当它失败时,它失败了壮观。

由于算法是黑匣子,因此难以识别它为什么突出其输出。当图像被错误地识别时是肿瘤或行人时,后果可能是致命的。一些非常奇怪的图像可能导致这些故障。

深入学习人工智能

这些模式可以欺骗深度学习算法,这是一种意外的结果,具有潜在的灾难性影响。在模式下方是AI将图像识别为的。信用:Nguyen,A.,Yosinski,J.,&Clune,J.

可能严重干扰人工智能的数据被称为“敌手”,它可能导致通常可靠的神经网络犯下真正奇怪的错误。那些静态的、波浪状的线形图案和礁石鱼的彩色条纹将被自信地宣布为蜈蚣或熊猫。

“我们发现,令人震惊的是,网络莫名其妙地被这些奇怪的模式愚弄了,”Nguyen说,“这是我们从未想象过的。”

正常图像也可以混淆深度学习ai。喜欢一个恶作剧上帝他可以将消防车或校车的3D模型放在照片中的任何地方。将消防车翻转过来,AI会看到一个雪橇;放大一辆公共汽车的车窗,它变成了一个出气筒。黑匣子里有东西失控了。

要找出什么,nguyen创建了一个名为DeepVis的工具来解析算法。该程序隔离并显示单个神经元正在识别的内容。

“这里的想法是了解每个单身神经元正在做什么,”Nguyen说。使用此程序,Nguyen可以看到哪些神经元正在检测图像中的基本对象。从这里开始,他可以开始分裂它是如何学习的。通过检查每个神经元,应该了解深度学习算法如何到达其输出。

深入学习人工智能

通过改变图像中模型的位置,Anh Nguyen可以欺骗一个深度学习的人工智能,例如,让它把一辆校车视为“沙袋”。图片来源:奥本大学的Anh Nguyen及其团队

即使有了DeepVis,黑匣子也可能不会完全打开。神经元群的复杂性可能让人难以理解:它是一个灰色的盒子。

Nguyen表示,正因为这种复杂性,剖析对AI开发者最有用。他们提供的大量细节可以帮助他们更深入地了解神经网络的训练,这是破解黑匣子所需的。

但是同样多的细节让一个不是计算机科学家的人——比如观察肿瘤的医生——很难理解发生了什么。

对于在引擎盖下更友好的窥视,映射可能是去的方式。

什么是深度学习思维?归因图试图告诉我们

对抗数据对深度学习的人工智能所造成的影响是非常滑稽的,也有点病态。当出现随机字母和单词的汽车碰撞时,文本生成AI会做出反应……有趣的方式。

“它开始生成种族主义文本,”专注于破解自然语言处理(NLP)算法黑盒的加州大学欧文分校的萨米尔·辛格(Sameer Singh)说。“完全种族主义者。”

为了了解AI正在寻找的言论的哪些部分,Singh使用称为归因地图的工具。将语言插入文本生成NLP算法,归因地图将突出某些部分,向您展示神经网络内部“点亮” - 可能是一定的信件组合。

“它开始生成种族主义文本。”

Sameer辛格

“突出显示的东西对预测或模型的输出产生了很大影响,”辛格说。使用此信息,辛格可以使用有意的对抗性触发器尝试在深度学习算法中找到问题并理解连接。

辛格的团队通过使用他们发现算法正在键入的单词开发出了这些特殊的触发器。然后,他们根据地图显示的算法最“感兴趣”的模板修改这些单词。的最终结果是一连串的单词和拼写错误,引发了种族主义言论。

归因图对外行人解释人工智能特别有帮助。使用医学模型的医生可能不知道如何读取一个又一个神经元的故障。但如果他们看到一张显示算法在图像上关注的位置的归因图,那就足以让他们了解人工智能在想什么。

与神经元逐个方法的复杂性一样,归因地图也具有缺点。

“需要理解的是,这些归因图也是近似的,”辛格说——不同的地图生成者可能不一致。

但我们所能得到的大概的理解可能是最好的。

人黑盒子

复杂的问题实际上需要深度学习算法。Nguyen - like表示,深度学习AI无处不在且神秘莫测里普利在lv - 426我们被外星人包围着。随着算法变得更加复杂、强大和难以破解,围绕黑盒的问题进一步进入哲学层面:当我们自己的神经网络仍然神秘时,要求神经网络完全透明是否公平?

人类认为自己充其量可能是一个灰色盒子。我们知道一些结构,也知道它们是如何工作的。但是"想法“和”意识“仍然不为人知。为什么一个系统建模的系统在人脑之后都有任何不同?

虽然这类抽象谜题很重要,但并不像在大街上行驶的黑匣子或识别癌症肿瘤那样紧迫。像阮和辛格这样的研究人员似乎在与一种不可阻挡的东西作斗争:问题越具有挑战性,神经网络就越复杂,盒子就越黑。

“整个领域远未解决它,”Nguyen说。他认为我们最终可能会沉淀灰色盒子。Nguyen说,如果您有一个奇妙的模型,它可能不会是可解释的。

“没有免费的午餐”。

下一个

派遣
人工智能会让你更聪明
人工智能会让你更聪明
派遣
人工智能会让你更聪明
人工智能将乘以自己的智慧,以方向让您感到惊讶。
通过泰伦斯•谢诺沃斯基

人工智能将乘以自己的智慧,以方向让您感到惊讶。

挑战者
人工智能能解决我们最大的问题吗?
人工智能能解决我们最大的问题吗?
现在看
挑战者
人工智能能解决我们最大的问题吗?
Vicarious相信智能机器可以解决几乎所有人类无法解决的问题。
现在看

斯科特·菲尼克斯,联合国替代,认为智能机会可以有一天治疗癌症,创造新的能量形式,几乎解决了人类根本不能的问题。随着杰夫贝斯和马克扎克伯格等投资者的支持,替代努力在我们的生活中努力带来这个未来。

挑战者
符合开发人为人工智能的创业
符合开发人为人工智能的创业
挑战者
符合开发人为人工智能的创业
赋予世界第一人为人工智能的替代主义的故事,并用它来帮助......
通过迈克里格斯

Vicarious的任务是建立世界上第一个人类水平的人工智能,并利用它来帮助人类繁荣。

挑战者
你应该开始学习人工智能。这是如何。
你应该开始学习人工智能。这是如何。
挑战者
你应该开始学习人工智能。这是如何。
人工智能有很多不同的层次以不同的方式被应用。这是一个…
通过迈克里格斯

人工智能有很多不同的层次以不同的方式被应用。这里有一个入门指南,可以让你开始了解这一切。

派遣
FDA批准人工智能“医生”能在你的眼睛里看到疾病
FDA批准人工智能“医生”能在你的眼睛里看到疾病
派遣
FDA批准人工智能“医生”能在你的眼睛里看到疾病
人工智能将如何改变医学?
医学突破
人工智能在诊断阿尔茨海默病方面胜过神经学家
阿尔茨海默氏症的诊断
医学突破
人工智能在诊断阿尔茨海默病方面胜过神经学家
科学家发明了一种人工智能,它可以做出比一群神经学家给出的诊断更准确的阿尔茨海默氏症诊断。

科学家发明了一种人工智能,它可以做出比一群神经学家给出的诊断更准确的阿尔茨海默氏症诊断。

技术的未来
社会在GPS上运行。在被黑客被砍封时会发生什么?
罗兰
技术的未来
社会在GPS上运行。在被黑客被砍封时会发生什么?
GPS比您想的更多。它也比你想象的更脆弱。旧学校放射性系统Loran可以从灾难中保存GPS。

GPS比您想的更多。它也比你想象的更脆弱。旧学校放射性系统Loran可以从灾难中保存GPS。

探索大脑
大脑越大记忆力就越好吗?
大脑越大记忆力就越好吗?
探索大脑
大脑越大记忆力就越好吗?
关于大脑大小是否会影响认知功能这个古老的问题,科学家们离解决这个问题又近了一步。
通过莎拉韦尔斯

关于大脑大小是否会影响认知功能这个古老的问题,科学家们离解决这个问题又近了一步。

透过镜子
自然对你有好处。VR性质怎么样?
VR性质
透过镜子
自然对你有好处。VR性质怎么样?
大自然有能力减少压力,改善我们的情绪。虚拟现实的自然体验可以代替身体在户外花费的时间吗?

大自然有能力减少压力,改善我们的情绪。虚拟现实的自然体验可以代替身体在户外花费的时间吗?