本篇文章1687字,读完约4分钟

还记得打败世界围棋大师的阿尔法狗吗?

它来自于谷歌的深度思维团队,现在这个人工智能实验室已经推出了一个重要的研究——微分神经计算机(dnc)。这种新模型将神经网络与能够读写的外部存储器相结合。它不仅可以像神经网络一样通过试错和样本训练进行深入学习,还可以像传统计算机一样处理数据。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

作为一种神经网络人工智能算法,深度学习可以通过一些“深层”计算来更新和学习海量数据。这个神经网络层类似于大脑结构,由节点(也称为神经元)组成。许多科技巨头,如谷歌、脸书、亚马逊和微软,一直在训练神经网络来学习如何更好地处理任务,包括识别狗的图像和制作更好的翻译软件。这些人工智能功能已经让数百万使用谷歌翻译等在线服务的人受益。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

然而,神经网络面临着巨大的挑战:传统的计算机可以处理复杂的数据,但是需要手工编程来完成这些任务。虽然人工神经网络可以像大脑一样学习,从数据中识别模式,但它缺乏记忆结构,不能对结构化数据进行符号处理。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

Dnc简单模型,来源:ft

为了提高深度学习的能力,谷歌的深度思维团队创造了这种新的机器学习算法“微分神经计算机”(Differential Neural Computer)DNC,它将“神经网络”计算系统与传统的计算机内存相结合。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

神经网络是一个相互联系的系统,它模仿生物神经网络的运作,如大脑的工作模式。在人工智能的最新成果中,神经网络起着关键作用。例如,在谷歌语音和siri等数字助理中增强语音识别。在以前的研究中,神经网络只能连接包含在自己网络中的数据。最近,deepmind团队宣布,在dnc的支持下,神经网络可以访问以前不兼容的外部数据,例如以传统数字模式编码的文本。也就是说,我们离会思考的电脑更近了一步。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

从数学上讲,dnc类似于可微函数,这可能是为什么研究人员称之为可微的原因。然而,数字计算机是无法区分的,所以它们不能像神经网络那样从数据中学习。Dnc可以成功地理解图形结构,如家谱或传输网络,它甚至可以根据家谱判断一个人的家庭关系。此外,dnc可以在没有先验知识的情况下规划出伦敦地铁的最佳路线,并解决用符号语言描述目标的移动拼图难题。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

美国家庭影院系列“西部世界”的剧照

推理是灵长类动物拥有的能力。deepmind是一种人工智能算法,可能能够“唤醒”机器,这与最近的火剧《西方世界》中的假设是一致的——也许有一天,我们真的可以看到能够自主推理的机器人和能够思考的计算机。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

Dnc包含几个模块,所有这些模块都不是符号化的。它们通过纯粹的模拟激活模型相互交换数据流,就像生物大脑记录的那样。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

推理的一个关键前提是记忆。在计算机中,内存的作用是由随机存取存储器ram承担的。当计算机进行推理,也就是运行一个程序时,所有的信息都被绑定在工作记忆中,并且有无数种方法可以将它们结合起来。将人类的推理过程与计算机程序进行比较并不牵强。事实上,现代可编程计算机(图灵机)和亚里士多德的三段论之间有着严重的历史联系。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

dnc项目主任Alex graves说:“神经网络的记忆受到计算本身的限制。我们决定通过分离内存使其功能更强大,以便在不影响处理器的情况下扩展规模。”

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

一些独立的计算机科学家认为,通用dnc有广泛的应用,例如,它可以用来生成视频注释和从文本中提取有意义的内容。即使在未来,它也可以应用于现实世界的问答对话,这需要一定的推理能力。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

这个新项目由谷歌在《自然》杂志上发表。在文章中,谷歌列举了几个应用实例。例如,集成深度学习技术可以自动找到两个地铁站之间的最短路线,它会自己“推理”并告诉你想要到达的目的地。准确率达到90%以上。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

英国《金融时报》援引斯坦福大学思维、大脑和计算中心主任杰伊·麦克莱伦(jay mcclelland)的话说,这项研究将成为人工智能领域的一个“有趣而重要的里程碑”。

Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

viafinancial times & spectrum . IEEE

推荐阅读:

说到神经网络的训练方法,deepmind更喜欢前向传播

Deepmind发布了最新的原始音频波形深度生成模型wavenet,这将为tts带来无数的可能性

来源:罗盘报中文网

标题:Deepmind 开发可微分神经计算机: 我们离会推理的机器人还有多远

地址:http://www.lzn4.com/lpbxw/12506.html