NTT Research公司的一个部门NTT（TYO：9432）今天宣布，在其研究的科学家，物理与信息学（PHI）实验室，秀典田中博士是一篇技术论文的主要作者，该论文通过人工神经网络提高了对大脑中生物神经网络的基本理解。标题为“ 从深度学习到神经科学的机械理解：视网膜预测的结构，该论文在领先的机器学习，人工智能（AI）和计算神经科学会议NeurIPS 2019上发表，并发表在神经信息处理系统32（NIPS 2019）上。该论文的工作起源于斯坦福大学，斯坦福大学是该论文六位作者进行研究时的学术所在地。当时，斯坦福大学的博士后研究员兼访问学者Tanaka博士于2019年12月加入NTT Research。该基础研究与PHI Lab的使命一致，即通过从神经网络的计算原理中汲取灵感来重新思考计算机。

该论文的研究始于斯坦福大学两位论文的合著者苏利亚·甘古里（Surya Ganguli）和斯蒂芬·巴库斯（Stephen Baccus）的实验室之间的合作。Ganguli博士是斯坦福大学四名教授之一，他是与NTT Research PHI Lab合作项目的首席研究员，是应用物理系的副教授。Baccus博士是神经生物学系的教授。合著者Niru Maheswaranathan，Lane McIntosh和Aran Nayebi在斯坦福大学神经科学博士学位。完成工作时的程序。借鉴以前的工作关于合著者对自然场景的视网膜反应的深度学习模型，这篇NeurIPS论文解决了现代计算神经科学中的一个基本问题，即成功的深度学习模型是否“用一个简单的系统（一个生物回路）简单地替代了一个（一个生物回路）一个复杂系统。深度网络），也不了解。” 通过结合理论物理学和可解释的机器学习的思想，作者开发了一种新的方法来执行人工神经网络的模型简化，该模型经过训练可模拟实验记录的视网膜对自然场景的神经反应。潜在的计算机制与先前的科学文献一致，因此将这些神经科学模型置于更牢固的理论基础上。

“由于我们正在开展这样一个跨学科的远程研究领域，因此，田中博士和他在斯坦福大学的同事去年的工作仍然是新鲜的；此外，这与我们对神经科学和量子信息科学之间空间的不断探索特别相关，因为该框架提出了一种从大脑提取计算原理的新方法。” PHI实验室主任Yoshihisa Yamamoto博士说。“为神经网络模型建立坚实的基础是一项重要的突破，我们期待看到研究社区，我们的大学研究合作伙伴Tanaka博士和PHI实验室如何在这些见解的基础上进一步发展这项工作。”

为了更好地将深层网络框架作为神经科学模型，本文的作者结合了现代归因方法和降维来确定中间神经元对特定视觉计算的相对重要性。这项工作分析了先前展示的深度学习模型在sal视网膜中重现四种类型的细胞反应：省略刺激反应（OSR），潜伏期编码，运动反转反应和运动预期。所开发的模型简化方案的应用导致简化的子网模型与先前的机械模型保持一致，并在四种响应类型中的三种中提供了实验支持。在OSR的情况下，该分析产生了一种新的机械模型和假设，可以弥补以前的不足。总而言之，研究表明，在视网膜的情况下，源自机器学习的复杂模型不仅可以复制感觉反应，而且可以生成有关大脑计算机制的有效假设。

田中博士说：“不同于物理学家通常处理的自然系统，我们的大脑非常复杂，有时甚至拒绝简单的数学模型。” “我们的论文建议，我们可以使用复杂的人工神经网络对复杂的大脑进行建模，对这些网络进行模型简化，并获得对大脑运作方式的直觉和理解。”

田中博士在降低人工神经网络的复杂性方面的理论追求不仅提高了我们对大脑的科学理解，而且还提供了工程解决方案，以节省训练，部署深度神经网络的时间，内存和精力。他目前的研究提出了一种新的修剪算法SynFlow（迭代突触流修剪），该算法对必须使用数据来量化哪些突触很重要的现有范例提出了挑战。去年的论文试图通过对生物神经网络进行模型简化来理解大脑，而今年的新工作旨在通过从人工神经网络中删除参数来使深度学习更加强大和高效。

这项研究在PHI实验室的广泛使命中发挥了作用，该使命是应用智能系统（包括我们的大脑）的基本原理，从根本上重新设计经典计算机和量子计算机。为了实现这一目标，PHI实验室已建立了联合研究协议不仅与斯坦福大学合作，而且与另外五所大学，一所政府机构和量子计算软件公司合作。其他大学是加州理工学院（Caltech），康奈尔大学，麻省理工学院（MIT），斯威本科技大学和密歇根大学。政府实体是位于硅谷的NASA Ames研究中心，而私人公司是1Qbit。总而言之，这些协议涵盖了量子物理学，脑科学和光学技术领域的研究。

关于NTT Research

NTT Research于2019年7月在硅谷成立了一家新公司，在帕洛阿尔托开设了办事处，以进行基础研究和开发可促进人类积极变革的技术。目前，NTT Research设有三个实验室：物理和信息学（PHI）实验室，密码学和信息安全（CIS）实验室以及医学和健康信息学（MEI）实验室。该组织的目标是在三个方面升级现实：1）量子信息，神经科学和光子学；2）密码和信息安全；3）医疗卫生信息学。NTT Research是NTT的一部分，NTT是全球技术和商业解决方案提供商，每年的研发预算为36亿美元。