当神经网络必须选择自己的神经元时,令人惊讶的事情发生了
这项研究揭示了进化多样性对于地球生命的重要性,更令人难以置信的是对于机器生命的重要性。
曾经有一段时间,纯种狗是身份的象征。主人们会夸耀他们的德国牧羊犬或可卡犬无可挑剔的血统,有时甚至吹嘘在同一家族中世代相传的血统。
在希特勒的纳粹德国时期,这种对纯洁的吸引力得到了加强,当时德国牧羊犬的“受污染”血统受到憎恶。然而,正是在 1800 年代的维多利亚时代,人们对狗进行了无情的近亲繁殖,以至于我们现在看到的所有品种——以及它们的疾病,如髋关节和其他关节问题——都是近亲繁殖过程的结果。
如今,对纯洁性的重视已经发生了转变,我们继续了解更多有关遗传学的知识,特别是了解近亲繁殖如何成为导致衰弱的健康问题和不稳定气质的最快方法。
现在,杂种狗统治了。我们知道,环境的多样性越大,适应环境后出现的生物体的多样性就越大,最终我们生活的世界就越稳定。
在现代世界,比现代人类历史上的任何时期都更需要多样化的基因库,特别是在不稳定的环境和气候变化问题将需要更坚强的物种的情况下。这个过程本身作为地球的法则,并不难理解。
但是,如果一台机器在更多样化的工程设置下表现出相同的能力并表现得更好呢?
此外,如果机器在被允许塑造自己的内部结构之后实际上选择多样性,并且它的选择导致处理器速度空前提高,该怎么办?
人工智能元学习
这个问题由来自多个机构(北卡罗来纳州立大学、印度科学研究所)的一组研究人员(Anshul Choudhary、Anil Radhakrishnan、John F. Lindner、William Ditto 和 Sudeshna Sinha)进行的一项开创性实验进行了检验。 ,莫哈利,伍斯特学院)。他们的目的是测试先进的人工智能(例如神经网络)在留给自己的设备时会做出什么样的操作选择。
“我们创建了一个具有非人类智能的测试系统,即人工智能(AI),看看人工智能是否会选择多样性而不是缺乏多样性,以及它的选择是否会提高人工智能的性能,”论文合作者说。作者 William Ditto,北卡罗来纳州立大学物理学教授兼北卡罗来纳州立大学非线性人工智能实验室 (NAIL) 主任。
“我们真正的大脑有不止一种类型的神经元,”迪托说,并进一步推断了该实验,该实验开始重新定义我们如何看待机器中的神经多样性及其与性能的关系。
“所以我们赋予我们的人工智能向内看的能力,并决定是否需要修改其神经网络的组成。本质上,我们给了它自己大脑的控制旋钮。所以它可以解决问题,看看结果,并改变人工神经元的类型和混合,直到找到最有利的一种。这就是人工智能的元学习。”
多样性是生存和最佳性能的进化必需品,包括机器。
神经网络是最传统、先进人工智能的核心,它模仿我们大脑的工作方式。正如我们的大脑发送和接收取决于其连接强度的电脉冲一样,神经网络也是如此,通过在训练时调整数值权重和偏差。
例如,当神经网络接受训练并尝试通过浏览大量公交车照片来识别公交车的外观时,网络会在协商正确和错误的公交车图像时调整其数值权重并自我平衡。
这些神经元之间的连接强度在训练过程中会发生波动,但当涉及到其组成时,它们基本上会保持锁定状态。
直到科学家们赋予神经网络自我激活的自由——然后发生了一些非凡的事情。
选择多样性以获得最佳性能
首先,网络选择完全不同或异构的、非线性的神经元排列。
换句话说,系统在一个称为“习得多样性”的过程中选择了多样性而不是同一性。
然后,事实证明,在相同的训练下,自选择的异质神经网络也优于同质神经网络。
当团队要求 AI 执行“标准数值分类练习”时,这种自我选择、多样化的 AI 练习在准确度方面比同质的同类练习高出 70% 到 57%。
Ditto 表示,多样化的人工智能的准确度比传统神经网络高出 10 倍。
“我们已经证明,如果你赋予人工智能向内观察并了解其学习方式的能力,它将改变其内部结构——人工神经元的结构——以拥抱多样性并提高其有效学习和解决问题的能力更准确地说,”同上说。
他补充说,随着问题变得更加复杂和混乱,与非多样化人工智能相比,多样化人工智能神经网络的性能实际上随着时间的推移而提高。
科学家们表示,这种学习的多样性甚至可以提高现有的基于物理的人工智能的性能,例如哈密顿神经网络。
随着人工智能被部署在几乎所有应用中——许多涉及生死攸关的功能,例如飞机和自动驾驶汽车——我们将需要更加强大和快速的系统。
多样化的进化轨迹使人类、动物、植物以及迄今为止在地球上幸存的几乎所有事物都成为了成功的故事,而且它似乎也将机器世界中的赢家与输家区分开来。