虽然运行语音识别软件的手机可能需要大约 1 瓦的功率，但这款新芯片的功耗仅为 0.2 到 10 毫瓦，具体取决于需要识别的单词数量。
在实际应用中，这可能意味着节能 90% 到 99%，从而使语音控制功能能够应用于相对简单的电子设备。这包括那些必须从周围环境中获取能量或电池续航时间长达数月的能源受限设备。这类设备构成了所谓的“物联网”（IoT）的技术基础。
“语音输入将成为许多可穿戴应用和智能设备的自然交互方式，”麻省理工学院电子与计算机工程系范内瓦·布什讲席教授阿南塔·钱德拉卡桑（Anantha Chandrakasan）说道，他的团队开发了这款新型芯片。“这些设备的微型化将需要触摸或键盘以外的交互方式。与在云端执行此操作相比，将语音功能本地集成至关重要，因为这可以节省系统功耗。”
“我认为我们开发这项技术并非为了某个特定应用，”迈克尔·普莱斯（Michael Price）补充道，他曾在麻省理工学院电子与计算机工程系攻读研究生期间领导了该芯片的设计，现在就职于芯片制造商亚德诺半导体公司（Analog Devices）。“我们努力简化基础设施，以便为系统设计人员提供比以往技术更好的权衡方案，无论是软件加速还是硬件加速。”
睡美人醒来。
如今，最有效的语音识别系统，如同许多其他尖端人工智能系统一样，都基于神经网络——一种模仿人脑的简单信息处理器虚拟网络。新型芯片中的许多电路都致力于尽可能高效地实现语音识别网络。
但即使是最节能的语音识别系统，如果持续运行，也会迅速耗尽设备的电池电量。因此，该芯片还包含一个更简单的“语音活动检测”电路，用于监测环境噪声，判断其是否可能是语音。如果是，芯片会触发更大、更复杂的语音识别电路。
事实上，为了进行实验，研究人员的芯片配备了三种不同的语音活动检测电路，它们的复杂程度各不相同，因此功耗也不同。哪种电路效率最高取决于具体情况，但在模拟各种条件的测试中，三种电路中最复杂的那一种为整个系统节省了最多的能源。尽管它的功耗几乎是简单电路的三倍，但它产生的误报却少得多。更简单的电路往往会因为触发芯片的其他部分而抵消其节能优势。
典型的神经网络由数千个处理“节点”组成，这些节点只能执行简单的计算，但彼此之间连接紧密。在常用于语音识别的网络中，节点按层排列。语音数据被输入到网络的底层，该层的节点处理数据并将其传递给下一层的节点，下一层的节点再处理数据并将其传递给下一层，依此类推。顶层的输出指示语音数据代表特定语音的概率。
语音识别网络过于庞大，无法存储在单个芯片的内部存储器中，这是一个问题，因为使用片外数据比从本地存储器检索数据要消耗更多资源。因此，麻省理工学院研究人员的设计重点在于最大限度地减少芯片必须从片外存储器检索的数据量。
带宽管理：
神经网络中间的一个节点可能从十几个其他节点接收数据，并将数据发送到另外十几个节点。这二十多个连接中的每一个都关联着一个“权重”，该数值表示通过该连接发送的数据对接收节点计算的重要性。为了最大限度地降低新芯片的内存带宽，第一步是压缩与每个节点关联的权重。数据只有在被加载到芯片后才会进行解压缩。
该芯片还利用了语音识别中数据波必须逐波通过网络这一特性。输入的音频信号被分成 10 毫秒的增量，每个增量都必须单独进行评估。麻省理工学院研究人员的芯片一次只承载一个神经网络节点，但会将来自 32 个连续 10 毫秒增量的数据传递给该节点。
如果一个节点有 12 个输出，那么这 32 次传递将产生 384 个输出值，芯片会将这些值存储在本地。当将每个输出值传递给下一层节点时，它们必须与另外 11 个值耦合，依此类推。因此，该芯片最终需要一个相当大的内置存储电路来存储其中间计算结果。但它每次只从片外存储器中提取一个压缩节点，从而保持了较低的功耗。
这项研究由麻省理工学院和广达计算机的合资项目“Qmulus计划”资助，芯片原型则通过台积电的卫星大学计划完成。
###
作者：Larry Hardesty，麻省理工学院新闻办公室
