В то время как мобильный телефон с программным обеспечением для распознавания голоса может потреблять около 1 ватта энергии, новый чип потребляет от 0,2 до 10 милливатт, в зависимости от количества слов, которые ему необходимо распознать.
В реальных условиях это, вероятно, приведет к экономии энергии на 90–99 процентов, что может сделать голосовое управление практичным для относительно простых электронных устройств. Это включает в себя устройства с ограниченным энергопотреблением, которые должны получать энергию из окружающей среды или работать без подзарядки в течение нескольких месяцев. Такие устройства составляют технологическую основу так называемого «Интернета вещей» (IoT).
«Голосовой ввод станет естественным интерфейсом для многих носимых устройств и интеллектуальных гаджетов», — говорит Ананта Чандракасан, профессор электротехники и вычислительной техники имени Ванневара Буша в Массачусетском технологическом институте, чья группа разработала новый чип. «Миниатюризация этих устройств потребует интерфейса, отличного от сенсорного экрана или клавиатуры. Крайне важно будет интегрировать голосовые функции локально, чтобы сэкономить энергопотребление системы по сравнению с выполнением этой операции в облаке».
«Я не думаю, что мы действительно разрабатывали эту технологию для конкретного приложения», — добавляет Майкл Прайс, который руководил разработкой чипа, будучи аспирантом в области электротехники и вычислительной техники в Массачусетском технологическом институте, а сейчас работает в компании Analog Devices, производителе микросхем. «Мы постарались упростить инфраструктуру, чтобы предложить системному разработчику лучшие компромиссы, чем это было бы возможно с предыдущими технологиями, будь то программное или аппаратное ускорение».
Сонная голова просыпается.
Сегодня наиболее эффективные системы распознавания речи, как и многие другие передовые системы искусственного интеллекта, основаны на нейронных сетях — виртуальных сетях простых информационных процессоров, смоделированных по образцу человеческого мозга. Большая часть схем в новых чипах предназначена для максимально эффективной реализации сетей распознавания речи.
Но даже самая энергоэффективная система распознавания речи может быстро разрядить батарею устройства при непрерывной работе. Поэтому чип также включает в себя более простую схему «обнаружения речевой активности», которая отслеживает окружающий шум, чтобы определить, может ли это быть речь. Если да, то чип запускает более крупную и сложную схему распознавания речи.
Фактически, в экспериментальных целях чип исследователей имел три различные схемы обнаружения речевой активности с разной степенью сложности и, следовательно, с разным энергопотреблением. Какая схема наиболее эффективна, зависит от контекста, но в тестах, имитирующих широкий спектр условий, самая сложная из трех схем обеспечила наибольшую экономию энергии для системы в целом. Хотя она потребляла почти в три раза больше энергии, чем самая простая схема, она генерировала гораздо меньше ложных срабатываний; Более простые схемы часто нивелируют экономию энергии, активируя остальную часть чипа.
Типичная нейронная сеть состоит из тысяч обрабатывающих «узлов», способных выполнять только простые вычисления, но плотно взаимосвязанных. В сети, обычно используемой для распознавания речи, узлы расположены слоями. Речевые данные подаются в нижний слой сети, узлы которого обрабатывают их и передают узлам следующего слоя, узлы которого обрабатывают их и передают следующему слою, и так далее. Выходные данные верхнего слоя указывают вероятность того, что речевые данные представляют собой определенный звук речи.
Сеть распознавания речи слишком велика, чтобы поместиться во внутренней памяти одного чипа, что является проблемой, поскольку использование данных вне чипа гораздо более ресурсоемко, чем их извлечение из локального хранилища. Поэтому разработка исследователей из MIT сосредоточена на минимизации объема данных, которые чип должен извлекать из внешней памяти.
Управление пропускной способностью:
узел в середине нейронной сети может получать данные от десятка других узлов и передавать данные еще десятку. Каждое из этих двух десятков соединений имеет связанный с ним «вес» — число, указывающее, насколько важны передаваемые через него данные для вычислений принимающего узла. Первым шагом в минимизации пропускной способности памяти нового чипа является сжатие весов, связанных с каждым узлом. Данные декомпрессируются только после того, как они попадают на чип.
Чип также использует тот факт, что при распознавании речи через сеть должна проходить волна за волной данных. Входящий аудиосигнал делится на 10-миллисекундные интервалы, каждый из которых должен быть обработан отдельно. Чип, разработанный исследователями из MIT, содержит только один узел нейронной сети за раз, но через него проходят данные из 32 последовательных 10-миллисекундных интервалов.
Если у узла дюжина выходов, то 32 прохода дают 384 выходных значения, которые чип сохраняет локально. Каждое из этих значений должно быть связано с 11 другими значениями при подаче на следующий слой узлов и так далее. Таким образом, чипу в итоге требуется значительная встроенная схема памяти для промежуточных вычислений. Однако он извлекает из внешней памяти только один сжатый узел за раз, что позволяет поддерживать низкое энергопотребление.
Исследование финансировалось в рамках проекта Qmulus, совместного предприятия MIT и Quanta Computer, а прототип чипа был разработан в рамках программы спутникового университета компании Taiwan Semiconductor Manufacturing Company.
###
Автор: Ларри Хардести, пресс-служба MIT
