Während ein Mobiltelefon mit Spracherkennungssoftware etwa 1 Watt Leistung benötigt, kommt der neue Chip je nach Anzahl der zu erkennenden Wörter mit nur 0,2 bis 10 Milliwatt aus.
In der Praxis entspricht dies einer Energieeinsparung von 90 bis 99 Prozent, wodurch die Sprachsteuerung auch für relativ einfache elektronische Geräte praktikabel wird. Dies betrifft insbesondere energiearme Geräte, die Energie aus ihrer Umgebung gewinnen müssen oder monatelang ohne Akkuladung auskommen. Solche Geräte bilden das technologische Rückgrat des sogenannten „Internets der Dinge“ (IoT).
„Spracheingabe wird sich als natürliche Schnittstelle für viele Wearables und Smart Devices etablieren“, sagt Anantha Chandrakasan, Vannevar Bush Professor für Elektrotechnik und Informatik am MIT, dessen Gruppe den neuen Chip entwickelt hat. „Die Miniaturisierung dieser Geräte erfordert eine andere Schnittstelle als Touchscreen oder Tastatur. Die lokale Integration der Sprachfunktionalität ist entscheidend, um den Stromverbrauch des Systems im Vergleich zur Verarbeitung in der Cloud zu senken.“
„Ich glaube nicht, dass wir diese Technologie speziell für eine bestimmte Anwendung entwickelt haben“, ergänzt Michael Price, der als Doktorand der Elektrotechnik und Informatik am MIT die Entwicklung des Chips leitete und heute für den Chiphersteller Analog Devices arbeitet. „Wir haben versucht, die Infrastruktur so zu gestalten, dass Systementwickler bessere Kompromisse eingehen können als mit bisherigen Technologien, sei es Software- oder Hardwarebeschleunigung.“
Der Schlafmütze erwacht.
Heutzutage basieren die effektivsten Spracherkennungssysteme, wie viele andere hochmoderne Systeme der künstlichen Intelligenz, auf neuronalen Netzen – virtuellen Netzwerken einfacher Informationsprozessoren, die dem menschlichen Gehirn nachempfunden sind. Ein Großteil der Schaltkreise in neuen Chips ist darauf ausgelegt, Spracherkennungsnetzwerke so effizient wie möglich zu implementieren.
Doch selbst das energieeffizienteste Spracherkennungssystem kann den Akku eines Geräts bei Dauerbetrieb schnell entladen. Daher enthält der Chip auch einen einfacheren Schaltkreis zur „Sprachaktivitätserkennung“, der Umgebungsgeräusche überwacht, um festzustellen, ob es sich um Sprache handeln könnte. Ist dies der Fall, aktiviert der Chip den größeren, komplexeren Spracherkennungsschaltkreis.
Tatsächlich verfügte der Chip der Forscher für experimentelle Zwecke über drei verschiedene Schaltkreise zur Sprachaktivitätserkennung mit unterschiedlichem Komplexitätsgrad und folglich unterschiedlichem Energiebedarf. Welcher Schaltkreis am effizientesten ist, hängt vom Kontext ab, aber in Tests, die ein breites Spektrum an Bedingungen simulierten, bot der komplexeste der drei Schaltkreise die größten Energieeinsparungen für das Gesamtsystem. Obwohl er fast dreimal so viel Strom verbrauchte wie der einfachste Schaltkreis, erzeugte er deutlich weniger Fehlalarme. Einfachere Schaltkreise machen ihre Energieeinsparungen oft wieder zunichte, indem sie den restlichen Chip belasten.
Ein typisches neuronales Netzwerk besteht aus Tausenden von Verarbeitungsknoten, die zwar nur einfache Berechnungen durchführen können, aber eng miteinander verbunden sind. In dem für die Spracherkennung üblicherweise verwendeten Netzwerktyp sind die Knoten in Schichten angeordnet. Sprachdaten werden in die unterste Schicht des Netzwerks eingespeist, deren Knoten sie verarbeiten und an die Knoten der nächsten Schicht weiterleiten, deren Knoten sie wiederum verarbeiten und an die nächste Schicht weiterleiten usw. Die Ausgabe der obersten Schicht gibt die Wahrscheinlichkeit an, dass die Sprachdaten einen bestimmten Sprachlaut darstellen.
Ein Spracherkennungsnetzwerk ist zu groß, um in den internen Speicher eines einzelnen Chips zu passen. Dies ist problematisch, da die Verwendung externer Daten deutlich aufwändiger ist als der Zugriff auf den lokalen Speicher. Daher konzentriert sich der Entwurf der MIT-Forscher darauf, die Menge der Daten, die der Chip aus dem externen Speicher abrufen muss, zu minimieren.
Bandbreitenmanagement:
Ein Knoten in der Mitte eines neuronalen Netzwerks kann Daten von einem Dutzend anderer Knoten empfangen und Daten an ein weiteres Dutzend senden. Jede dieser zwei Dutzend Verbindungen besitzt ein zugeordnetes „Gewicht“, eine Zahl, die angibt, wie wichtig die gesendeten Daten für die Berechnungen des empfangenden Knotens sind. Der erste Schritt zur Minimierung der Speicherbandbreite des neuen Chips besteht darin, die Gewichte jedes Knotens zu komprimieren. Die Daten werden erst dekomprimiert, nachdem sie auf den Chip geladen wurden.
Der Chip nutzt zudem die Tatsache, dass bei der Spracherkennung Datenwellen für Datenwelle das Netzwerk durchlaufen müssen. Das eingehende Audiosignal wird in 10-Millisekunden-Abschnitte unterteilt, die jeweils separat ausgewertet werden müssen. Der Chip der MIT-Forscher enthält jeweils nur einen neuronalen Netzwerkknoten, leitet aber die Daten von 32 aufeinanderfolgenden 10-Millisekunden-Abschnitten durch diesen.
Hat ein Knoten zwölf Ausgänge, ergeben die 32 Durchläufe 384 Ausgabewerte, die der Chip lokal speichert. Jeder dieser Werte muss mit elf anderen Werten verknüpft werden, bevor er an die nächste Knotenschicht weitergeleitet wird usw. Daher benötigt der Chip einen beträchtlichen integrierten Speicher für seine Zwischenberechnungen. Es greift jedoch nur auf jeweils einen komprimierten Knoten aus dem externen Speicher zu, wodurch der Stromverbrauch gering bleibt.
Die Forschung wurde im Rahmen des Projekts Qmulus, einem Gemeinschaftsprojekt des MIT und Quanta Computer, finanziert. Der Chip wurde im Rahmen des Satelliten-Universitätsprogramms der Taiwan Semiconductor Manufacturing Company (TSMC) als Prototyp entwickelt.
###
Autor: Larry Hardesty, MIT-Pressestelle
