Spezieller Deep-Learning-Chip für Bild- und Sprachverarbeitung auf der Embedded World 2024 vorgestellt
IRVINE, Kalifornien, April 09, 2024 (GLOBE NEWSWIRE) -- Die Syntiant Corp., ein führendes Unternehmen im Bereich der stromsparenden Edge-KI-Implementierung, hat heute den Syntiant® NDP250 Neural Decision Processor (NDP) vorgestellt, den leistungsstärksten Chip des Unternehmens, der einen fünfmal höheren Tensordurchsatz als die vorherige Generation der Deep-Learning-Hardware bietet.
Der NDP250 basiert auf der programmierbaren Deep-Learning-Architektur Syntiant Core 3 und ist für zahlreiche Bildgebungs-, Sprach- und Sensoranwendungen in Geräten mit begrenztem Stromverbrauch konzipiert, wie z. B. Personenerkennung, Objektklassifizierung, automatische Spracherkennung (ASR), Text-to-Speech (TTS) und Bewegungsverfolgung.
"Unser NDP250 baut auf zwei Generationen von neuronalen Netzwerkarchitekturen auf und liefert 30 GOPS, was ihn zu unserem bisher schnellsten und leistungsstärksten Chip macht", so Kurt Busch, CEO von Syntiant. "Der NDP250 mit unserer neuen Core-3-Engine ist die ideale Echtzeit-Sprachschnittstelle für große Sprachmodelle und kann leistungsstarke KI für batteriebetriebene, ständig aktive Bildverarbeitungsanwendungen in der Automobilsicherheit, in Geräten, Kameras, intelligenten Displays und Videotürklingeln bereitstellen, die mit einer Vielzahl von Architekturen kompatibel sind und dabei deutlich weniger Strom verbrauchen als bestehende Lösungen. Mit dem NDP250 können Anwendungen, die bisher eine in Watt gemessene Leistung erforderten, nun mit einer in Mikrowatt gemessenen Leistung ausgeführt werden."
Eine schnellere Schnittstelle für große Sprachmodelle (LLM)
Die Integration von ASR und TTS direkt in Geräte, die auf dem NDP250 laufen, schafft einen reibungslosen Weg zur Nutzung von LLMs als Sprachschnittstelle der nächsten Generation. Dank der fortschrittlichen Verarbeitungskapazitäten des Chips sind diese Funktionen in der Lage, menschliche Sprache genauer und flüssiger zu verstehen und zu produzieren, was die Interaktion und das Erlebnis der Nutzer verbessert.
"Die dritte Generation von At-Memory-Rechenprozessoren von Syntiant für multimodale künstliche Intelligenz aus einer Vielzahl von Sensortypen erweitert ihren Vorsprung in Systemdesigns, in denen LLMs mit minimaler Latenz und Energiekosten mit Menschen und der Umwelt interagieren werden", so Michael Stewart, Managing Partner bei M12, dem Venture Fund von Microsoft.
Vision AI von der Cloud auf das Gerät übertragen
Die NDP250 verfügt über fortschrittliche Bildfunktionen und ist ideal für Videoanwendungen mit extrem niedrigem Stromverbrauch für die Fahrzeugsicherheit, batteriebetriebene Kameras und Videotürklingeln. Der Betrieb einer leistungsstarken, ständig eingeschalteten Bilderkennung mit weniger als 30 mW hat mehrere Vorteile, unter anderem:
- Deutliche Senkung des Stromverbrauchs durch die lokale Verarbeitung von Daten auf den Geräten, wodurch die Batterielebensdauer verlängert und eine effiziente Ressourcennutzung ermöglicht wird.
- Geringere Latenzzeit, da die Daten nicht zu einem entfernten Server hin- und hergeschickt werden müssen, was zu schnelleren Reaktionszeiten führt, die für Echtzeitanwendungen entscheidend sind, und die Kundenzufriedenheit deutlich erhöht.
- Verbesserter Schutz der Privatsphäre durch die lokale Verarbeitung sensibler Daten, wodurch die Notwendigkeit, Informationen über Netzwerke zu übertragen, wo sie anfällig für Verletzungen oder das Abfangen sind, minimiert wird.
- Spürbare Senkung der Cloud-Kosten, manchmal bis zu 90 %, da weniger Daten in der Cloud übertragen und verarbeitet werden müssen, was zu geringeren Infrastrukturkosten für Unternehmen führt, die Edge-KI-Lösungen einsetzen.
Ausgestattet mit einem Arm Cortex M0-Prozessor und einem HiFi 3-DSP zur Unterstützung der Merkmalsextraktion und Signalverarbeitung für Bild- und Sprachverbesserungen, ermöglicht die integrierte Stromversorgungseinheit des NDP250 den Betrieb mit nur einer Stromschiene, wobei die integrierte PLL (Phase-Locked Loop) eine weitere Optimierung der Systemkosten und -größe ermöglicht.
Mit der Fähigkeit, mehrere heterogene Netze gleichzeitig zu verarbeiten, unterstützt der NDP250 auch neuronale Faltungsnetze, einschließlich 1D-, 2D- und tiefenweise, vollständig verbundene Netze und rekurrente neuronale Netze, einschließlich LSTM (Long Short Memory) und GRU (Gated Recurrent Unit).
Zu den weiteren wichtigen Merkmalen gehören:
- Neuronales Core-3-Netzwerk von Syntiant
- Unterstützt mehr als 6 Mio. neuronale Parameter (im 8-Bit-Modus)
- Hardware-Beschleunigung über 30 GOPS
- Duale 11-Draht-Direktbildschnittstelle
- Duale PDM-Digitalmikrofon-Schnittstelle
- Serielle I2S-Schnittstelle mit PCM
- Quad-SPI- und Dual-I2C-Controller und Ziel für multimodale Sensorfusion
- Bis zu 120 MHz interne Betriebsfrequenz
- Stromsparende PLL für flexiblen Takteingang
- Software-Entwicklungskit
- Schulungs-Entwicklungskit
- eWLB-Gehäuse (120 Kugeln, 6,1 mm x 5,1 mm, 0,5 mm Abstand)
Das NDP250 steht jetzt als Muster zur Verfügung.
Syntiant wird das NDP250 und verschiedene hardware-agnostische Deep-Learning-Vision-Modelle auf der Embedded World 2024, um ein Treffen oder eine Demo auf der Embedded World zu vereinbaren.
Über Syntiant
Die 2017 gegründete Syntiant Corp. mit Hauptsitz in Irvine, Kalifornien, ist ein führender Anbieter von Hardware- und Softwarelösungen für den Einsatz von Edge-KI. Die speziell entwickelten Silizium- und hardware-agnostischen Deep-Learning-Modelle des Unternehmens werden weltweit eingesetzt, um KI-Sprach-, Audio-, Sensor- und Bildverarbeitungsanwendungen in einer Vielzahl von Verbraucher- und Industrieanwendungen zu betreiben, von Ohrhörern bis hin zu Autos. Die fortschrittlichen Chiplösungen von Syntiant verbinden Deep Learning mit Halbleiterdesign, um extrem stromsparende und leistungsstarke Deep Neural Network-Prozessoren zu entwickeln. Syntiant bietet außerdem recheneffiziente Softwarelösungen mit proprietären Modellarchitekturen, die eine weltweit führende Inferenzgeschwindigkeit und einen minimalen Speicherbedarf für eine Vielzahl von Prozessoren ermöglichen. Das Unternehmen wird von mehreren weltweit führenden strategischen und finanziellen Investoren unterstützt, darunter Intel Capital, Microsofts M12, Applied Ventures, Robert Bosch Venture Capital, der Amazon Alexa Fund und Atlantic Bridge Capital. Weitere Informationen über das Unternehmen finden Sie unter www.syntiant.comoder indem Sie Syntiant auf Xoder auf LinkedInfolgen.?
Medienkontakt:
George Medici
PondelWilkinson
gmedici@pondel.com
310.279.5968