Automatisierte Übersetzung von KI-Modellen in Inferenzhardware

Automatisierte Übersetzung von KI-Modellen in Inferenzhardware

Künstliche Intelligenz läuft zumeist in der Cloud, also in Rechenzentren. Doch viele Anwendungen, etwa in Autos oder Smartphones, profitieren davon, wenn die Berechnung direkt vor Ort erfolgt. An diesem Punkt knüpfte Malte Rauschenbach an. Er entwickelte eine Art Übersetzer, der KI-Modelle automatisch in maßgeschneiderte Hardware überträgt. Konkret programmierte er ein System, das neuronale Netze so umformt, dass sie auf flexibel anpassbaren Computerchips laufen können – vereinfacht gesagt sind es Bausteine, die sich für eine Aufgabe „umbauen“ lassen. Als der Jungforscher seine Entwicklung testete, stellte er fest, dass sie außerordentlich effizient funktioniert: Sie benötigt nur einen Bruchteil der Energie herkömmlicher Systeme und verarbeitet bestimmte Aufgaben trotzdem um ein Vielfaches schneller.