Immer leistungsfähigere KI-Modelle steigern auch deren Ressourcenbedarf hinsichtlich Rechenleistung, Speicherplatz und Energie. Da viele Endgeräte diesen Ressourcenbedarf aber nicht abdecken können, werden KI-Modelle häufig in der Cloud abgebildet. Die ständige Kommunikation zwischen Endgerät und Cloud braucht aber ebenfalls viel Energie und hat eine geringere Privatsphäre und Modellverfügbarkeit zur Folge. Im Projekt „Lab2Device – Vom Prototyping-Labor in das ressourcenbeschränkte Embedded Device“ wollen fünf Professoren von drei Forschungsinstituten der Hochschule Offenburg nun erstmals gemeinsam und interdisziplinär Lösungen für dieses Problem entwickeln.
Die Leitung des Projekts hat Prof. Dr. Christan Reich vom Institut für verlässliche Embedded Systems und Kommunikationselektronik (ivESK), dessen Leiter Prof. Dr. Axel Sikora ebenfalls an Lab2Device mitarbeitet. Darüber hinaus sind Prof. Dr. Janis Keuper und Prof. Dr. Stefan Hensel vom Institute for Machine Learning and Analytics (IMLA) und Prof. Dr. Wolfgang Bessler vom Institut für nachhaltige Energiesysteme (INES) an dem Projekt beteiligt. „Ich sehe in dieser interdisziplinären Zusammenarbeit ein großes Potential“, freut sich Christian Reich. Konkret wollen die Forschenden zwei verschiedene Lösungsansätze beziehungsweise Methoden untersuchen: zum einen die Kompression bestehender großer KI-Modelle, wie sie seit ChatGPT immer häufiger auftreten, zum anderen die Suche neuer leistungsfähiger KI-Modelle, die wenig Ressourcen verbrauchen. „Lösungsansatz 2, die Suche nach neuen leistungsfähigen, aber auch ressourcenschonenden KI-Modellen, kann allerdings selbst sehr ressourcenaufwändig sein. Hier die richtige Balance aus Ressourcenersparnis durch passende KI-Modelle und Ressourcenaufwand für deren Suche zu finden ist eine der Forschungsfragen des Projekts. Die Suche nach einem passenden Modell für den Einsatz in nur einem Endgerät wie beispielsweise dem Roboter Sweaty wäre wohl zu ressourcenaufwändig. Die Suche nach dem passenden KI-Modell beispielsweise für die Batteriediagnose in Handys oder anderen ressourcenschwächeren Endgeräten könnte sich dagegen eher lohnen, da dieses anschließend millionenfach in diesen Endgeräten eingesetzt würde.“
Ab April 2026 wird das Team nun dreieinhalb Jahre lang die Eignung dieser Methoden zur Erzeugung ressourceneffizienter KI-Modelle, aber auch die Ressourcenkosten für deren Einsatz in den jeweils passenden Endgeräten erforschen. Darüber hinaus wird der Einfluss der Methoden auf weitere, nutzerzentrierte Zielgrößen wie Datensparsamkeit und Verlässlichkeit der Modellvorhersagen untersucht. Die Methoden werden anhand der zwei genannten repräsentativen Anwendungsfälle der Hochschule Offenburg (Humanoide Robotik und Batteriediagnose) entwickelt. Der Transfer der gewonnenen Erkenntnisse und Entwicklungen wird anhand von Anwendungen in Endgeräten der Kooperationspartner AITAD (Offenburg), greenventory (Freiburg), Grossenbacher Systeme AG (St. Gallen/Schweiz) und hard&softWERK (St. Georgen) validiert. „Dazu werden wir eine Datenbank erstellen, die zu den Use Cases der Transferpartner und Ressourcenbeschränkungen ihrer Endgeräte jeweils die Kompressions- oder Suchstrategie sowie ein passendes KI-Modell empfiehlt“, denkt Christian Reich schon weit voraus.
Förderung durch die Carl-Zeiss-Stiftung
Die Carl-Zeiss-Stiftung, die es sich zum Ziel gesetzt hat, Freiräume für wissenschaftliche Durchbrüche zu schaffen, fördert das Projekt Lab2Device im Rahmen des Programms CZS-Transfer mit 1,44 Millionen Euro. Als Partner exzellenter Wissenschaft unterstützt sie sowohl Grundlagenforschung als auch anwendungsorientierte Forschung und Lehre in den MINT-Fachbereichen (Mathematik, Informatik, Naturwissenschaften und Technik). 1889 von dem Physiker und Mathematiker Ernst Abbe gegründet, ist die Carl-Zeiss-Stiftung eine der ältesten und größten privaten wissenschaftsfördernden Stiftungen in Deutschland. Sie ist alleinige Eigentümerin der Carl Zeiss AG und SCHOTT AG. Ihre Projekte werden aus den Dividendenausschüttungen der beiden Stiftungsunternehmen finanziert.