Sichere, autonome und KI-basierte Systeme

Sichere, autonome und KI-basierte Systeme

Die digitale Transformation und der Ausbau cyber-physischer Systeme erfordern zunehmend kollaborative Lösungen und Mensch-Maschine-Interaktion. Cognitive Computing erhöht zugleich die Autonomie der Systeme (zum Beispiel autonome Fahrzeuge und Flugobjekte). Damit verbunden sind auch die Herausforderungen der Kommunikation und Schnittstellengestaltung zwischen den Komponenten und Systemen, die Datenerfassung und -analyse mittels Künstlicher Intelligenz (u.a. Big Data, Maschinelles Lernen) sowie die IT-Sicherheit.

Geforscht wird hierzu vor allem am Affective and Cognitive Institute (ACI), am Institute for Machine Learning and Analytics (IMLA), am Institute for Unmanned Aerial Systems (IUAS) und am Institut für verlässliche Embedded Systems und Kommunikationselektronik (ivESK).

Titel ML-Sec IV
Kurzname ML-Sec IV
Kurzbeschreibung Forschung zum Schutz des gesamten Machine Learning Lebenszyklus mit Fokus auf industrielle Software. Schwerpunkt liegt auf Binary Similarity Erkennung durch ML, sowie Schutz vor Data Poisoning Angriffen. Gremienarbeit (PI 4.0) bzw. Publikationen auf Konferenzen mit Auftraggeber. Es wird eine Publikation in dem IIC Journal of Innovation geben (März 2021): Schaad, A., Kempka, C. “Securing the machine learning lifecycle for industrial applications is as important as securing the general software development lifecycle”
Jahr der Einwerbung 2021
Laufzeit Beginn 01.10.2021
Laufzeit Ende 31.03.2022
Projektleitung Schaad, Andreas, Prof. Dr.
Fakultät M
Institut ivESK