Large Language Models in der Praxis (LLM-Praxis)

Das Forschungsprojekt „LLMpraxis“ untersucht Methoden, um Large Language Models (LLMs) für kleine und mittelständische Unternehmen sicher und effizient nutzbar zu machen. Statt neue Basismodelle zu trainieren, liegt der wissenschaftliche Schwerpunkt auf der Anpassung offener Foundation-Models für den Betrieb auf lokaler Hardware (On-Premise), wobei Verfahren wie Pruning und Quantisierung zur Ressourcenschonung und Nutzung auf Standard-CPUs erforscht werden. Parallel dazu widmet sich das Projekt der Mensch-Maschine-Interaktion durch die Entwicklung empathischer, kontextbewusster Agenten sowie Algorithmen, die LLM-Antworten verlässlich auf firmeneigene Datenquellen beschränken. Unter www.llm-praxis.de sind auch die Veröffentlichungen im Projekt zu finden.

Forschungsschwerpunkt:
Sichere, autonome und KI-basierte Systeme
Jahr der Einwerbung:
2024
Laufzeit Beginn:
01.10.2024
Laufzeit Ende:
30.09.2028
Projektleitung:
Janis Keuper
Beteiligte Professoren:
Janis Keuper
Marc Oliver Korn
Fakultät:
Fakultät Elektrotechnik, Medizintechnik und Informatik (EMI)
Institut:
Affective and Cognitive Institute (ACI)
Fördersumme:
934.555,00 €