Große Sprachmodelle in der Unternehmenspraxis
Mit einer kleinen Umfrage unter den rund 40 Anwesenden und 30 online Teilnehmenden machte Prof. Dr. Janis Keuper, der Leiter des Institutes for Machine Learning and Analytics der Hochschule Offenburg, zu Beginn deutlich, wie sich der Einsatz von KI, insbesondere Großer Sprachmodelle (LLM) und Agenten-Systemen, in kleinen und mittleren Unternehmen in den vergangenen Jahren entwickelt hat. Obwohl es diese Angebote schon länger gibt, war erst in den vergangenen anderthalb Jahren ein rasanter Anstieg bei der Nutzung zu verzeichnen. Gründe dafür seien die großen technischen und rechtlichen Herausforderungen, die hohen Kosten bei schwierig zu evaluierendem Nutzen sowie Fragen von Abhängigkeiten und Sicherheit, erklärte Janis Keuper.
Anhand von ersten Ergebnissen aus dem vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) geförderten Forschungsprojekt „LLM-Praxis“ an der Hochschule Offenburg und realen Use Cases aus regionalen Unternehmen zeigten die insgesamt sechs Referentinnen und Referenten aus Forschung und Firmen anschließend Lösungsmöglichkeiten für diese Fragen auf. Zunächst erläuterte Pius Horn, Doktorand und Mitarbeiter in LLM-Praxis, das Dokument Parsing: den ersten Schritt zur Einbindung lokaler Informationen in Sprachmodelle oder Agentensysteme. Bianca Lamm, Datascientist der Markant Services International GmbH, stellte anschließend die Multimodal Structured Output Prediction, das Multitasking mit Sprach- beziehungsweise Vision-Modellen, vor. Nach einer kurzen Pause erklärte Arnt Bieberstein, Doktorand und Mitarbeiter in LLM-Praxis, zunächst wie man Chat-Agenten richtig baut und am Ende wie man die Tonalität mit ACT steuert. Um Recursive Language Models für sehr große Context Windows in der Praxis ging es bei Louis Emir, Masterand bei der BadenIT GmbH. Tobias Lachmann, der Leiter Entwicklung bei der Schrempp EDV GmbH, präsentierte mit Schrempp-Geschäftsführer Stefan Basler mit ERP im Dialog wie man CRM-Geschäftsprozesse mit KI und Sprache steuern kann. Und Janis Keuper ging auf das Thema LLM Sicherheit - Wie anfällig sind LLMs für Manipulationen? ein.
Das abschließende Meet & Greet nutzten die anwesenden Unternehmensvertreter*innen, um Kontakte zu knüpfen und sich weitere Praxistipps von den Referentinnen und Referentinnen zu holen.
Aktuelle Ergebnisse des Hochschulprojekts sind auch unter https://www.llm-praxis.de/ zu finden.
Zukunft.Raum.Schwarzwald
Das RegioWIN-Leuchtturmprojekt Zukunft.Raum.Schwarzwald hat es sich zum Ziel gesetzt, durch die Förderung eines strukturierten, bedarfsbezogenen Wissens- und Technologietransfers die Innovationsleistung der kleinen und mittleren Unternehmen zu erhöhen und die ländlichen und suburbanen Räume durch Coworking- und Innovations-Hubs in ein dezentrales, grenzüberschreitendes Netzwerk einzubinden.