Künstliche Intelligenz (KI) ist mittlerweile in vielen Betrieben angekommen, sei es im Rahmen von Predictive Maintenance, also der vorausschauenden Instandhaltung, oder der Qualitätskontrolle von Bauteilen. Wo eine Produktion mit KI-Methoden neue Möglichkeiten entfaltet, bedarf es gleichzeitig deutlich höherer Sicherheitsmaßnahmen. Das KI-Produktionsnetzwerk an der Universität Augsburg arbeitet deshalb gemeinsam mit regionalen Unternehmen nicht nur daran, wie man Methoden der künstlichen Intelligenz in eine Produktion integrieren kann, sondern auch, welche Sicherheitsmaßnahmen notwendig sind und stellt diese Informationen als Handreichungen und Blaupausen zur Verfügung.

Datensicherheit als oberste Prämisse

Ausgangspunkt der neuen Möglichkeiten in der Produktion wie Predictive Maintenance sind Daten, mit denen eine KI lernt. Diese kann ein Unternehmen selbst erzeugen, indem es Daten direkt aus den Anlagen entnimmt, oder auf bestehende Datensätze oder Open Source-Sammlungen aus dem Internet zurückgreifen.

So oder so gilt laut Prof. Dr. Bernhard Bauer, Professor für Softwaremethodik für verteilte Systeme an der Universität Augsburg: „Sobald man als Unternehmen beginnt, mit KI zu arbeiten, ist es unerlässlich, parallel eine sichere Dateninfrastruktur aufzubauen. Sie schützt die gesamte KI-Pipeline, von der Datenerhebung via einem Sensor direkt an einer Anlage über die Datenübertragung, der Sicherung in einer Datenbank bis hin zur Nutzung in einem KI-Modell“. Bausteine für eine sichere Dateninfrastruktur können die Verschlüsselung relevanter Daten, Logging von Datenänderungen oder die Überprüfung der Netzwerkkommunikation sein.

Unbedarftheit auf der KI-Spielwiese

Leider sieht laut Bauer die Realität in vielen Unternehmen anders aus, KI sei oft noch eine „Spielwiese“, wo die Sicherheit der Daten erst einmal vergessen oder unachtsam mit Open Source Daten umgegangen werde. „Natürlich kann man im Nachhinein noch Sicherheitslösungen implementieren. Dies ist aber deutlich aufwändiger, als wenn man dies gleich von Anfang an mitdenkt und man von der ersten Minute an sicher ist“, weiß der Experte.

Im Fokus der Hacker

Dabei sind Unternehmen aufgrund möglicher hoher Lösegeldzahlung oder geistigen Eigentums besonders interessante Ziele. Die Angriffspunkte für Hacker sind ebenso vielfältig wie die Gefahren, die deren Angriffe darstellen. So würden Daten und mit ihnen Ideen und Informationen gestohlen, „verseuchte Daten“ führten zu fehlerhaft arbeitenden KI-Modellen. Diese wiederum können, wenn sie bei der Steuerung einer Maschine oder bei der Vorhersage von Wartungsintervallen eingesetzt werden, zu fehlerhaft arbeitenden Anlagen führen, die im schlimmsten Fall sogar zerstört werden könnten.

Gesamte KI-Pipeline im Blick

Damit dies nicht geschieht, untersuchen Bernhard Bauer und sein Team im Rahmen des KI-Produktionsnetzwerks an der Universität Augsburg die gesamte KI-Pipeline auf mögliche Schwachstellen hin, von der Datenerhebung über die Datenaufbereitung, das Lernen, die Prüfung und Bewertung des Betriebs bis hin zur Stilllegung. Zudem erarbeiten sie Lösungen für den Aufbau einer sicheren Dateninfrastruktur. „Unser Ziel ist die Entwicklung und der Betrieb vertrauenswürdiger KI-Systeme inklusive der Identifikation von Sicherheitsschwachstellen und deren Vermeidung“, fasst Bauer zusammen.

Angebot für Unternehmen

Die Ergebnisse veröffentlichen die Forschenden in Form methodischer Handreichungen sowie Blaupausen. Im Rahmen ausgewiesener Projekte, etwa bei der Umsetzung des AI Acts, beraten die Forschenden auch bei der Umsetzung im Unternehmen.

Das KI-Produktionsnetzwerk Augsburg ist ein Verbund der Universität Augsburg, des Fraunhofer-Instituts für Gießerei-, Composite- und Verarbeitungstechnik IGCV, des Zentrums für Leichtbauproduktionstechnologie (ZLP) des Deutschen Zentrums für Luft- und Raumfahrt (DLR) in Augsburg sowie der Technischen Hochschule Augsburg. Beteiligt sind zudem regionale Industriepartner. Ziel ist eine gemeinsame Erforschung KI-basierter Produktionstechnologien an der Schnittstelle zwischen Werkstoffen, Fertigungstechnologien, datenbasierter Modellierung und digitalen Geschäftsmodellen. Das KI-Produktionsnetzwerk Augsburg wird mit 92 Millionen Euro aus der Hightech Agenda der bayerischen Staatsregierung gefördert.