Lösungen für leistungsfähige und vertrauenswürdige Künstliche Intelligenz

KI besitzt großes Potenzial für die industrielle Produktion, beispielsweise für die Automatisierung, die Qualitätsprüfung oder die Optimierung von Prozessen: »Wir erhalten aktuell viele Anfragen von Unternehmen, die KI-Prototypen entwickelt haben und diese in die Serienproduktion bringen wollen. Damit die Skalierung gelingt, müssen diese KI-Lösungen systematisch getestet werden, um auch Schwachstellen erkennen zu können, die im Prototypen nicht zu Tage getreten sind«, erklärt Dr. Maximilian Poretschkin, Teamleiter KI-Absicherung und Zertifizierung am Fraunhofer IAIS.

Auf dem Fraunhofer Stand auf der Hannover Messe 2024 (22. bis 26. April, Halle 2, Stand B24) können Fachbesucherinnen und Fachbesucher sich anhand mehrerer Exponate und konkreter Use Cases über Anwendungsbeispiele und Lösungen für vertrauenswürdige KI informieren und erfahren, wie sie diese sicher in ihre Betriebsabläufe integrieren können.

Exponat 1: »KI-Zuverlässigkeit in der Produktion« – Prüftools zum systematischen Testen von KI-Modellen
Ein solches Anwendungsbeispiel ist ein Prüfwerkzeug für KI-Modelle, die in der Produktion sowie im Maschinen- und Anlagenbau eingesetzt werden. Das Tool ermöglicht die systematische Schwachstellensuche von KI-Systemen, um so deren Zuverlässigkeit und Robustheit sicherzustellen. »Unsere Methodik beruht darauf, den Anwendungsbereich des KI-Systems genau zu spezifizieren. Konkret geht es darum, den Raum der möglichen Eingaben, die das KI-System verarbeitet, zu parametrisieren und mit einer semantischen Struktur zu versehen. Mit den KI-Prüfwerkzeugen, die wir unter anderem im KI.NRW-Flagships-Projekt ›Zertifizierte KI‹ entwickelt haben, lassen sich dann Fehler der KI-Systeme erkennen«, erklärt Poretschkin.

In dem Forschungsprojekt werden gemeinsam mit Partnern Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz entwickelt: Unternehmen erhalten mit dem KI-Prüfkatalog einen praxisorientierten Leitfaden, der sie befähigt, ihre KI-Systeme leistungsfähig und vertrauenswürdig zu gestalten. Ein aktuelles Whitepaper beschäftigt sich zudem mit der Frage, wie mit generativer KI und Foundation-Modellen entwickelte KI-Anwendungen bewertet und gesichert werden können.

Exponat 2: »Who’s deciding here?!« – Was kann Künstliche Intelligenz entscheiden und was noch nicht?
Ganz im Zeichen der vertrauenswürdigen Künstlichen Intelligenz (KI) steht auch das Gemeinschaftsexponat der Fraunhofer-Allianz Big Data AI auf der Hannover Messe 2024. Mit dem Titel »Who’s deciding here?!« greift es das Thema »Freiheit« des Wissenschaftsjahrs 2024 des Bundesministeriums für Bildung und Forschung auf: Wie beeinflussen Technologien wie Künstliche Intelligenz unsere Entscheidungsfreiheit? Wie vertrauenswürdig sind die KI-Systeme, die in immer mehr sensiblen Anwendungen wie beispielsweise Kreditwürdigkeitsprüfungen zum Einsatz kommen sollen?

Das Exponat ist als interaktives Spiel gestaltet, bei dem Interessierte den Einsatz von KI im Alltag reflektieren können. Welche Entscheidungen können und wollen wir KI-Algorithmen überlassen und welche sollten wir besser selbst treffen? Themen sind hier unter anderem die Objekterkennung beim autonomen Fahren, die Gefahr von Diskriminierung durch Künstliche Intelligenz oder das Erkennen von Fake News. Sebastian Schmidt, Data Scientist für vertrauenswürdige KI am Fraunhofer IAIS, sagt: »Das Spiel macht für jeden erlebbar, wo KI ein hilfreicher Assistent sein kann und wo der Mensch besser mitentscheidet. Ziel ist immer, zur richtigen Entscheidung zu kommen, ohne dass der Mensch seine Entscheidungskompetenz und Souveränität verliert.« Das interaktive Spiel ist in diesem Jahr auch auf dem Ausstellungsschiff MS Wissenschaft erlebbar.

www.fraunhofer.com