KI-Anwendungen: Vielseitig und leistungsfähig – aber auch sicher?

Künstliche Intelligenz ist in aller Munde und die Identifikation von Einsatzfeldern für KI-Anwendungen boomt. Dennoch sehen wir erst die Anfänge einer viel größeren technologischen Revolution. KI hilft inzwischen vielerorts bei der Entwicklung neuer Materialien und Werkstoffe, die hochwertigere, umweltfreundlichere und wirtschaftlichere Lösungen und Produktionsweisen ermöglichen. Sie wird ebenfalls eingesetzt, um bei Produktentwicklung, Prototyping und Testing durch Simulationsverfahren und Vorhersagen zu späteren Produkteigenschaften Zeit und Kosten zu sparen.

Künstliche Intelligenz kann künftig gleichermaßen dabei helfen, Wasserbedarfe vorherzusagen und Talsperren smart zu steuern, um auf einen interessanten weiteren Anwendungsfall zu sprechen zu kommen. Und KI kann zum Beispiel Roboter in der Produktion flexibler und sparsamer machen. Entsprechende Projekte kommen auf eine Senkung des Energieverbrauchs in der Größenordnung von bis zu 25 Prozent [1].

Doch wie steht es eigentlich um die Zuverlässigkeit und Sicherheit im Zusammenhang mit der Nutzung von KI-Anwendungen? 

Der dringende Wunsch nach vertrauenswürdigen KI-Anwendungen

Auf vielfältige Weise widmet sich derzeit das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS diesem Thema und erarbeitet Lösungen für leistungsfähige und zugleich vertrauenswürdige KI-Anwendungen etwa in den Bereichen Serienproduktion und Qualitätskontrolle. Zu den Aspekten, mit denen sich die Wissenschaftlerinnen und Wissenschaftler beschäftigen, gehört die Identifikation von Schwachstellen von KI-Modellen bereits während der Entwicklung, aber auch für die Allgemeinheit spannende Fragen wie die Verlässlichkeit von durch KI erteilten Auskünften. 

„Wir erhalten aktuell viele Anfragen von Unternehmen, die KI-Prototypen entwickelt haben und diese in die Serienproduktion bringen wollen. Damit die Skalierung gelingt, müssen diese KI-Lösungen systematisch getestet werden, um auch Schwachstellen erkennen zu können, die im Prototypen nicht zu Tage getreten sind“, erklärt Dr. Maximilian Poretschkin, Teamleiter KI-Absicherung und Zertifizierung am Fraunhofer IAIS.

KI-Zuverlässigkeit in der Produktion

Ein aktuelles Anwendungsbeispiel des IAIS ist ein Prüfwerkzeug für KI-Modelle, die in der Produktion sowie im Maschinen- und Anlagenbau eingesetzt werden. Das Tool ermöglicht die systematische Schwachstellensuche von KI-Systemen, um so deren Zuverlässigkeit und Robustheit sicherzustellen. 

„Unsere Methodik beruht darauf, den Anwendungsbereich des KI-Systems genau zu spezifizieren. Konkret geht es darum, den Raum der möglichen Eingaben, die das KI-System verarbeitet, zu parametrisieren und mit einer semantischen Struktur zu versehen. Mit den KI-Prüfwerkzeugen, die wir unter anderem im KI.NRW-Flagships-Projekt ‚Zertifizierte KI‘ entwickelt haben, lassen sich dann Fehler der KI-Systeme erkennen“, so Poretschkin.

Mit „DigiWeld“ hat das Fraunhofer IPA zudem eine Lösung entwickelt, die es Maschinen- und Anlagenbauern ermöglicht, KI-Anwendungen zu nutzen, ohne sensible Produktionsdaten ihrer Kunden erfassen zu müssen.

Weitere Informationen:
Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
www.iais.fraunhofer.de

Quellen:
[1] https://www.iwu.fraunhofer.de/de/presse-und-medien/presseinformationen/2024-GreenBotAI-macht-Roboter-flexibler-und-senkt-ihren-Energieverbrauch-um-bis-zu-25-Prozent.html