|

Zertifizierung von KI-Modellen

Künstliche Intelligenz (KI) ist im produzierenden Bereich eine sich schnell verbreitende Technologie. Die Plattform-Mitglieder TÜV AUSTRIA und Johannes Kepler Universität Linz (Institut für Maschinelles Lernen) schlagen in einem neuen Whitepaper daher einen Zertifizierungsprozess und einen Audit-Katalog für Machine Learning-Anwendungen vor. Dadurch sollen Hersteller bei der Entwicklung sicherer, verlässlicher und qualitativ hochwertiger Machine Learning Modelle unterstützt werden. Nutzern soll ein Qualitätssiegel für vertrauenswürdige KI-Systeme zur Verfügung stehen.

Machine Learning als Treiber der KI-Entwicklung

KI spielt im Zusammenhang mit Innovationen im Bereich Industrie 4.0 eine wesentliche Rolle, Machine Learning ist eine treibende Kraft was KI betrifft: Ob Bilderkennung, Empfehlungssysteme, Chatbots, Diagnostik oder Prognosen – mit großen Datenmengen trainierte Machine Learning Modelle finden sich bereits heute in einer Vielzahl von Anwendungen des Alltags wieder.

Beim Einsatz von Machine Learning und KI gilt es zentrale Fragen zu beantworten: Ist die KI vertrauenswürdig und sicher? Erfüllt die KI die von ihr erwartete Funktion? Sind die im Training verwendeten Daten korrekt? Wird mit der großen Menge an sensiblen Daten sorgsam umgegangen? Die Beantwortung dieser Fragen ist wichtig, um die die Verlässlichkeit von KI zu garantieren und somit deren Einsatz in der Industrie zu ermöglichen.

KI-Zertifizierung als Beschleuniger für den KI-Einsatz

Die Zertifizierung von KI kann dabei helfen, die oben gestellten Fragen zu beantworten. Zertifizierungen bestätigen, dass bestimmte Anforderungen (z. B. technische Normen) in Zusammenhang mit Produkten, Personen oder Prozessen erfüllt sind. Dadurch können sie vertrauensstiftend wirken und die Akzeptanz bzw. den Einsatz bestimmter Technologien positiv beeinflussen.

Im Rahmen der vorgeschlagenen Zertifizierung werden Machine Learning Modelle und deren Entwicklungsprozess in mehreren Dimensionen im Detail überprüft. Dabei werden sowohl die eigentliche Funktion und Verlässlichkeit der trainierten Modelle untersucht, als auch die Sicherheit der Software und ob diese den Anforderungen ihres Einsatzgebiets entsprechend angemessen entwickelt wurde. Hinzu kommt eine Prüfung, ob mit persönlichen Daten vertraulich umgegangen wird und mögliche ethische Fragestellungen ausreichend berücksichtigt werden.

 Das Whitepaper von TÜV AUSTRIA und JKU zu den Grundlagen für die Zertifizierung von KI -Modellen finden Sie hier zum Download:

https://www.tuv.at/loesungen/digital-services/trusted-ai/

Cover AI WhitePaper
Michael Fellner