Künstliche Intelligenz: TÜViT entwickelt gemeinsam mit Fraunhofer AISEC einen Ansatz zur Zertifizierung von KI-Algorithmen

Maschinelle Lernverfahren und Systeme der Künstlichen Intelligenz (KI) werden bereits heute in zahlreichen IT-Infrastrukturen und vernetzten Endgeräten als zentraler Baustein zur Analyse, Prognose und Steuerung eingesetzt, gleichzeitig wird in Deutschland zunehmend die Forderung nach mehr Sicherheit beim Einsatz Künstlicher Intelligenz (KI) laut. Das zeigt eine nun veröffentlichte repräsentative Umfrage des TÜV-Verbands. Dieser zufolge wünschen sich 78% der Bevölkerung Gesetze und Vorschriften zur Regulierung von KI. 85% sind gar der Meinung, dass KI-Produkte erst auf den Markt gebracht werden sollten, wenn ihre Sicherheit von unabhängigen Stellen überprüft wurde. Das zu ermöglichen, hat sich die TÜV Informationstechnik GmbH (TÜViT) schon vor Monaten auf die Fahnen geschrieben und entwickelt sich seitdem zielstrebig zum Algorithmen-TÜV. Vor diesem Hintergrund erarbeitet TÜViT gemeinsam mit Fraunhofer AISEC aktuell Verfahren, die die Vertrauenswürdigkeit von KI-Anwendungen mess- und überprüfbar machen sollen, da diese für Unternehmen aller Branchen, aber auch für staatliche Institutionen von höchster Wichtigkeit ist.

„Da KI für Firmen viel Potential mit sich bringt und zunehmend auch in sicherheitskritischen Bereichen eingesetzt wird, möchten wir Unternehmen bei der Entwicklung von KI-Lösungen unterstützen. Daher befindet sich TÜViT gemeinsam mit dem Fraunhofer AISEC aktuell in einem Forschungsprojekt zur Prüfung Künstlicher Intelligenz", so Dirk Kretzschmar, Geschäftsführer der TÜV Informationstechnik GmbH. „Ziel ist es, ein umfangreiches Framework zu entwickeln, welches die Robustheit von KI-Anwendungen gegen mögliche Angriffe mittels speziell entwickelter Tests messbar macht."

Mithilfe des innovativen Prüfverfahrens, das in Zukunft eine valide Risikobewertung ermöglicht, werden KI-Lösungen transparenter, vergleichbarer und somit zertifizierbar. Im Fokus steht dabei der Aspekt der IT-Sicherheit und damit die Frage, wie sich die Robustheit eines KI-Algorithmus gegenüber Hackerangriffen ermitteln lässt. Auch wenn KI heute bereits in einigen Bereichen teilweise besser ist als der Mensch, können schon kleinste Manipulationen verheerende Auswirkungen haben. „Daten können so verändert werden, dass der Algorithmus ein Stoppschild plötzlich als Vorfahrtsschild erkennt", erklärt Vasilios Danos, Berater für IT-Security bei der TÜV Informationstechnik GmbH. „Für das menschliche Auge wäre diese Manipulation kaum wahrnehmbar."

Im gemeinsamen Projekt mit dem Fraunhofer AISEC entstehen Prüfverfahren, die eine quantitative Bewertung der Robustheit und Stabilität des KI-Algorithmus und dessen Einbettung in das Gesamtsystem erlauben. Mit Hilfe der in der Abteilung Cognitive Security Technologies entwickelten Verfahren lässt sich eine quantitative Risikobewertung der KI-Kernkomponenten unter Berücksichtigung der Einsatzumgebung durchführen. Ob eine KI-Anwendung verlässlich ist, wird zukünftig transparent durch eine KI-Zertifizierung sichtbar sein.

„Allein den KI-Entwicklern zu vertrauen oder gar Herstellereigenerklärungen zuzulassen, halten wir für keine belastbare Basis. Aus unserer Sicht ist es erforderlich, KI-Prüfungen in einem zertifizierten und unabhängigen Labor durchzuführen. Denn hier sind kompetentes Expertenwissen und eine entsprechende Ausstattung gefragt. Das Fraunhofer AISEC forscht bereits seit Jahren an Verfahren, um KI-Anwendungen robuster zu machen und gegen Manipulationen abzusichern und ist damit ein idealer Projektpartner", fügt Dirk Kretzschmar hinzu.

Sobald das Grundgerüst des Frameworks fertiggestellt ist, können Pilotprojekte mit Herstellern und Entwicklern von KI-Lösungen durchgeführt werden. Erste Prüfungen und Zertifizierungen sind für Mitte 2020 geplant.

Über das Fraunhofer AISEC

Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC ist eine der international führenden Einrichtungen für angewandte Forschung im Bereich Cybersicherheit. Mehr als 100 hochqualifizierte Mitarbeiterinnen und Mitarbeiter arbeiten an maßgeschneiderten Sicherheitskonzepten und Lösungen für Wirtschaftsunternehmen und den öffentlichen Sektor, mit dem Ziel, die Wettbewerbsfähigkeit von Kunden und Partnern zu verbessern. Dazu zählen Lösungen für eine höhere Datensicherheit sowie für einen wirksamen Schutz vor Cyberkriminalität wie Wirtschaftsspionage und Sabotageangriffe. Das Kompetenzspektrum erstreckt sich von Embedded und Hardware Security über Automotive und Mobile Security bis hin zu Sicherheitslösungen für Industrie und Automation. Zudem bietet das Fraunhofer AISEC in seinen modernen Testlaboren die Möglichkeit zur Evaluation der Sicherheit von vernetzten und eingebetteten Systemen, von Hard- und Software-Produkten sowie von Web-basierten Diensten und Cloud-Angeboten.

Über die TÜV Informationstechnik GmbH

TÜV Informationstechnik GmbH (TÜViT), der neutrale, objektive und sachkundige Informatik TÜV® ist ein Spezialist auf dem Gebiet der Informationstechnik. Als Vertrauensvermittler für Qualität und Sicherheit gehören die Bewertung, Prüfung und Zertifizierung von IT-Produkten, IT-Systemen und IT-Prozessen zu unseren Haupttätigkeiten.

Die TÜV Informationstechnik GmbH gehört zur Unternehmensgruppe TÜV NORD.

Firmenkontakt und Herausgeber der Meldung:

TÜV Informationstechnik GmbH
Am TÜV 1
45307 Essen
Telefon: +49 (201) 8999-9
Telefax: +49 (201) 8999-888
http://www.tuvit.de

Ansprechpartner:
Verena Lingemann
Redakteurin
Telefon: +49 (201) 8999-658
E-Mail: v.lingemann@tuvit.de
Für die oben stehende Pressemitteilung ist allein der jeweils angegebene Herausgeber (siehe Firmenkontakt oben) verantwortlich. Dieser ist in der Regel auch Urheber des Pressetextes, sowie der angehängten Bild-, Ton-, Video-, Medien- und Informationsmaterialien. Die United News Network GmbH übernimmt keine Haftung für die Korrektheit oder Vollständigkeit der dargestellten Meldung. Auch bei Übertragungsfehlern oder anderen Störungen haftet sie nur im Fall von Vorsatz oder grober Fahrlässigkeit. Die Nutzung von hier archivierten Informationen zur Eigeninformation und redaktionellen Weiterverarbeitung ist in der Regel kostenfrei. Bitte klären Sie vor einer Weiterverwendung urheberrechtliche Fragen mit dem angegebenen Herausgeber. Eine systematische Speicherung dieser Daten sowie die Verwendung auch von Teilen dieses Datenbankwerks sind nur mit schriftlicher Genehmigung durch die United News Network GmbH gestattet.

counterpixel