Neues Gütesiegel für Ethik bei Künstlicher Intelligenz
Neues Gütesiegel für Ethik bei Künstlicher Intelligenz
http://bit.ly/2upGUsN
Um dem entgegen zu wirken, hat der Bundesverband KI ein neues Gütesiegel eingeführt. Dahinter stecken mehr als 50 deutsche Unternehmen, die sich für die Einhaltung von ethischen Grundwerten sowie dem sicheren und datenschutzkonformen Umgang mit KI einsetzen wollen. Mit dem Gütesiegel will man aber auch Vertrauen in der Gesellschaft gegenüber KI und eine transparente Vorgehensweise in der Entwicklung sicherstellen.
In der Diskussion um die Künstliche Intelligenz taucht immer wieder die Frage auf, ob die entwickelten Systeme auch ethische Grundsätze einhalten können. Mit dem Gütesiegel verpflichten sich die Unternehmen darauf, bei der Entwicklung und Anwendung von Künstlicher Intelligenz das Interesse der Menschen ins Zentrum zu stellen und die europäischen Grundwerte zu beachten. Deshalb arbeitet das Gütesiegel mit den Kriterien Ethik, Unvoreingenommenheit, Transparenz sowie Sicherheit und Datenschutz.
Zum Punkt Ethik sieht das Gütesiegel folgende Richtlinien vor:
– hinsichtlich der Implementierung in ein Produkt die o.g. gesellschaftlichen, rechtlichen und
ethischen Grundlagen berücksichtigt werden.
– das einsetzende Unternehmen sich zu den genannten Werten im Zusammenhang des
Grundgesetzes und der UN-Menschenrechtskonvention bekennt.
– in der Interaktion Mensch-Maschine die Entscheidungsprozesse durch menschliche
Intervention so beeinflussbar sind, dass maschinelle Abläufe jederzeit angehalten und im
notwendigen Falle abgeschaltet werden können.
Unvoreingenommenheit ist besonders wichtig. Die Auswahl der Daten ist eine der wesentlichen Komponenten und wird diese falsch getroffen, werden alte Stereotypen und Vorurteile, die bereits in den Daten vorhanden sind, durch das KI-System gelernt und dabei verstärkt. Deshalb gibt es hier folgende Vorschriften:
– Im Rahmen der Erteilung des Gütesiegels ist eine Verfahrensbeschreibung empfohlen, durch welche eine erhöhte Transparenz ermöglicht wird und so letztlich festgestellt werden kann, ob Verfahren und Zweck einander bedingen.
– Es ist zudem angeraten zu prüfen, ob die Auswahl der Verfahren und Algorithmen hinsichtlich des Einsatzzweckes und des Nutzens sinnvoll und zielführend sind.
Transparenz erhöht bekanntlich das Vertrauen:
– Jeder Schritt in Bezug auf die Datenvorverarbeitung ist im Rahmen eines transparenten Vorgehens zu dokumentieren. Dies geschieht in erster Linie zur Nachvollziehbarkeit aber auch zur Transparenz über etwaige nicht verwendete Daten (Erkennen und Entfernen von Ausreißern)
– Es ist sicherzustellen, dass die Einflussparameter (Features) in Bezug auf die Aufgabenstellung geeignet gewählt sind.
– Die Modellevaluation soll je nach Problemstellung und KI-Verfahren geeignete Metriken zur Bewertung der KI-Modellgüte verwenden.
– KI-Verfahren sollen von bekannten und geeigneten Analyseverfahren begleitet werden. Damit soll ein Einblick in die Einflussfaktoren, die von einem KI-Modell gelernt werden, gewährt werden, um jederzeit das Ergebnis eines KI-Modells nachvollziehen zu können.
Sicherheit und Datenschutz spielen eine ebenso große Rolle. Ein KI-System verarbeitet Daten ebenso wie klassische Datenverarbeitungssysteme. Daher gibt es zunächst die gleichen Anforderungen an die Vertraulichkeit und Integrität der Datenverarbeitung. Darüber hinaus entstehen durch die besondere Natur lernender Maschinen zusätzliche Anforderungen:
– Sicheres und datenschutzkonformes Sammeln, Verwahren und Verarbeiten großer Mengen von Trainingsdaten
– Robustheit gegenüber feindseligen Eingabedaten (Adversarial Inputs)
– Verhindern der Degeneration und Manipulation selbstlernender Systeme
– Absicherung gegen neue, menschenunübliche Versagensarten (Failure Modes der KI)
– Unberechtigter Zugriff auf personenbezogene Daten durch Ausforschung neuronaler Netze
Das KI-Gütesiegel soll künftig ein eingetragenes Markenzeichen werden. Für die Erstellung dieser Parameter haben sich KI-Experten aus praktischer Sicht mit den Themen Datenethik und Datenschutz auseinandergesetzt.
via: ki-verband
Technologie
via Mobilegeeks.de http://bit.ly/2yr4A2y
March 24, 2019 at 05:12PM
