Impulspapier zur Zertifizierung von KI-Systemen
28. April 2020
Die Plattform Lernende Systeme veröffentlicht ein Impulspapier, das Potenziale und Herausforderungen für eine KI-Zertifizierung diskutiert, um damit die Entwicklung von vertrauenswürdigen KI-Systemen »made in Europe« zu fördern. Das interdisziplinäre Autorenteam aus Expertinnen und Experten des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, des Karlsruher Instituts für Technologie KIT, der Universität Tübingen sowie der Deutschen Akademie der Technikwissenschaften skizziert in der Publikation, welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen. Maßgeblich an der Erstellung beteiligt war die Arbeitsgruppe »Technologische Wegbereiter und Data Science« der Plattform Lernende Systeme, zu der auch die beiden ML2R-Sprecher Prof. Dr. Katharina Morik und Prof. Dr. Stefan Wrobel zählen.
Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie mit großem Nutzenpotenzial. Als Querschnittstechnologie wird KI in nahezu allen Lebensbereichen zum Einsatz kommen und zukünftig viele Dinge einfacher, präziser und schneller erledigen können als der Mensch. Diese Entwicklung bietet große Chancen für die moderne Gesellschaft, gleichzeitig führt sie aber auch zu neuen Fragen und Herausforderungen. Denn wenn KI-Systeme eigenständig handeln, Entscheidungen treffen oder Planungen anstellen, dann ist es wichtig, dass dies in einem ethisch vertretbaren Rahmen geschieht. Fragen zu Kontrolle, Rechtssicherheit, Verantwortlichkeit und Transparenz sowie IT-Sicherheit, Datenschutz und Selbstbestimmung müssen adressiert werden. Wichtig ist, dass ein durch KI-Systeme erfolgtes Diskriminierungshandeln vermieden wird und Menschen den Systemen vertrauen können.
Im Impulspapier beleuchtet das interdisziplinäre Autorenteam aus Mitgliedern der Plattform Lernende Systeme sowohl technische, als auch juristische und ethische Aspekte sowie Fragen und Herausforderungen, die es auf dem Weg zu einer Zertifizierung von KI zu adressieren gilt. Die KI-Zertifizierung soll Systeme auf Implementierungsanforderungen überprüfen und mit einem Siegel auszeichnen – mit dem Ziel, die Akzeptanz von KI-Systemen zu erhöhen, eine Orientierungsfunktion für KI-Entwickler*innen anzubieten und einen europäischen Standard für den marktwirtschaftlichen Wettbewerb zu schaffen.
Die Publikation gibt außerdem einen Überblick über bestehende Zertifizierungsprojekte in Deutschland und plädiert für die Einrichtung einer zentralen Zertifizierungsstelle, um „KI made in Europe“ als vertrauenswürdige Marke zu etablieren.
Mehr Info: