Bei der Arbeit mit KI halte ich mich an die „Ethics Guidelines for Trustworthy AI“ (Ethikleitlinien für vertrauenswürdige KI), die von der Hochrangigen Expertengruppe für Künstliche Intelligenz (AI HLEG) entwickelt wurden, die von der Europäischen Kommission eingesetzt wurde. Diese Leitlinien sollen sicherstellen, dass KI-Systeme in einer Weise entwickelt und eingesetzt werden, die ethisch vertretbar und vertrauenswürdig ist und im Einklang mit den Grundrechten steht. Hier ist eine Zusammenfassung der wichtigsten Punkte der Leitlinien:

1. Definition von vertrauenswürdiger KI

Vertrauenswürdige KI wird durch drei Komponenten definiert:

1. Rechtmäßig: Einhaltung aller geltenden Gesetze und Vorschriften.

2. Ethisch: Einhaltung von ethischen Grundsätzen und Werten.

3. Robust: Technisch robust und zuverlässig, um sicherzustellen, dass sich das KI-System auch unter widrigen Umständen wie erwartet verhält.

2. Vier ethische Grundsätze

In den Leitlinien werden vier ethische Grundsätze genannt, die die Entwicklung und den Einsatz von KI leiten sollten:

1. Achtung der menschlichen Autonomie: KI-Systeme sollten die menschliche Entscheidungsfindung unterstützen, die individuelle Handlungsfähigkeit fördern und die menschliche Autonomie nicht untergraben.

2. Vermeidung von Schaden: KI-Systeme sollten weder dem Einzelnen noch der Gesellschaft oder der Umwelt schaden. Dies beinhaltet die Gewährleistung der Privatsphäre, der Sicherheit und die Vermeidung von Vorurteilen, die zu einer ungerechten Behandlung führen könnten.

3. Fairness: KI-Systeme sollten fair sein, d. h. Gleichbehandlung, Nichtdiskriminierung und die Möglichkeit für den Einzelnen, von der KI getroffene Entscheidungen anzufechten.

4. Nachvollziehbarkeit: KI-Systeme sollten transparent und erklärbar sein, so dass man nachvollziehen kann, wie Entscheidungen getroffen werden.

3. Sieben Schlüsselanforderungen für vertrauenswürdige KI

In den Leitlinien werden sieben zentrale Anforderungen genannt, die KI-Systeme erfüllen sollten, um als vertrauenswürdig zu gelten:

1. Menschliches Handeln und Kontrolle: KI-Systeme sollten den Menschen befähigen, eine menschliche Kontrolle zu ermöglichen und die menschliche Autonomie zu respektieren.
   

2. Technische Robustheit und Sicherheit: KI-Systeme sollten zuverlässig, sicher und widerstandsfähig gegen Angriffe sein, um sicherzustellen, dass sie wie vorgesehen funktionieren.
   

3. Datenschutz und Data Governance: KI-Systeme sollten den Schutz der Privatsphäre, die Kontrolle der Daten und die Achtung der Datenrechte gewährleisten.
   

4. Transparenz: KI-Systeme sollten transparent sein und klar kommunizieren, wie sie funktionieren, welche Daten sie verwenden und welche Entscheidungen sie treffen.
   

5. Vielfalt, Nicht-Diskriminierung und Fairness: KI-Systeme sollten Voreingenommenheit vermeiden, Fairness gewährleisten und inklusiv sein und die Bedürfnisse verschiedener Nutzergruppen berücksichtigen.
   

6. Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten der Gesellschaft nützen, zur ökologischen Nachhaltigkeit beitragen und schädliche Auswirkungen auf die Gesellschaft vermeiden.
   

7. Rechenschaftspflicht: Es sollten Mechanismen vorhanden sein, die die Verantwortung und Rechenschaftspflicht für KI-Systeme und ihre Ergebnisse sicherstellen.

4. Bewertungsliste für vertrauenswürdige KI

Die Richtlinien enthalten eine Bewertungsliste, anhand derer Organisationen beurteilen können, ob ihre KI-Systeme die Anforderungen an die Vertrauenswürdigkeit erfüllen. Diese Liste hilft sicherzustellen, dass KI-Systeme verantwortungsvoll entwickelt und eingesetzt werden.

5. Einbindung von Stakeholdern und kontinuierliche Verbesserung

Die Richtlinien betonen, wie wichtig es ist, die Stakeholder während des gesamten KI-Lebenszyklus einzubeziehen, einschließlich der Entwickler, Nutzer und der von KI-Systemen Betroffenen. Die kontinuierliche Überwachung und Verbesserung von KI-Systemen wird ebenfalls betont, um sicherzustellen, dass sie im Laufe der Zeit vertrauenswürdig bleiben.

6. Implementierung und Operationalisierung

Die Leitlinien enthalten Empfehlungen für die Umsetzung und Operationalisierung vertrauenswürdiger KI, einschließlich der Notwendigkeit von Aufklärung und Bewusstseinsbildung, der Entwicklung von Standards sowie der Förderung von Forschung und Innovation im Bereich ethischer KI.

7. Globale und europäische Perspektiven

Obwohl die Richtlinien im europäischen Kontext entwickelt wurden, sollen sie global relevant sein und zur Entwicklung eines gemeinsamen Verständnisses von vertrauenswürdiger KI weltweit beitragen.

Literatur

High-Level Expert Group on Artificial Intelligence. (2019). Ethics guidelines for trustworthy AI. European Commission. https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419

Ethikrichtlinien für vertrauenswürdige KI