KI Strategie

Künstliche Intelligenz … aber bitte mit Verantwortung!

Strategie Künstliche Intelligenz der Bundesregierung

Das Bundeskabinett hat kürzlich die Eckpunkte für eine Strategie Künstliche Intelligenz der Bundesregierung (Nationale_KI-Strategie.pdf) beschlossen. Mit den Eckpunkten will die Bundesregierung die Erforschung, Entwicklung und Anwendung von künstlicher Intelligenz in Deutschland auf ein weltweit führendes Niveau bringen. Eine der wichtigsten Punkte der Strategie ist eine auf Verantwortung basierende und gemeinwohlorientierte Entwicklung und Nutzung von KI sicherzustellen. (Lesen Sie hierzu auch unseren Artikel: KI-Strategie: Die 6 Grundpfeiler für eine erfolgreiche KI-Strategie)

Künstliche Intelligenz … aber bitte mit Verantwortung! Leitfaden zum verantwortungsvollen Umgang mit #KI #KünstlicheIntelligenz #AI #Ethik #Verantwortung #Digitalisierung #DigitaleTransformation #KIStrategie Klick um zu Tweeten

Künstliche Intelligenz schafft neue Möglichkeiten, um das Leben der Menschen auf der ganzen Welt zu verbessern. Von der Geschäftstätigkeit über das Gesundheitswesen bis hin zur Ausbildung. Nahezu jeder Bereich wird in Zukunft von KI-basierten Anwendungen betroffen sein. Es wirft aber auch gleichzeitig neue Fragen auf, wie Ethik, Fairness, Interpretierbarkeit, Datenschutz und Sicherheit am sinnvollsten in diese Systeme eingebaut werden können bzw. müssen.

AI Bias - Murat Durmus
AI Bias – Murat Durmus

Diese Fragen zum Thema Künstliche Intelligenz sind noch lange nicht gelöst, sondern sind aktive Bereiche der Forschung und Entwicklung (iterativer Prozess). Nachfolgend sind einige empfohlene Praktiken bei der Entwicklung von KI-Modellen aufgelistet.

KI-Strategie & Verantwortung

Verwenden Sie einen auf den Menschen ausgerichteten Ansatz

  • Der Ansatz der KI-Entwicklung muss auf den Menschen ausgerichtet sein. Die Art und Weise, wie die Benutzer Ihr System erleben, ist für die Beurteilung der tatsächlichen Auswirkungen ihrer Vorhersagen, Empfehlungen und Entscheidungen von wesentlicher Bedeutung.
  • Transparenz: Klarheit und Kontrolle sind für ein gutes Benutzererlebnis entscheidend.
  • Die Erstellung einer einzigen Antwort kann angemessen sein, wenn die Wahrscheinlichkeit hoch genug ist, dass die Antwort auf eine Vielzahl von Benutzern und Anwendungsfällen zutrifft. In anderen Fällen kann es die geeignetere Variante sein, dem Benutzer einige mögliche Optionen vorzuschlagen. Dies sollte immer berücksichtigt werden.
  • Es sollten eine Vielzahl von Benutzern und Anwendungsszenarien zusammenarbeiten und integriert werden. Ein ständiges Feedbacksystem während der gesamten Projektentwicklung sollte gewährleistet sein. Dadurch werden vielfältige Anwenderperspektiven in das Projekt mit einbezogen und die Anzahl der Menschen erhöht, die von der Technologie in Zukunft profitieren können.

 

Verstehen Sie die Einschränkungen Ihres Datasets und Modelle

  • Die Rohdaten sollten direkt untersucht werden. Machine Learning Modelle spiegeln die Daten wider, an denen sie trainiert wurden. Die Rohdaten sollten sorgfältig analysiert werden, um sicherzustellen, dass Sie ausreichend verstanden werden. In Fällen, in denen dies nicht möglich ist (z.B. bei sensiblen Rohdaten), sollte man versuchen die Eingabedaten so gut wie möglich zu verstehen und dabei stets die Privatsphäre respektieren (dies kann durch Berechnung aggregierter, anonymisierter Zusammenfassungen erfolgen)
  • Der Unterschied zwischen der Leistung während des Trainings und der Leistung im Produktiveinsatz sollte sorgfältig überwacht und analysiert werden.
  • Sind Funktionen in Ihrem Modell überflüssig oder nicht erforderlich? Verwenden Sie das einfachste Modell, dass Ihre Leistungsziele erfüllt.
  • Ein Modell, das zur Erkennung von Korrelationen erstellt wurde, sollte nicht verwendet werden, um kausale Schlüsse zu ziehen oder diese zu implizieren. Zum Beispiel kann Ihr Modell lernen, dass Personen, die Basketballschuhe kaufen, im Durchschnitt größer sind. Dies bedeutet jedoch nicht, dass ein Benutzer, der Basketballschuhe kauft, dadurch größer wird.
  • Modelle für das maschinelle Lernen spiegeln heute weitgehend die Muster ihrer Trainingsdaten wider. Es ist daher wichtig, den Umfang, die Möglichkeiten und Grenzen der Modelle so gut wie möglich zu kennen.
  • Teilen Sie den Benutzern möglichst Einschränkungen mit. Eine App zum Beispiel, die Maschinelles Lernen zum Erkennen bestimmter Vogelarten verwendet, könnte beispielsweise darauf hinweisen, dass das Modell mit einem begrenzten Satz von Bildern aus einer bestimmten Region der Welt trainiert wurde. Durch eine bessere Aufklärung des Benutzers können Sie auch das Feedback der Benutzer zu Ihrer Funktion oder Anwendung verbessern.

 

Überwachung und Aktualisierung des Systems

  • Die Überwachung und Aktualisierung des Systems sollten nach der Bereitstellung fortgesetzt werden. Durch die fortlaufende Überwachung wird sichergestellt, dass Ihr Modell die reale Leistung und das Feedback der Benutzer berücksichtigt.
  • Jedes Modell der Welt ist nahezu per Definition unvollkommen. Bauen Sie Zeit in Ihre Produkt-Roadmap ein, damit Sie Probleme in Ruhe angehen können.
  • Berücksichtigen Sie sowohl kurz- als auch langfristige Problemlösungen. Eine einfache Korrektur (z.B. Blacklisting oder Whitelisting) kann zur schnellen Lösung eines Problems beitragen, ist jedoch auf lange Sicht nicht die optimale Lösung. Vereinbaren Sie kurzfristige einfache Korrekturen mit längerfristig erlernten Lösungen.
  • Die Aktualisierung eines bereitgestellten Modells sollte sorgfältig analysiert und überwacht werden (wie wirkt sich die Aktualisierung auf die allgemeine Systemqualität und die Benutzererfahrung aus?).

 

Testing

  • Machen Sie sich mit den besten Testmethoden und dem Quality Engineering der Softwaretechnik vertraut, um sicherzustellen, dass das KI-System wie beabsichtigt funktioniert bzw. „vertrauenswürdig“ ist.
  • Führen Sie strenge Unit-Tests durch, um jede Komponente des Systems isoliert zu testen.
  • Führen Sie Integrationstests durch, um zu verstehen, wie einzelne ML-Komponenten mit anderen Teilen des Gesamtsystems interagieren.
  • Verwenden Sie ein Standard Dataset, um das System zu testen und sicherzustellen, dass es sich weiterhin wie erwartet verhält. Aktualisieren Sie dieses Test-Set regelmäßig entsprechend den sich ändernden Benutzern und Anwendungsfällen.
  • Führen Sie iterative Benutzertests durch, um unterschiedliche Bedürfnisse der Benutzer in die Entwicklungszyklen aufzunehmen.
AI Philosophy and Ethics
AI Philosophy and Ethics

Haben Sie noch Fragen zum Thema Ethik & Verantwortung beim Einsatz künstlicher Intelligenz?

Unsere Experten unterstützten Sie gerne bei der Verwirklichung Ihrer KI-Strategie.

Sprechen Sie uns jetzt an:

info@aisoma.de

Tel. +(49)69 257375-160

Empfehlenswerte & weiterführende Artikel zu diesem Themengebiet: