Responsible (use of) AI

Stell dir vor, wir hörten auf, Maschinen wie kleine Ethiker zu behandeln. Das wäre ein guter Anfang. Lyons und Kolleginnen argumentieren, dass es konzeptionell schief läuft und riskant ist, menschliche Ethik auf künstliche Intelligenz, oder KI, zu projizieren. Menschen bevorzugen in moralisch aufgeladenen Entscheidungen andere Menschen – selbst wenn die Maschine objektiv bessere Entscheidungen trifft. Bigman und Gray verknüpfen das mit einem Gefühl fehlender Zuständigkeit und Expertise auf Seiten der KI. Dietvorst sprach von Algorithmus-Aversion. Wenn etwas schiefgeht, bestrafen wir Maschinen härter, während ihre Absichten und Agentenschaft ohnehin unklar bleiben. Vertrauen nach ethischen Verstößen zu reparieren, gelingt bei KI selten, wie Schelble gezeigt hat. Der Vorschlag ist deshalb entwaffnend bodenständig: Nicht die Maschine moralisch aufrüsten, sondern die gemeinsame Mensch–Maschine-Praxis verantwortlich gestalten – über Ideenfindung, Design, Betrieb und Erhalt hinweg, wie Dignum und Lyons es rahmen. Zwei Hebel tragen diese Praxis. Erstens: breite Literacy in Ethik und KI – für Entwickler, Führungskräfte und Operatoren. Wer Datenquellen, Grenzen und Verzerrungen lesen kann, baut realistische, begrenzte Erwartungen auf. Zweitens: transparente Dokumentation, damit beides nicht nur im Kopf, sondern im Prozess verankert ist. Model Cards funktionieren wie Nährwertangaben für Modelle: Wofür sie gedacht sind, wie gut sie funktionieren und auf welchen Daten sie trainiert wurden. Datasheets für Datensätze beschreiben Motivation, Zusammensetzung, Erhebung, Herkunft und Aktualisierungen. Mitchell und Kolleginnen sowie Gebru haben diese Formate konkretisiert; der Bericht des World Economic Forums gab frühe Leitplanken. Das klingt trocken, wirkt aber scharf: Es begrenzt den beabsichtigten Einsatz, macht Schwächen sichtbar und stützt Verantwortlichkeit. Wie fühlt sich das in der Anwendung an? Durch menschzentriertes Design. In Teams aus Mensch und KI soll die KI ergänzen, nicht ersetzen, und dabei die menschliche Kontrolle maximieren. Transparenz ist hier keine dekorative Maßnahme, sondern ein Funktionsmerkmal. Zwei Modelle prägen den Diskurs: der SAT-Ansatz, angelehnt an Endsleys Situationsbewusstsein, und das Lyons Transparency Model. Beide fordern, dass ein System seine Aufgabenauffassung, den Status, die Analytik und den Kontext, aber auch Rollen und Arbeitsteilung im Team erklärt. Schnittstellen mit höherer Transparenz – nennen wir es Stufe drei: Warum, was, wie und was als Nächstes – verbessern die Leistung und erhöhen das Vertrauen, ohne die Arbeitslast zu steigern. Gemeinsames, szenariobasiertes Training schließt die Lücke: Menschen erleben die KI in vielen Lagen, bilden robuste mentale Modelle und kalibrieren Erwartungen und Eingriffe. Erklärungen helfen besonders, wenn das Verhalten abweicht. Dann gibt es die Sicherheitsleine im Betrieb: Runtime Assurance. Das ist eine Architektur, die neben den Primärregler einen Wächter stellt, der Zustände oder Ausgaben überwacht und bei drohenden Regelverletzungen eingreift. Das Paradebeispiel heißt Auto-GCAS. Es überwacht Position, Geschwindigkeit und Geländeabstand eines Jets. Kündigt die Flugbahn eine Bodenberührung an, schaltet es auf einen Backup-Regler, rollt die Tragflächen waagerecht und zieht mit fünf g hoch. Ergebnis: Dreizehn Pilotinnen und Piloten sowie zwölf F‑16 wurden bereits gerettet. Technisch ist das ein Simplex-Muster, wie Phan und Griffin beschrieben haben: Der Backup-Controller beachtet die Primärausgabe meist nicht, und im Zweifel kann die Pilotin abschalten. Es gibt implizites Monitoring, das Trajektorien vorwärtssimuliert, und explizites, das Zustandsräume mathematisch in sicher und unsicher trennt. Eingriffe können als Umschalten oder als Optimierung geschehen. Ja, man kann auch Eingaben überwachen, um ethische oder Sicherheitsgrenzen zu erzwingen, wie Lyons diskutiert. Wenn man den Bogen schließt, sieht man ein kohärentes Set von Praktiken: Bildung und Dokumentation, Design für Transparenz und menschliche Kontrolle, szenariobasiertes Co-Training, und eine Laufzeitsicherung als Airbag. Zusammen verlagern sie Verantwortung weg vom Mythos der tugendhaften Maschine hin zu einer steuerbaren Sozio-Technik. Das ist die nüchterne, aber stärkere Vision. Kein Heiligenschein für Modelle, sondern klare Grenzen, geteiltes Verständnis und ein Wächter, der da ist, wenn es eng wird.