2. Legibility by Design: Wie du das Vertrauen von Nutzer:innen in KI-Systeme messbar aufbaust
Akzeptanz für autonome Systeme entsteht nicht durch «Blackbox-Zuverlässigkeit», sondern durch Nachvollziehbarkeit. Die technische Qualität reicht nicht aus, das heisst, deine KI-Systeme müssen ihre Absichten verständlich kommunizieren. Konsequentes User-Testing ist dafür unverzichtbar.
Waymo sprach über «Legibility by Design». Dabei geht es darum, wie man ein autonomes Fahrzeug so gestaltet, dass Menschen ihm vertrauen. Der Ansatz basiert nicht auf Kontrolle oder Überwachung, sondern darauf, dass das System seine Absichten für Menschen nachvollziehbar macht. Vertrauen entsteht durch Verstehen, nicht durch Blackbox-Zuverlässigkeit.
Möglich wurde das durch konsequentes User-Testing. Die Ergebnisse wurden über mehrere Jahre gesammelt und sind aus dem Feedback echter Beta-Nutzer:innen entstanden. «Legibility by Design» war am Ende keine Idee eines einzelnen Design-Teams, sondern das Produkt von unzähligen Testrunden mit echten Menschen in selbstfahrenden Fahrzeugen.
Bei einem autonomen Fahrzeug steht mehr auf dem Spiel als bei den meisten Anwendungen. Das Prinzip dahinter ist aber universell: Sobald ein System selbständig Entscheidungen trifft, die Menschen nicht mehr Schritt für Schritt nachvollziehen können, entsteht dieselbe Vertrauensfrage.
Die Akzeptanz der Nutzer:innen von neuen Features hängt infolgedessen nicht nur von der technischen Qualität ab, sondern auch davon, ob das System verständlich kommuniziert, was es tut und warum. Bei Chatbots kann das zum Beispiel bedeuten, die Tools und Quellen aufzulisten, die für die Antwort herangezogen wurden.
Gerade bei KI ist das Vertrauen der Nutzer:innen aktuell oft noch sehr niedrig. Umso wichtiger ist es, dieses Vertrauen gezielt über die richtige UX in Kombination mit Usertests aufzubauen.