Die Diskussion um künstliche Intelligenz dreht sich oft um Technik, Leistung und Potenzial. Doch eine ebenso zentrale Frage bleibt: Wann und unter welchen Bedingungen vertrauen wir Maschinen — und was braucht es dazu? In unserem gemeinsamen Webinar mit Netzwoche haben wir genau dieses Thema beleuchtet — mit belastbaren Studien, realen Szenarien und dem Blick auf Usability als Schlüssel für Vertrauen.
Die Studie von Samuel Huber (Forventis) untersucht den Einsatz von Robotern und Drohnen in sicherheitskritischen, militärischen Umfeldern. Es zeigt sich: Vertrauen entsteht dort, wo Kommunikation klar, verständlich und vergleichbar mit menschlichen Massstäben ist.
Typische Prozentangaben — «85 % Erkennungswahrscheinlichkeit» — reichen nicht aus. Diese abstrakten Werte lassen offen, ob ich mich auf das System verlassen kann oder besser selbst handle. Stattdessen schlägt Huber einen menschreferenzierten Ansatz vor: Der Roboter meldet nicht nur eine Zahl, sondern eine Einschätzung im Verhältnis zum Menschen — z. B. «Ich bin in dieser Situation zuverlässiger als ein menschlicher Beobachter».
In Simulationen mit 20 Testpersonen zeigte sich deutlich: Menschreferenzierte Rückmeldungen stärkten Vertrauen, Prozentwerte waren weniger überzeugend — und Systeme ohne Statusmeldung schnitten am schlechtesten ab. netzwoche.ch
Die Rückmeldung ist selbsterklärend statt abstrakt.
Der Mensch kann intuitiv einschätzen: vertrauen oder prüfen.
Unter Stress oder Zeitdruck bleibt Raum für schnelle, sichere Entscheidungen.
Damit wird klar: Usability ist nicht lediglich «Bedienfreundlichkeit» — sie ist ein essenzieller Faktor für Sicherheit und Vertrauen, gerade wenn es um Leben und Tod geht.
Im zweiten Teil beleuchtete Mi Xue Tan (Die Ergonomen Usability) anhand einer Studie, wie unterschiedliche Erklärungsansätze das Vertrauen in medizinische KI-Chatbots beeinflussen. Getestet wurden vier Varianten: ein zertifizierter Bot, ein Confidence-Bot, ein Reasoning-Bot und ein Quellen-offenlegender Sources-Bot.
Das Ergebnis war auf den ersten Blick nüchtern: statistisch liess sich kein grosser Unterschied in der generellen Vertrauenswürdigkeit feststellen – alle Modelle lagen im Bereich von etwa 70–80 %. netzwoche.ch
Doch bei genauerem Hinsehen: Der Reasoning-Bot, der erklärt, wie er zu seinem Ergebnis kam, erzielte das meiste Vertrauen – dicht gefolgt vom zertifizierten Bot. Besonders interessant: Bei komplexen oder kritischen Themen wie Gesundheit steigt das Bedürfnis nach nachvollziehbaren Erklärungen. Die Nutzerinnen und Nutzer wollen nicht nur eine Antwort — sie wollen verstehen, wie diese zustande kommt, und sie wollen einschätzen können, wie sicher sie ist.
Erklärungen müssen verständlich sein – nicht technisch, sondern im Alltagssprech.
Transparenz ist nicht nur „nice to have“, sondern Voraussetzung für Verantwortung und Vertrauen.
Nutzer sollen selbst einschätzen können: Wie verlässlich ist die Empfehlung? Soll ich sie sofort umsetzen oder lieber prüfen?
Was kann schon schief gehen?
Für uns bei Die Ergonomen Usability ergibt sich daraus ein klares Fazit: Egal ob Robotik, Drohne oder Chatbot — Verständlichkeit und Nachvollziehbarkeit sind der gemeinsame Nenner.
Usability und erklärbare KI erfüllen denselben Zweck: Sie machen Technik anschlussfähig für Menschen. Technische Komplexität bleibt im Hintergrund. Im Vordergrund steht, was der Nutzer versteht.
Je klarer ein System kommuniziert — sei es Status, Zweifel, Empfehlung oder Limit — desto sicherer kann ein Mensch handeln. Und desto eher entsteht echtes Vertrauen.
Der Einsatz von KI und autonomen Systemen wächst rasant — sei es in Sicherheit, Medizin, Infrastruktur oder Service. Doch Potenzial und Technik allein genügen nicht. Wer Verantwortung trägt, muss dafür sorgen, dass Nutzer verstehen, was eine Maschine tut und warum.
Das heisst:
Kommunikation auf menschlichem Niveau
Transparente Rückmeldungen statt abstrakter Zahlen
Sichtbare Grenzen, Unsicherheiten, Qualitäten
Kontrolle und menschliche Einordnung ermöglichen
Damit KI-Systeme nicht nur funktionieren — sondern vertrauenswürdig sind.
Vertrauen zwischen Mensch und Maschine entsteht nicht durch Statistik, nicht durch brillante Algorithmen, sondern durch klaren, verständlichen Dialog. Usability ist kein Add-on — sie ist Kern jeder vertrauenswürdigen KI-Anwendung. Wer ernsthaft in KI investiert, muss zuerst dafür sorgen, dass der Mensch versteht. Dann kann Technik verbinden.
Inhaber, Expert Consultant
Dr. Christopher H. Müller, Gründer und Inhaber der Ergonomen Usability AG, promovierte am Institut für Hygiene und Arbeitsphysiologie der ETH Zürich. Er ist seit mehr als 22 Jahren Experte für Usability und User Experience. Sein ausgeprägtes Einfühlungsvermögen ermöglicht es ihm, rasch die Bedürfnisse und Perspektiven der Kunden zu verstehen. Mit viel Kreativität und Mut unterstützt er seine Kunden in Digitalisierungsvorhaben und bei der Optimierung von Produkten, Dienstleistungen oder Prozessen. Er verfolgt einen praxisorientierten Ansatz und entwickelt massgeschneiderte Lösungen, die effektiv umgesetzt werden können. Dr. Christopher H. Müller ist Kolumnist in der Netzwoche. Weitere Engagements sind unter anderem Stiftungsrat bei der Stiftung Zugang für alle, Mitglied in zwei Swico-Beiräten und Co-Präsident der Regionalkonferenz Nördlich Lägern.
