X
back to the blog

X wie XAI

Nein, wir reden hier weder von einer Provinzhauptstadt in Mosambik noch von einer ausgestorbenen indigenen Sprache Brasiliens. Das oder vielmehr die XAI, die wir hier meinen, bedeutet Explainable Artificial Intelligence, also sowas wie erklärbare künstliche Intelligenz (KI). Ja, geht denn das überhaupt?

23. May 2022
Dr. Christopher H. Müller, Owner, Expert Consultant

Owner, Expert Consultant

Theorie

Nein, wir reden hier weder von einer Provinzhauptstadt in Mosambik noch von einer ausgestorbenen indigenen Sprache Brasiliens. Das oder vielmehr die XAI, die wir hier meinen, bedeutet Explainable Artificial Intelligence, also sowas wie erklärbare künstliche Intelligenz (KI). Ja, geht denn das überhaupt?

Realität

In der Tat scheint die Erklärbarmachung der KI ein ziemlich dornenreiches Unterfangen zu sein. Die Probleme fangen schon damit an, dass real existierende Anwendungen oft noch sehr «beta» wirken und dementsprechend schlecht funktionieren. Auch nicht hilfreich ist sicher, dass die Exponenten und Erfinder der KI oft den Eindruck hinterlassen, sie wüssten selbst nicht recht, was genau da im Hintergrund so abläuft. Fundamentaler wird es, wenn sich der KI unser angeborenes oder erworbenes Misstrauen entgegenstemmt, das wir allem gegenüber entwickeln, was wir nicht kennen oder verstehen. Und die vorderste Front bilden schliesslich allseits bewunderte Datenbarone wie Elon Musk, der prophezeit, die KI werde «der wahrscheinlichste Auslöser des dritten Weltkriegs» sein.

Glücklicherweise muss die XAI hier weder vermitteln noch Stellung beziehen. Sie versteht ihre Aufgabe einzig darin, den Anwendern die KI beliebt zu machen. Ketzer würden jetzt sagen: Sie soll für Marktanteile und Moneten zu sorgen. Aber damit täte man ihr auch wieder unrecht – immerhin will sie die KI ja nicht nur besser verkaufen, sondern auch verbessern. Dabei verfolgt sie zwei Ansätze: Zum einen hilft sie, die Modelle so zu gestalten, dass sie für Laien von vornherein leichter begreifbar werden – dies nennt sich dann Ante-Hoc-XAI. Zum anderen versucht sie die Outputs der Algorithmen im Nachhinein so zu erklären, dass sie ein breites Publikum auch verstehen kann. Das gehört dann zur Post-Hoc-XAI.

Fazit

Wie auch immer man zur KI steht – sie verständlicher zu machen, ist sicher eine gute Idee. Schliesslich produziert, was nicht begriffen wird, auf Dauer eher mehr Ärger als Erträge.

Veröffentlicht in: Netzwoche Ausgabe 6, 2022

Nehmen Sie mit uns Kontakt auf.

Wir freuen uns, von Ihnen zu hören.

Dr. Christopher H. Müller, Owner, Expert Consultant

Owner, Expert Consultant

Dr. Christopher H. Müller, founder and owner of Ergonomen Usability AG, earned his PhD from the Institute for Hygiene and Applied Physiology at ETH Zurich. With over 22 years of experience, he is an expert in usability and user experience. His strong sense of empathy allows him to quickly understand the needs and perspectives of his clients. With creativity and courage, he supports his clients in their digitalization projects and the optimization of products, services, and processes. He takes a practical approach, developing tailored solutions that can be effectively implemented. Dr. Christopher H. Müller is a columnist for Netzwoche. He also serves as a board member for the Zugang für alle Foundation, and is a member of two Swico advisory boards and co-president of the Regional Conference Nördlich Lägern.

Contact