Haftung für KI-Systeme

Da lag der Chatbot falsch: Wer haftet, wenn die KI einen Fehler macht?

Der Fall von Jake Moffatt kann als Paradebeispiel gelten: Der Kanadier buchte aufgrund einer falschen Auskunft des Air Canada-Chatbots ein Flugticket zum Trauerrabatt, der ihm später verwehrt wurde. Nach einem monatelangen Rechtsstreit entschied ein Gericht zugunsten von Moffatt und stellte fest, dass Air Canada für die fehlerhaften Informationen des Chatbots haften muss.

Das Urteil könnte weitreichende Folgen haben, berichtet der Standard. Denn es stellt die Frage nach der Haftung für KI-Systeme im Allgemeinen. Wer trägt die Verantwortung, wenn ein Chatbot falsche Auskünfte erteilt oder einen Fehler macht? Der Betreiber der Website, der Hersteller des Chatbots, der Datenlieferant oder alle gemeinsam?

Die schwierige Schuldfrage

Die komplexe Funktionsweise von Sprachmodellen wie ChatGPT macht es schwierig, die Schuldfrage zu klären. Diese Systeme werden mit riesigen Datenmengen aus dem Internet trainiert und lernen selbstständig Muster zu erkennen. Das Problem: Die Datenquelle ist oft nicht transparent und die Entscheidungen der KI sind nicht immer nachvollziehbar.

Zudem können Chatbots leicht manipuliert werden. So hat ein US-Anwalt im vergangenen Jahr eine Klageschrift mithilfe von ChatGPT verfasst, bei der die KI sechs vermeintliche Präzedenzfälle frei erfunden hat.

Die Grenzen der KI sind klar ersichtlich: Chatbots können zwar einfache Fragen beantworten und Routineaufgaben erledigen, aber sie sind oftmals nicht in der Lage, komplexe Sachverhalte zu verstehen oder den Kontext einer Situation zu erfassen. Daher sollten sie mit Vorsicht eingesetzt werden und keinesfalls als Ersatz für menschliche Beratung oder Expertise dienen.

Wie zuverlässig kann ein Chatbot sein?

Der Fall Moffatt zeigt, wie wichtig es ist, klare rechtliche Rahmenbedingungen für den Einsatz von KI-Systemen zu schaffen. Unternehmen müssen die Verantwortung für ihre Chatbots übernehmen und sicherstellen, dass diese korrekt und zuverlässig funktionieren. Gleichzeitig sollte man die Möglichkeiten von KI nicht unterschätzen. Richtig eingesetzt, können Chatbots die Kundenkommunikation verbessern, den Service optimieren und Kosten sparen.