Ein chinesisches Gericht entschied im ersten Fall von KI-Halluzinationen des Landes. Die Entscheidung bietet einen nützlichen Rahmen, um über die Haftung bei generativer KI nachzudenken. Die Fakten: Im letzten Juni fragte jemand einen KI-Chatbot nach den Standorten von Universitätscampus. Die KI gab falsche Informationen. Als sie korrigiert wurde, bestand sie darauf, dass sie recht hatte, und sagte: "Ich zahle dir 100.000 Yuan, wenn ich falsch liege. Klage mich am Internetgericht Hangzhou." Also tat der Nutzer das. Er klagte auf 9.999 Yuan und argumentierte, dass die KI ihn in die Irre geführt und ein verbindliches Entschädigungsversprechen abgegeben habe. Das Gericht sagte nein. KI-Systeme können keine rechtlichen Verpflichtungen eingehen, da ihnen die Rechtsfähigkeit fehlt. Auch die Plattform hinter der KI ist nicht haftbar. Die Antworten des Chatbots zählen nicht als das Unternehmen, das durch einen Agenten spricht oder handelt. Der bedeutendere Teil: Das Gericht wandte eine schuldhafte Haftung anstelle einer strengen Haftung an. Generative KI ist ein Dienst, so das Urteil. Anbieter können nicht vollständig vorhersagen oder kontrollieren, was Modelle generieren. Dies schafft spezifische Verpflichtungen. Plattformen müssen illegalen Inhalt aggressiv filtern. Sie müssen angemessene technische Sicherheitsvorkehrungen gegen Fehler implementieren. Sie müssen die Nutzer klar über Einschränkungen informieren. Aber sie sind nicht verpflichtet, Halluzinationen vollständig zu beseitigen, was heute technisch nicht machbar ist. Die Plattform in diesem Fall hatte ihr Modell registriert, Sicherheitsbewertungen abgeschlossen, verfügbare Genauigkeitsmaßnahmen implementiert und Risiken ordnungsgemäß offengelegt. Das Gericht stellte fest, dass sie ihrer Sorgfaltspflicht nachgekommen war. Das sieht nach pragmatischer Regulierung aus. Es macht Unternehmen für Leichtsinn verantwortlich, während es die technische Realität anerkennt. Während China die KI-Governance entwickelt, sind Gerichtsurteile wie dieses wichtig, um die Erwartungen der Branche festzulegen.