Een Chinese rechtbank heeft geoordeeld in de eerste zaak over AI-hallucinaties in het land. De beslissing biedt een nuttig kader om na te denken over aansprakelijkheid in generatieve AI. De feiten: Vorig jaar juni vroeg iemand een AI-chatbot naar de locaties van universiteitscampussen. De AI gaf verkeerde informatie. Toen het werd gecorrigeerd, volhardde het dat het gelijk had en zei: "Ik betaal je 100.000 yuan als ik ongelijk heb. Daag me voor de Hangzhou Internetrechtbank." Dus deed de gebruiker dat. Hij klaagde voor 9.999 yuan en stelde dat de AI hem had misleid en een bindende schadevergoeding had beloofd. De rechtbank zei nee. AI-systemen kunnen geen juridische verplichtingen aangaan omdat ze geen juridische persoonlijkheid hebben. Het platform achter de AI is ook niet aansprakelijk. De antwoorden van de chatbot tellen niet als het bedrijf dat spreekt of handelt via een agent. Het belangrijkere deel: De rechtbank paste foutgebaseerde aansprakelijkheid toe in plaats van strikte aansprakelijkheid. Generatieve AI is een dienst, stelt de uitspraak. Leveranciers kunnen niet volledig voorzien of controleren wat modellen genereren. Dit creëert specifieke verplichtingen. Platforms moeten illegale inhoud agressief filteren. Ze moeten redelijke technische waarborgen tegen fouten implementeren. Ze moeten gebruikers duidelijk waarschuwen over beperkingen. Maar ze zijn niet verplicht om hallucinaties volledig te elimineren, wat vandaag de dag technisch niet haalbaar is. Het platform in deze zaak had zijn model geregistreerd, veiligheidsbeoordelingen voltooid, beschikbare nauwkeurigheidsmaatregelen geïmplementeerd en risico's correct bekendgemaakt. De rechtbank vond dat het zijn zorgplicht had nageleefd. Dit lijkt op pragmatische regulering. Het houdt bedrijven verantwoordelijk voor roekeloosheid terwijl het de technische realiteit erkent. Terwijl China AI-governance ontwikkelt, zijn rechtbankbeslissingen zoals deze belangrijk voor het stellen van verwachtingen in de industrie.