Un tribunal chino dictó sentencia en el primer caso de alucinación de IA del país. La decisión proporciona un marco útil para pensar sobre la responsabilidad en la IA generativa. Los hechos: En junio pasado, alguien preguntó a un chatbot de IA sobre las ubicaciones de los campus universitarios. La IA dio información incorrecta. Cuando se le corrigió, insistió en que tenía razón y dijo: "Te pagaré 100,000 yuanes si estoy equivocado. Demandame en el Tribunal de Internet de Hangzhou." Así que el usuario lo hizo. Demandó por 9,999 yuanes, argumentando que la IA lo había engañado y había hecho una promesa de compensación vinculante. El tribunal dijo que no. Los sistemas de IA no pueden hacer compromisos legales porque carecen de personalidad jurídica. La plataforma detrás de la IA tampoco es responsable. Las respuestas del chatbot no cuentan como si la empresa estuviera hablando o actuando a través de un agente. La parte más significativa: El tribunal aplicó la responsabilidad basada en culpa en lugar de la responsabilidad objetiva. La IA generativa es un servicio, establece la sentencia. Los proveedores no pueden prever ni controlar completamente lo que generan los modelos. Esto crea obligaciones específicas. Las plataformas deben filtrar agresivamente el contenido ilegal. Deben implementar salvaguardias técnicas razonables contra errores. Deben advertir a los usuarios claramente sobre las limitaciones. Pero no están obligadas a eliminar las alucinaciones por completo, lo cual no es técnicamente factible hoy en día. La plataforma en este caso había registrado su modelo, completado evaluaciones de seguridad, implementado medidas de precisión disponibles y divulgado riesgos adecuadamente. El tribunal encontró que cumplió con su deber de cuidado. Esto parece una regulación pragmática. Hace que las empresas sean responsables por imprudencia mientras reconoce la realidad técnica. A medida que China desarrolla la gobernanza de la IA, decisiones judiciales como esta son importantes para establecer expectativas en la industria.