Solía pensar que la discrepancia entre la ley y el software era entre un sistema construido para relaciones humanas estocásticas y código determinista, donde si x entonces y. Ya no estoy tan seguro. Los LLM rompen ese marco porque en realidad no son ninguno de los dos. Son probabilísticos de maneras que no son inspeccionables ni predecibles incluso por sus creadores. Esa es su naturaleza y lo que los hace útiles. Y aunque no son lo suficientemente deterministas para reglas de estilo contractual, todavía no son lo suficientemente humanos para los estándares del derecho común (o para ser tratados como personas, aún, en los estatutos). Oscilaremos entre legisladores y tribunales tratando de aplicar principios legales tradicionales y desarrolladores que quieren libertad para construir sin responsabilidad. Ninguno de los dos es viable. Los tribunales impondrán responsabilidad ya sea que los desarrolladores la tengan en cuenta o no, y las reglas legislativas contundentes fallarán en sistemas que no se comportan como nada que los redactores imaginaron. Los sistemas Frontier necesitan gobernanza y asignación de riesgos de frontera. Esos principios aún no existen. Pero es mejor construirlos que tenerlos impuestos desde el exterior.