Eu costumava pensar que a incompatibilidade entre lei e software era entre um sistema construído para relações humanas estocásticas e código determinístico, onde se x então y. Não tenho tanta certeza agora. LLMs quebram essa estrutura porque também não são realmente os dois. Eles são probabilísticos de maneiras que não são inspecionáveis ou previsíveis nem mesmo pelos construtores. Essa é a natureza deles e o que os torna úteis. E embora não sejam deterministas o suficiente para regras do tipo contrato, ainda não são humanas o suficiente para padrões de common law (ou para serem tratadas como pessoas, ainda, em estatutos). Vamos oscilar entre legisladores e tribunais tentando aplicar princípios legais tradicionais e incorporadores que querem liberdade para construir sem responsabilidade. Nenhuma das opções é viável. Os tribunais vão impor responsabilidade, independentemente de os desenvolvedores levarem em conta ou não, e regras legislativas diretas vão falhar em sistemas que não se comportam como tudo o que os redatores imaginaram. Sistemas de fronteira precisam de governança e alocação de riscos de fronteira. Esses princípios ainda não existem. Mas é melhor construí-las do que tê-las impostas de fora.