Jeg pleide å tro at misforholdet mellom lov og programvare var mellom et system bygget for stokastiske menneskelige relasjoner og deterministisk kode, hvor hvis x så y. Jeg er ikke så sikker lenger. LLM-er bryter ned den innrammingen fordi de egentlig ikke er noen av delene. De er sannsynlighetsbaserte på måter som ikke er inspekterbare eller forutsigbare, selv for deres byggherrer. Det er deres natur og det som gjør dem nyttige. Og selv om de ikke er deterministiske nok for kontraktslignende regler, er de fortsatt ikke i nærheten av menneskelige nok for common law-standarder (eller til å behandles som personer ennå, i lovverket). Vi vil veksle mellom lovgivere og domstoler som prøver å anvende tradisjonelle juridiske prinsipper, og utbyggere som ønsker frihet til å bygge uten ansvar. Ingen av delene er gjennomførbare. Domstolene vil pålegge ansvar uansett om utbyggerne tar hensyn til det eller ikke, og grove lovregler vil slå feil på systemer som ikke oppfører seg som noe utarbeiderne har forestilt seg. Grensesystemer trenger grensestyring og risikofordeling. Disse prinsippene eksisterer ikke ennå. Men det er bedre å bygge dem enn å få dem påtvunget utenfra.