Saya dulu berpikir ketidakcocokan antara hukum dan perangkat lunak adalah antara sistem yang dibangun untuk hubungan manusia stokastik dan kode deterministik, di mana jika x maka y. Saya tidak begitu yakin lagi. LLM memecah pembingkaian itu karena mereka juga tidak benar-benar. Mereka probabilistik dengan cara yang tidak dapat diperiksa atau diprediksi bahkan oleh pembangunnya. Itulah sifat mereka dan apa yang membuat mereka berguna. Dan meskipun mereka tidak cukup deterministik untuk aturan gaya kontrak, mereka masih belum cukup manusiawi untuk standar hukum umum (atau untuk diperlakukan sebagai orang, belum, dalam undang-undang). Kami akan berosilasi antara legislator dan pengadilan yang mencoba menerapkan prinsip-prinsip hukum tradisional dan pengembang yang menginginkan kebebasan untuk membangun tanpa tanggung jawab. Tidak ada yang bisa diterapkan. Pengadilan akan memaksakan tanggung jawab apakah pengembang mempertanggungjawabkannya atau tidak, dan aturan legislatif yang tumpul akan gagal pada sistem yang tidak berperilaku seperti apa pun yang dibayangkan oleh penyusun. Sistem perbatasan membutuhkan tata kelola perbatasan dan alokasi risiko. Prinsip-prinsip itu belum ada. Tetapi lebih baik membangunnya daripada memaksakannya dari luar.