Tôi từng nghĩ rằng sự không khớp giữa luật pháp và phần mềm là giữa một hệ thống được xây dựng cho các mối quan hệ con người ngẫu nhiên và mã xác định, nơi nếu x thì y. Giờ tôi không chắc nữa. Các LLM phá vỡ khung đó vì chúng không thực sự thuộc về cả hai. Chúng có tính xác suất theo những cách không thể kiểm tra hoặc dự đoán ngay cả bởi những người xây dựng chúng. Đó là bản chất của chúng và điều làm cho chúng hữu ích. Và trong khi chúng không đủ xác định cho các quy tắc kiểu hợp đồng, chúng vẫn không đủ giống con người cho các tiêu chuẩn luật thông thường (hoặc để được coi là cá nhân, chưa, trong các điều luật). Chúng ta sẽ dao động giữa các nhà lập pháp và tòa án cố gắng áp dụng các nguyên tắc pháp lý truyền thống và các nhà phát triển muốn tự do xây dựng mà không phải chịu trách nhiệm. Cả hai đều không khả thi. Các tòa án sẽ áp đặt trách nhiệm cho dù các nhà phát triển có tính đến điều đó hay không, và các quy tắc lập pháp thô bạo sẽ không hiệu quả trên các hệ thống không hành xử như bất kỳ điều gì mà các nhà soạn thảo tưởng tượng. Các hệ thống Frontier cần quản trị và phân bổ rủi ro frontier. Những nguyên tắc đó vẫn chưa tồn tại. Nhưng tốt hơn là xây dựng chúng hơn là để chúng bị áp đặt từ bên ngoài.