Когда вы храните свои знания и навыки в виде параметрических кривых (как это делают все модели глубокого обучения), единственный способ обобщения — это интерполяция по кривой. Проблема в том, что интерполированные точки *коррелируют* с истиной, но не имеют *причинной* связи с истиной. Вот и галлюцинации. Решение заключается в том, чтобы начать использовать причинные символические графы в качестве вашей представительной основы (например, компьютерные программы, которые мы пишем как программисты). Человеческий программный стек, с его чрезвычайно высокой степенью надежности, несмотря на его огромную сложность, является доказательством существования точной передачи истинности.
94,15K