Actualización: ChatGPT, Claude y Perplexity estaban equivocados en su interpretación Hay mucho valor en acudir a un profesional legal - ¡vaya, en trabajar con un profesional en cualquier área que tenga altas apuestas! La IA suena inteligente, pero puede (+ lo hace) equivocarse mucho mientras suena segura.

Supongo que lo mismo se aplica a la ingeniería de software, el ámbito legal y cualquier trabajo de conocimiento. Si quieres que alguien sea responsable de asegurar que las cosas estén bien, no puedes confiar en la IA. O si lo haces: tú mismo (en mi caso, ¡el daño habría sido considerable!)

Esta es también la razón por la que tengo confianza al usar LLMs en áreas en las que soy un experto: desarrollo, investigación de temas sobre los que escribo. Puedo decir inmediatamente cuando es una tontería o incorrecto lo que obtengo - y, honestamente, ¡no me importa! Simplemente, o pido más para corregirlo o lo abandono. En áreas en las que soy un novato (como temas legales): no hay forma de decir si la salida es buena o mala. Ahora mismo, honestamente, he creado ruido para mí mismo al pensar que el resultado es seguro X cuando, en realidad, es Y…