¿Por qué la red neuronal inventa cosas y no dice “no sé”?
El modelo de lenguaje no busca la respuesta en la base de hechos. Ella continúa el texto como lo hace la mayoría de las veces y lo hace de manera muy convincente. Si la solicitud solicita un número o enlace específico, pero el modelo no tiene datos confiables, igualmente producirá algo creíble: el formato correcto, con un tono seguro y hermosos detalles. Por tanto, es imposible distinguir la verdad de la ficción por el sonido. Una respuesta suave, detallada y tranquila no significa que sea correcta. Es importante recordar esto: la duda debe activarse no cuando la respuesta suena extraña, sino cuando la respuesta contiene algo que se puede verificar y algo depende de ello.
¿Qué inventa una red neuronal con mayor frecuencia?
Las partes más peligrosas son las pequeñas que se controlan. Más a menudo que otros, los números y porcentajes exactos, las fechas de los acontecimientos, los nombres de personas y de organizaciones, los números de leyes y artículos, las citas “de un libro” o “de una entrevista”, las direcciones de referencia y los títulos de artículos científicos, así como las funciones y configuraciones de programas que en realidad no existen, son ficticios. Si la respuesta contiene un enlace a la fuente, esto no es una prueba: la red neuronal puede encontrarlos, y con un nombre y año de publicación plausibles. El razonamiento general, las explicaciones de conceptos y la paráfrasis del propio texto se inventan con mucha menos frecuencia, por lo que la red neuronal debe dirigirse allí en primer lugar.
Cómo detectar un error en cinco minutos: cuatro comprobaciones
Primera comprobación: pide la fuente y ábrela tú mismo. Si falta la página o dice algo diferente, no se puede utilizar la respuesta. Segundo: encuentre el valor original. Consulta la cifra con el sitio web oficial de la organización, busca la cotización usando la frase exacta entre comillas, consulta la ley en el portal oficial de tu país. Tercero: haz la misma pregunta en un chat nuevo con diferentes palabras. Si las respuestas difieren notablemente, esto es una señal de advertencia. Cuarto: pida a la red neuronal que divida la respuesta en "seguro" y "no estoy seguro, es necesario comprobarlo". Esto no es una garantía, pero ayuda a ver los puntos débiles. La regla principal: todo lo que vayas a publicar, enviar o firmar se coteja con la fuente original.
Cómo escribir una solicitud para que haya menos inventos.
La mejor manera de reducir las fabricaciones no es pedirle a la red neuronal que recuerde, sino darle material. Inserte texto, tabla o extracto y escriba lo que necesita responder solo en base a él. Agregue permiso para decir "esto no está en el texto": a muchos modelos se les debería permitir explícitamente admitir su ignorancia. Solicite respuestas breves con una cita de su material: esto facilita la verificación de cada afirmación. No exija “números exactos de memoria” a la red neuronal y no insista en una respuesta si tiene dudas: la presión aumenta las posibilidades de invención. Si necesita datos nuevos, utilice el modo de búsqueda de Internet donde esté disponible y aun así abra los enlaces usted mismo.
Cuando no se puede confiar en una red neuronal sin verificación
Hay temas donde el coste del error es alto: salud y medicamentos, cuestiones legales y plazos, impuestos y dinero, seguridad, cualquier cosa que publiques por tu cuenta o transfieras a un cliente. En este caso, la red neuronal es adecuada como asistente para preparar preguntas y borradores, pero no como fuente de soluciones. En materia de salud y derecho, la respuesta final la da un especialista, y las cifras y vínculos son confirmados por fuentes oficiales. Buen hábito: Antes de utilizar un resultado, pregúntate qué pasaría si no fuera cierto. Si la respuesta es “no es gran cosa”, bastará con una comprobación rápida. Si “habrá consecuencias”, consulte con la fuente original o comuníquese con un especialista.