La adopción de Modelos de Lenguaje a Gran Escala (LLM, por sus siglas en inglés) ha transformado el campo de la inteligencia artificial, brindando soluciones en tareas de procesamiento de lenguaje natural que antes parecían insuperables. Sin embargo, como con cualquier tecnología, los LLM presentan limitaciones. Al usarlos, es crucial comprender estas limitaciones para maximizar su eficacia y minimizar los riesgos. En este artículo, abordaremos en particular las alucinaciones en chatbots basados en LLM y cómo prevenirlas.
Limitaciones de los LLM:
- Alucinaciones: Un LLM puede generar información que parece totalmente plausible pero que es incorrecta. Esto se conoce como “alucinación”. Aunque las respuestas puedan parecer coherentes, no garantizan veracidad.
- Sesgos: Los LLM pueden reproducir y amplificar sesgos presentes en los datos con los que fueron entrenados. Estos sesgos pueden manifestarse en forma de estereotipos, discriminación o prejuicios.
- Problemas con las fuentes: Los LLM no tienen la capacidad de discernir la calidad de las fuentes de las que fueron alimentados. Como resultado, pueden considerar información de fuentes no confiables al mismo nivel que información veraz y contrastada. Asimismo, pueden “alucinar” fuentes: indicar que la información viene de una fuente que realmente no existe.
Enfocándonos en las alucinaciones:
Las alucinaciones en chatbots pueden ser particularmente problemáticas, ya que pueden llevar a la desinformación y, en situaciones críticas, decisiones equivocadas basadas en datos incorrectos. Veamos algunas estrategias para prevenirlas:
- Ser muy específico en las preguntas: Al interactuar con un LLM, la especificidad puede ser esencial. Preguntas vagas o ambiguas tienen más probabilidades de resultar en respuestas alucinadas. Al precisar lo que se necesita, se puede guiar al modelo a una respuesta más precisa y relevante.
- Usar una cadena de pensamiento: Cuando se plantea una cuestión al LLM, se puede estructurar la pregunta de manera que el modelo describa su razonamiento o los pasos que está tomando para llegar a una respuesta. Esto puede ayudar a identificar cuando el modelo está yendo por un camino incorrecto y corregirlo en consecuencia.
- Feedback constante: si estás desarrollando un sistema con chatbots, implementar retroalimentación donde los usuarios puedan indicar si la respuesta fue útil, correcta o si hubo una alucinación. Esta información es invaluable para mejorar y reentrenar el modelo.
- Combinar LLM con bases de datos de hechos: al desarrollar un chatbot, integrarlo con bases de datos concretas le permite consultar datos específicos y verificar hechos antes de proporcionar una respuesta. Esto puede reducir la posibilidad de alucinaciones. Asimismo, si estás usando un chatbot, siempre revisar las respuestas, confirmando que las fuentes y los hechos concretos que se mencionan en las respuestas sean reales.
Limitar la extensión de las respuestas: A veces, respuestas más cortas y directas pueden ser menos propensas a alucinaciones que respuestas largas y elaboradas.
Conclusión:
La adopción de chatbots basados en LLM es prometedora para una variedad de aplicaciones. Sin embargo, conocer sus limitaciones es crucial para evitar caer en trampas de desinformación o malentendidos. Al implementar estrategias como las mencionadas, podemos aprovechar al máximo la potencia de los LLM mientras mantenemos un ojo crítico en sus respuestas.
PD: para hacer la imagen, usamos Midjourney con este prompt: “a robot, smiling, looking like a hippie, with dark glasses, a green shirt and flowers in the head” – “un robot, sonriente, con aspecto de hippie, con gafas oscuras, una camiseta verde y flores en la cabeza”
