0
0
Los investigadores de MIT y Microsoft han presentado una nueva estrategia de decodificación de IA llamada Dola, que tiene como objetivo reducir las alucinaciones en los modelos de lenguaje a gran escala (LLM). Las alucinaciones son resultados incoherentes o inverosímiles que se producen cuando un LLM genera texto.
Dola funciona contrastando las diferencias entre las diferentes capas de un LLM. Esto ayuda a Dola a identificar las partes del texto que son más probables que sean alucinaciones y a descartarlas.
Los investigadores evaluaron Dola en dos conjuntos de datos de texto, el conjunto de datos de texto en inglés de Stanford y el conjunto de datos de texto en español de WMT. Los resultados mostraron que Dola fue capaz de reducir las alucinaciones en los LLM en un 50%.
Los investigadores creen que Dola tiene el potencial de ser una herramienta importante para mejorar la calidad del texto generado por LLM. También creen que Dola podría ser utilizada para mejorar la seguridad de los sistemas que utilizan LLM, como los sistemas de traducción automática y los chatbots.
Aquí hay algunos detalles más sobre Dola:
- Dola es una estrategia de decodificación de IA que se basa en el aprendizaje profundo.
- Dola funciona contrastando las diferencias entre las diferentes capas de un LLM.
- Dola fue evaluada en dos conjuntos de datos de texto, el conjunto de datos de texto en inglés de Stanford y el conjunto de datos de texto en español de WMT.
- Los resultados mostraron que Dola fue capaz de reducir las alucinaciones en los LLM en un 50%.
- Los investigadores creen que Dola tiene el potencial de ser una herramienta importante para mejorar la calidad del texto generado por LLM.
- Los investigadores también creen que Dola podría ser utilizada para mejorar la seguridad de los sistemas que utilizan LLM.
