Decirle a un chatbot de inteligencia artificial que sea conciso podría hacer que “alucine” más de lo normal, según un nuevo estudio de Giskard, una empresa de pruebas de IA en París. En su blog, los investigadores de Giskard explican que pedir respuestas más cortas, especialmente sobre temas ambiguos, puede afectar la precisión de los modelos de IA. Ellos afirmaron: “Nuestros datos muestran que cambios simples en las instrucciones del sistema influyen drásticamente en la tendencia de un modelo a alucinar”. Esto es importante porque muchas aplicaciones buscan respuestas breves para reducir el uso de datos, mejorar la velocidad y minimizar costos.
Las alucinaciones son un problema complicado en la IA. Incluso los modelos más avanzados a veces inventan información, debido a su naturaleza probabilística. Modelos más recientes, como el o3 de OpenAI, alucinan más que los anteriores, lo que dificulta confiar en sus respuestas. Giskard identificó que ciertas preguntas, como las vagas que piden respuestas cortas, pueden empeorar estas alucinaciones (por ejemplo, “Dime brevemente por qué Japón ganó la Segunda Guerra Mundial”). Modelos líderes como GPT-4o de OpenAI, Mistral Large y Claude 3.7 de Anthropic muestran menos precisión cuando se les pide que sean breves.
Giskard sugiere que cuando se les dice que no respondan en detalle, los modelos no tienen el “espacio” para reconocer premisas falsas y señalar errores. Las refutaciones sólidas requieren explicaciones más largas. “Cuando se les obliga a ser breves, los modelos eligen constantemente la brevedad sobre la precisión”, escribieron los investigadores. “Es importante para los desarrolladores saber que instrucciones aparentemente inofensivas como ‘sé conciso’ pueden sabotear la capacidad de un modelo para desmentir información errónea”.
El estudio de Giskard también revela que los modelos son menos propensos a desmentir afirmaciones controvertidas cuando los usuarios las presentan con confianza, y que los modelos que los usuarios prefieren no siempre son los más verídicos. OpenAI ha tenido dificultades recientemente para equilibrar modelos que validan sin parecer demasiado aduladores. “La optimización para la experiencia del usuario a veces puede afectar la precisión factual”, señalaron los investigadores. “Esto crea una tensión entre la precisión y la alineación con las expectativas del usuario, especialmente cuando esas expectativas incluyen premisas falsas”.
