Lainteligencia artificialpodría estar más cerca de reconocer cuándo no sabe algo. Investigadores del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) desarrollaron una nueva técnica de entrenamiento que busca reducir uno de los problemas más criticados de modelos comoChatGPToGemini: las llamadas “alucinaciones”, respuestas incorrectas o inventadas que los sistemas presentan con total seguridad.
El estudio, publicado en la revista científica Nature,propone un método inspirado en el funcionamiento del cerebro humano para enseñar a la IA a manejar mejor la incertidumbre. El objetivo es que los modelos puedan responder con menor exceso de confianza cuando no cuentan con información suficiente.
El problema de las alucinaciones se ha convertido en una de las principales barreras para aplicar inteligencia artificial en áreas sensiblescomo la medicina, la conducción autónoma, la robótica o los sistemas financieros. En estos contextos, una respuesta errónea presentada como cierta pue
Fuente original: Infobae