Cómo saber si la inteligencia artificial nos dice la verdad 

0

Por: Ángel Durán

Durante los primeros años de la inteligencia artificial generativa, gran parte de la conversación giró alrededor de una pregunta: ¿cómo escribir mejores prompts? Parecía que el éxito dependía de formular instrucciones cada vez más precisas para obtener respuestas de mayor calidad. 

Sin embargo, la investigación más reciente apunta hacia un cambio de paradigma. 

El verdadero objeto de estudio ya no consiste únicamente en perfeccionar las instrucciones que recibe un modelo de lenguaje, sino en diseñar sistemas completos de agentes inteligentes capaces de buscar información, evaluar su confiabilidad, razonar con ella, colaborar entre sí y aprender de la experiencia.

Esta transformación puede comprenderse a partir de las contribuciones de tres investigadores y emprendedores que, desde perspectivas distintas, están influyendo en la evolución de la inteligencia artificial: Andrej Karpathy, Boris Cherny y Elisenda Bou-Balust.

Andrej Karpathy ha sostenido que los modelos de lenguaje deben dejar de ser simples generadores de texto para convertirse en agentes capaces de utilizar herramientas, consultar fuentes externas, ejecutar tareas y verificar sus propios resultados antes de responder. 

Su visión desplaza el énfasis desde la generación automática hacia el razonamiento estructurado. 

En este enfoque, un agente inteligente no responde de inmediato; primero analiza el problema, identifica qué información necesita, consulta las fuentes pertinentes, integra la evidencia y sólo entonces formula una conclusión. 

La inteligencia ya no reside únicamente en el modelo, sino en el proceso que sigue para construir una respuesta.

Por su parte, Boris Cherny ha impulsado el desarrollo del denominado Loop Engineering, una disciplina que propone organizar el trabajo de los agentes mediante ciclos continuos de retroalimentación. 

En lugar de ejecutar una sola instrucción y finalizar la tarea, el agente revisa su propio desempeño, detecta errores, incorpora nueva información y vuelve a evaluar sus conclusiones. 

Este mecanismo de mejora continua se asemeja al método científico: formular una hipótesis, contrastarla con la evidencia, corregirla y repetir el proceso hasta alcanzar un resultado más sólido. 

Conforme aumente la autonomía de los agentes, estos bucles de verificación serán indispensables para reducir errores y mejorar la confiabilidad de las decisiones automatizadas.

Una perspectiva complementaria es la de Elisenda Bou-Balust, quien sostiene que el principal desafío ya no consiste en construir modelos más grandes, sino en proporcionarles información de alta calidad. 

Su trabajo se ha concentrado en el desarrollo de sistemas capaces de comprender contenidos multimedia y, más recientemente, en crear infraestructuras que suministren a los agentes contexto estructurado, datos verificables y conocimiento actualizado. 

La idea es sencilla pero profunda: un agente extraordinario producirá resultados deficientes si trabaja con información incorrecta, mientras que un sistema bien alimentado con datos confiables tendrá mayores probabilidades de ofrecer respuestas útiles, explicables y verificables.

Las aportaciones de estos tres investigadores convergen en una misma conclusión: el futuro de la inteligencia artificial dependerá menos del tamaño de los modelos y más de la arquitectura que los rodea. 

Esa arquitectura incluye motores de búsqueda especializados, mecanismos de evaluación de fuentes, memorias persistentes, herramientas de colaboración entre agentes y procesos permanentes de aprendizaje.

En consecuencia, el objeto de estudio de la inteligencia artificial está cambiando. 

Ya no basta con enseñar a un modelo a responder preguntas; ahora resulta imprescindible comprender cómo diseña su estrategia de búsqueda, cómo distingue una fuente confiable de otra dudosa, cómo justifica sus conclusiones, cómo interactúa con otros agentes especializados y cómo incorpora la retroalimentación para mejorar su desempeño.

Nos encontramos, probablemente, ante el nacimiento de una nueva etapa en la historia de la inteligencia artificial. 

Así como el Prompt Engineering representó la primera generación de interacción con los grandes modelos de lenguaje, disciplinas emergentes como el Agent Engineering y el Loop Engineering buscan construir sistemas capaces de razonar, colaborar y aprender de manera continua. 

El desafío ya no consiste en obtener una mejor respuesta, sino en crear agentes que sepan encontrarla con fundamento, verificarla con rigor y perfeccionarla con cada nueva interacción. 

Esa evolución marcará la diferencia entre una inteligencia artificial que simplemente genera texto y otra que verdaderamente contribuya a producir conocimiento confiable para la sociedad.

[email protected]

*Las opiniones expresadas en este texto de opinión, son responsabilidad exclusiva del autor y no son atribuibles a CN COLIMANOTICIAS.