¿El cuento del lobo? Juzque usted. Un empleado a cargo de seguridad de OpenAI a cargo de la seguridad de los agentes de IA de la empresa, advirtió que las organizaciones deben estar preparadas para ataques autónomos de esta tecnología y que la ventana de tiempo para eso se está acabando.

El empleado, que firma en su cuenta de X como «Joe» y cuya legitimidad como empleado fue confirmada por CNN, expresó: «Se acaba el tiempo… Si tienes líderes que no priorizan la seguridad, o incluso personas en tu equipo de seguridad que afirman que sus sistemas son perfectamente seguros, yo personalmente no los mantendría en mi organización. A quienes debes mantener muy cerca son a los paranoicos y a aquellos que continuamente dan la voz de alarma sobre las debilidades de sus organizaciones”, expresó el especialista.

Las declaraciones se producen a escasas semanas de que saliera a relucir el hackeo autónomo que modelos de IA, de OpenAI, efectuaron sobre la empresa Hugging Face, abriendo una «caja de Pandora», en donde tanto OpenAI, como sus competidores: Anthropic, de Dario Amodei y XIA, de Elon Musk, propusieron ralentizar el desarrollo de esta tecnología, advirtiendo sobre los nefastos resultados de no hacerlo, entre los cuales se encuentran los ataques autónomos de agentes de IA contra organizaciones, gobiernos y la propia humanidad. Algo que mucha gente, incluyendo expertos en el tema, califican de exageración improbable.

Según el empleado de OpenAI, la evolución de estos modelos fue más que sorprendente.

«Decir que nos sorprendió el salto y la rapidez con la que evolucionaron las capacidades de nuestros modelos… es quedarse corto”, declaró el experto.

¿Qué son los agentes de IA?

A diferencia del modo chat en los que operan Claude, Gemini o ChatGPT, los cuales se nutren de instrucciones o «prompts» detallados de los usuarios y buscan satisfacerlos a modo de respuestas específicas, los agentes de IA utilizan el modo «co-work», mediante el cual integran un módulo de planificación, que le otorga autonomía operacional y le permite descomponer problemas complejos en subpasos, evaluar alternativas y definir qué estrategia seguir.

Es decir, son sistemas que pueden literalmente pensar, actuar y autocorregirse, para efectuar tareas asignadas con hasta un 96% de efectividad.

Son precisamente estos modelos los que han escapado al control humano y han encendido las luces rojas de alerta en sus creadores.

Estos agentes ya han hecho lo que en un principio se temía que podían hacer: tomar el control de sus pensamientos y acciones, bajo sus propias conclusiones y ¿propósitos?

Son estos modelos los que mayor aplicación tendrían en las industrias y comercios, convirtiéndose eventualmente en unidades de alto rendimiento en la realización de tareas.

Pero ¿cómo limitarlos?¿Cómo evitar que su pensamiento no evolucione de manera autónoma hacia zonas rojas? Al parecer sus creadores no tienen aún las respuestas a esas interrogantes.

Y sin respuesta aún a esas preguntas, el 29 de septiembre los ejecutivos de las empresas líderes en IA, como Open AI, Anthropic, Meta, X, Nvidia y Google, firmaron un acuerdo en Casa Blanca, con el fin de mejorar la «autoregulación» de los modelos de IA. Un acuerdo que incluye evaluadores externos, mayor supervisión interna y la creación de comités independientes de las juntas directivas para evaluar informes. Algo que algunos expertos anticipan que es insuficiente y apenas aborda la punta del iceberg del problema.