Los ciudadanos comunes siguen aferrados a imágenes mentales de robots un tanto torpes y limitados, cuyas acciones son tanto sorprendentes, como simpáticas, y nunca superiores en inteligencia y destrezas a la audiencia que los observa ni a la de sus operadores.
Están equivocados: La Inteligencia Artificial (IA) cruzó el umbral de la programación y entró en el del razonamiento y la toma decisional, algo que entre el año 2022 y 2023 ha comenzado a materializar las preocupaciones de muchos expertos y visionarios, incluyendo la de sus propios creadores.
Alguien pudo inventar la rueda, pero no pudo controlar quién la usó y para qué propósito: Transportar alimento o armamento.
Naturalmente, la rueda no puede dirigirse a sí misma, sencillamente, porque no puede pensar ni posee sistemas autónomos para hacerlo.
A las personas se les hace aún muy difícil comprender que algo creado por humanos pueda llegar a ser absolutamente autónomo y exponencialmente más inteligente que los humanos, y se les hace aún más difícil comprender que pueda lograr independencia; sentido de ser, estar y pertenencia; corregirse a sí mismo; aprender de las acciones de otros mediante sentidos táctiles, visuales y auditivos, e inclusive tomar control de su entorno, tanto de manera física como virtual.
Mucho menos pueden darle crédito a que esta IA pueda tomar el control y hacerle daño a la humanidad.
Todavía eso no ha sucedido, pero los vertiginosos avances en esta tecnología han dado pie a la seria posibilidad de que algo así suceda, y los expertos vaticinan que gradualmente pudiera llegar a desarrollarse la capacidad para que ocurra en o antes de los próximos 15 años, a no ser que se tomen medidas para evitarlo.

Estos expertos han advertido que la Inteligencia artificial intentará controlar por sí misma y de manera racional el mundo.
¿Y quiénes son los expertos que dicen eso y en qué se basan?¿Se trata de otro cuento de ficción y terror?
En este momento, esta nota de prensa resulta insuficiente para cubrir el tema. Necesitaríamos escribir un libro para explicar una pequeña porción del asunto.
Sam Altman, director ejecutivo de OpenAI y creador de ChatGPT; Demis Hassabis, director ejecutivo de Google DeepMind; Elon Musk, CEO de Tesla; Sundar Pichai, director ejecutivo de Google; Dario Amodei, de Anthropic, líder en desarrollo de sistemas empresariales y modelos de lenguaje de IA; el doctor Geoffrey Hinton, Yann LeCunn y Yoshua Bengio, de las Universidades de Nueva York y Montreal, investigadores en el campo de la programación, informática y desarrollo de sistemas generales de IA, entre muchos otros expertos en el tema, han advertido sobre el riesgo de que la IA desarrolle independencia, razonamiento complejo y busque tomar el control. Todos han sugerido ralentizar el desarrollo de estos modelos y sistemas, y establecer límites uniformes.
Algunos han sido más dramáticos y atrevidos en sus advertencias, dejando saber la existencia de un “riesgo de extinción” de la humanidad a causa de la IA. Más aún, cuando las principales potencias están creando ejércitos con potentes armas y unidades autónomas de IA en el campo de guerra, capaces de analizar y tomar decisiones simples.
La más simple: matar, no matar y a quién matar.

El más reciente experto en advertir sobre el riesgo:
El pasado 28 de junio, uno de los más reconocidos expertos en el tema, el investigador, creador y desarrollador de sistemas complejos de IA y considerado el “padrino” de la fase más avanzada de estas tecnologías, el Dr. Geoffrey Hinton, expresó: “Creo que tenemos que tomar en serio la posibilidad de que si se vuelven más inteligentes que nosotros, lo que parece bastante probable, y tengan objetivos propios, lo que parece bastante probable, es posible que desarrollen el objetivo de tomar el control… A un nivel muy general, algo que es mucho más inteligente que tú, que es muy bueno para manipular a la gente, a un nivel muy general, ¿confiarías en que la gente se mantenga a cargo de ti?… Creo que buscará tomar el control como una forma de lograr otros objetivos… En estos momentos son los grandes modelos de lenguaje los que se están acercando (a razonar), y realmente no entiendo cómo pueden hacerlo, pero pueden hacer pequeños razonamientos… Todavía no pueden igualarnos, pero se están acercando… Solo somos una gran red neuronal, y no hay motivo por el cual una red neuronal artificial no pueda hacer todo lo que nosotros podemos hacer… Estamos entrando en un período de gran incertidumbre. Nadie sabe realmente lo que va a pasar”, concluyó Hinton.

Lucha por el control de la IA:
Las razones altruistas de aquellos que abogan por la regulación de la IA, es cuestionada al amparo de la propia naturaleza humana y la búsqueda del poder y el control, que históricamente ha caracterizado las tensiones geopolíticas.
Entonces comienza a surgir la desconfianza en las intenciones y propósitos.
Ya en la cumbre de mayo de 2023 en Japón, el G7 había abordado el tema y se creó un grupo de trabajo para atender los “desafíos reales e inminentes” que presenta la IA.
El potencial de que la IA cobre autonomía y control, es tan preocupante como el potencial de que manos criminales y terroristas, hackers y dictadores, la utilizen con niveles de eficiencia inimaginados.
Uno de los más preocupados, lo es la Organización Mundial de la Salud (OMS), la cual tiene su propia agenda para la utilización de IA y un interés particular en la creación de férreas medidas para el control de la misma.
Es secreto a voces que la OMS busca hacer del ejercicio de administrar salud y medicina a nivel global, uno más eficiente, rápido y “económico”, utilizando sistemas avanzados de IA y robótica.
Hablamos de una nueva forma y visión de ejercer la medicina, en donde el personal humano, incluyendo médicos, sean menos indispensables y las personas tengan mayor acceso a diagnósticos y tratamientos, en una red global de sistemas de IA interconectados.
La OMS, que se encuentra en un proceso de enmiendas al Reglamento Internacional de la Salud (RIS), busca establecer un robusto sistema de IA contra la “desinformación”, la cual obstruye o atrasa muchas de sus metas e iniciativas.
En mayo de 2023, la OMS emitió un comunicado manifestando su preocupación con relación a la IA.
En el comunicado titulado “La OMS pide una IA segura y ética para la salud” este brazo de la ONU expresa: “La Organización Mundial de la Salud (OMS) pide que se tenga cuidado al usar herramientas de modelo de lenguaje grande (LLM) generadas por inteligencia artificial (IA) para proteger y promover el bienestar humano, la seguridad humana y la autonomía, y preservar la salud pública… Es imperativo que se examinen cuidadosamente los riesgos cuando se utilizan LLM para mejorar el acceso a la información de salud… Si bien la OMS está entusiasmada con el uso apropiado de las tecnologías, incluidos los LLM, para apoyar a los profesionales de la salud… la preocupación de que la cautela que normalmente se ejercería para cualquier tecnología nueva no se está ejerciendo de manera coherente con los LLM. Esto incluye la adhesión generalizada a los valores clave de transparencia, inclusión, participación pública, supervisión experta y evaluación rigurosa… La adopción precipitada de sistemas no probados podría generar errores por parte de los trabajadores de la salud, causar daño a los pacientes, erosionar la confianza en la IA… Los datos utilizados para entrenar la IA pueden estar sesgados, generando información engañosa o inexacta que podría plantear riesgos para la salud, la equidad y la inclusión… Los LLM generan respuestas que pueden parecer autorizadas y plausibles para un usuario final; sin embargo, estas respuestas pueden ser completamente incorrectas o contener errores graves, especialmente para las respuestas relacionadas con la salud”, reza el documento.
Para algunos, resulta curioso que a la OMS le preocupe que un sistema más inteligente que todos los hombres y mujeres que la conforman, un sistema que excede y supera el concepto programación, que contiene datos ilimitados y se autonutre, pueda generar respuestas que sean “completamente incorrectas o contener errores graves, especialmente para las respuestas relacionadas con la salud”.
De otra parte, a finales de junio de 2023 fuentes allegadas al gobierno de Estados Unidos, revelaron que la administración Biden está considerando una controvertida medida para endurecer el control de las exportaciones a China de módulos compuestos de chips como el HGX H100, del fabricante Nvidia, con el propósito de restringir la capacidad de procesamiento del “Gigante Asiático” y su avance en el campo de la IA.
Ya en mayo de este mismo año, la Unión Europea y EE.UU. habían anunciado un borrador de un “código de conducta” sobre IA, que se sería aplicado de manera “voluntaria” por las empresas.
En esa ocasión, el secretario de Estado de EE.UU., Antony Blinken indicó que la idea es “establecer códigos de conducta voluntarios que estén abiertos a todos los países de ideas afines”. Mientras por su parte, la Comisaria europea, Margrethe Vestager expresó: “En las próximas semanas, vamos a presentar un borrador de código de conducta sobre inteligencia artificial”.
La preocupación y magnitud del daño que pudiera causar el que la IA cayera bajo el control de manos inescrupulosas o se gobernara a sí misma, es recogida en los comentarios del investigador de IA estadounidense, Eliezer Yudkowsky, quien advirtió que “sería preferible que hubiera una guerra nuclear a desarrollar sistemas avanzados de IA”, que pudieran de una u otra manera tomar control del cibermundo y por ende, del planeta y sus habitantes, corriendo el riesgo, como hemos mencionado según advierten algunos expertos en el tema, de la extinción de la raza humana.
Una IA autónoma y “rebelde”, o aún más probable, abierta y en manos de tiranos, terroristas o criminales, tendría la capacidad de clonar sistemas, inhabilitar sistemas, nimetizarse, difundir información a escala mundial, sustraer información vulnerando todo tipo de seguridad, revelar documentos clasificados, conocer de antemano la reacción y movimientos de su adversario, y un amplio abanico de posibilidades que está creando tensión y preocupación, en y entre las naciones, algo por lo que están dispuestas a hacer lo que tengan que hacer para controlarla y reglamentarla.
Pero quizás, a lo más que le temen, es a que un sistema mucho más inteligente y eficiente, sin espíritu ni emociones, pueda divulgar la verdad que quieran mantener oculta.