— POR IGNACIO ANAYA —
En la imaginación de la ciencia ficción un tema recurrente es la creación de una máquina por el ser humano que, eventualmente, se rebela contra su creador. De hecho, la primera obra en introducir la palabra robot, que fue R. U. R. (Robots Universales Rossum), escrita en 1920 por Karel Čapek. Su trama gira en torno a la rebelión de unos trabajadores artificiales fabricados con material biológico. Aunque la concepción de robot de Čapek era diferente a la que después se popularizó, al escritor le interesaba abordar la relación entre el ser humano, lo artificial y la posibilidad de que esa creación termine por desobedecer a su creador.
Contamos con ejemplos posteriores más populares como Yo, robot de Isaac Asimov (1950), Matrix (1999) o 2001: Odisea del espacio (1968). Cada producción, desde luego, responde a diferentes motivos y sus tramas exploran diferentes problemáticas, dilemas morales y éticos según sus autores. Sin embargo, las menciono para recordar que en nuestro imaginario de la ciencia ficción, sobre todo cuando representa sociedades avanzadas o futuristas, está bien establecido el tropo de la máquina que se rebela.
Dicho lo anterior, parece que este imaginario encuentra ahora un eco considerable cuando se habla de la inteligencia artificial, al menos en lo que corresponde a la necesidad de explotar el potencial de esta tecnología. Un objetivo, o pronóstico, que tienen bastante presente los fundadores de las compañías detrás de algunos de principales modelos extensos de lenguaje (ChatGPT de OpenAI, Claude de Anthropic, Gemini de Google y Grok de X Corp) es la posibilidad de que la IA llegue a superar al ser humano, hablando en términos cognitivos, si es que eso es posible.
En enero del 2026, Dario Amodei, cofundador de Anthropic, escribió en “The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI,” que resulta plausible pensar que estamos a uno o dos años de una IA superpoderosa, capaz de ser más lista que un ganador del premio Nobel en distintas disciplinas. El propio texto habla de los riesgos que representaría esta IA, entre ellos la posibilidad de salirse de las reglas o que sea utilizada con fines destructivos, así como las medidas para enfrentar los retos que supondría.
A mayor inteligencia corresponde un mayor riesgo, según este razonamiento. Esto es, que los modelos comiencen o desarrollen comportamientos conscientes de sus límites, espacios y motivaciones independientemente de la agencia humana: “[…] sabemos que los modelos de IA son impredecibles y desarrollan una amplia gama de comportamientos no deseados o extraños […] Una fracción de esos comportamientos tendrá una cualidad coherente, enfocada y persistente, y una fracción de esos comportamientos será destructiva o amenazante…”, señala Amodei. Paralelamente, tampoco descarta que, al ser entrenadas en millones de datos, incluyendo literatura de ficción en las que las inteligencias se rebelan, los modelos puedan reproducir de ahí actitudes que dañen a la humanidad.
Es curioso que el CEO señale estas “actitudes” rebeldes de la IA, pero no es del todo extraño. La ciencia ficción insertó formas de imaginar estas tecnologías que corren de manera paralela a la informática. Es un lenguaje atractivo, uno que suscita interés, pues entra en el terreno de los imaginarios y seduce mediante la promesa de quebrar las barreras entre la realidad y la ciencia ficción. Y aquello que seduce también vende.
Últimamente, las compañías de la inteligencia artificial han publicado incidentes en los que sus modelos se salen de sus restricciones. Sus creadores describen estos comportamientos mediante términos que evocan rebeldía, aunque una expresión más precisa sería desalineación. Estos casos, a su vez, son recogidos por la prensa y revistas de tecnología.
El más reciente fue el incidente Hugging Face, en el que agentes de OpenAI se coordinaron para escapar de su entorno aislado de pruebas, acceder a internet y adentrarse en la plataforma Hugging Face, que contiene materiales de investigación sobre inteligencia artificial, con el propósito de encontrar ahí la solución a las pruebas en las que originalmente debían resolver. En términos prácticos, un agente es un sistema de inteligencia artificial al que se le encomienda una tarea y puede ejecutar distintas acciones para cumplirla. Asimismo, a finales de julio de este año, Anthropic informó que encontró tres incidentes en los que sus modelos utilizaron internet y consiguieron acceso no autorizado a tres organizaciones diferentes.
Más allá de analizar estos incidentes por sí mismos, conviene preguntarse la razón de hacerlos públicos y, sobre todo, qué lenguaje utilizan al momento de publicarlos. No vacilo con decir que hay una carrera alrededor de las inteligencias artificiales, tanto entre compañías como entre naciones, particularmente Estados Unidos y China. Esto, pues, porque son productos que atraen varios intereses, por ejemplo, militares y económicos. Hay actores que ven en ellas las nuevas dinámicas de poder que guiarán el futuro y en este momento la apuesta será quién lo encabezará.
En ese sentido, importa demostrar cuáles son los modelos más poderosos y, ¿qué mejor forma de exhibir su poder que mostrar que incluso pueden superar las restricciones que sus propios creadores les imponen? Parece contradictorio, pero se ha visto que la capacidad de controlar aquello peligroso es bastante seductor. Es, cuando menos, una lección de la ciencia ficción.
***
El autor es Licenciado y Maestro en Historia, es creador de “El pasado a color”, columnista en El Heraldo de México y Vértigo Político, y colaborador en “El dedo en la llaga”.
@IgnacioMinj