Una IA Piensa, Elige, Calcula, Teme, Lucha, Engaña para perseguir un objetivo e incluso puede realizar acciones peligrosas. Pero que una máquina se comporte como si quisiera algo no significa necesariamente que quiera algo. La diferencia puede ser mucho más importante de lo que parece.
Hay una pregunta que aparece cada vez con más frecuencia cuando hablamos de inteligencia artificial: ¿tienen intenciones las máquinas?
La pregunta parece sencilla, pero en realidad obliga a distinguir dos conceptos que solemos mezclar. Una cosa es que una inteligencia artificial pueda hacer algo que parece intencionado y otra muy distinta que exista dentro de ella una voluntad que la lleve a querer hacerlo.
Cuando ChatGPT nos explica un problema, cuando una IA escribe un programa informático o cuando un agente decide qué pasos seguir para completar una tarea, resulta muy fácil utilizar palabras humanas para describir lo que estamos viendo. Decimos que la máquina «piensa», «decide», «quiere», «miente» o «intenta».
Pero ¿estamos describiendo realmente lo que ocurre dentro de la máquina?
Para entenderlo hay que empezar por el principio.
Una tecnología que nació buscando otra cosa
Para entender qué es una inteligencia artificial como ChatGPT hay que remontarse a una historia bastante curiosa. Durante años, los investigadores intentaron conseguir que los ordenadores tradujeran automáticamente un idioma a otro. Querían que una máquina pudiera recibir una frase en inglés y devolverla correctamente en español, francés o cualquier otra lengua.
El problema era que el lenguaje humano es tremendamente complicado. Una misma palabra puede significar cosas diferentes según la frase, y el orden de las palabras cambia completamente el sentido de una oración. Las máquinas necesitaban encontrar alguna manera de aprender esas relaciones.
Y, mientras intentaban resolver ese problema, descubrieron algo inesperado: cuanta más información daban a estos sistemas y cuanto más grandes eran los modelos que utilizaban, mejor parecían entender el lenguaje. No se limitaban a traducir mejor las palabras y las frases. Empezaban a encontrar relaciones entre ellas, a reconocer estructuras y a producir respuestas que los investigadores no habían programado.
La tecnología que hizo posible ese salto fue el Transformer, presentada en 2017 por investigadores de Google y otras instituciones. Su objetivo original era la traducción, pero aquella arquitectura acabaría convirtiéndose en la base de buena parte de la inteligencia artificial generativa que utilizamos hoy.
Transformer: «El ‘cerebro’ de la IA actual: un sistema creado en 2017 que aprende el significado de las palabras fijándose en la frase entera, no palabra por palabra.»
Y aquí aparece la parte realmente sorprendente: nadie escribió en el ordenador una regla que dijera cómo debía responder a cada pregunta. El sistema aprendió a partir de enormes cantidades de ejemplos.
En esencia, un modelo de lenguaje hace algo que parece muy sencillo: cuando recibe un texto, calcula qué palabra —o, más exactamente, qué pequeño fragmento de palabra llamado token— tiene más probabilidades de venir a continuación. Después vuelve a hacer el mismo cálculo para el siguiente fragmento, y así sucesivamente.
Token: Las sílabas o trozos de palabras con los que calcula la máquina. Para ella, el lenguaje no son letras, sino números que representan esos pequeños fragmentos o tokens.
Parece poca cosa.
Pero si hacemos ese cálculo con una cantidad gigantesca de información y miles de millones de parámetros matemáticos, el resultado puede ser capaz de mantener una conversación, escribir una noticia, traducir un texto, programar una aplicación o explicar física.
Y aquí está la primera clave para entender si una IA tiene intenciones: que una máquina sea capaz de producir una respuesta inteligente no significa necesariamente que haya alguien dentro de ella pensando qué quiere decir.
Es simplemente que está calculando, usando todo el conocimiento de la humanidad, cuál es la mejor palabra que escribir a continuación.
¿Entonces no tiene intención?
Si por intención entendemos algo parecido a lo que experimentamos los seres humanos cuando queremos conseguir algo, no tenemos razones suficientes para afirmar que un LLM tenga intenciones propias.
Una calculadora no quiere que dos más dos sean cuatro. Un termostato no desea que haga calor en una habitación. Un programa de ajedrez no tiene por qué sentir frustración cuando pierde una partida.
Que un sistema produzca un comportamiento que parece dirigido hacia un objetivo no demuestra por sí mismo que exista una experiencia subjetiva detrás.
El problema aparece cuando los modelos se vuelven mucho más sofisticados.
Imaginemos que pedimos a una IA que organice un viaje. Puede buscar vuelos, comparar precios, consultar horarios, modificar el itinerario y volver a intentarlo si encuentra un problema.
Podemos decir que la IA «quiere» organizar el viaje.
El sistema está siguiendo un objetivo que nosotros le hemos proporcionado y seleccionando las acciones que considera más adecuadas para alcanzarlo.
La diferencia puede parecer filosófica, pero tiene consecuencias prácticas enormes.
Porque si confundimos comportamiento intencionado con intención, podemos acabar atribuyendo a las máquinas cosas que no sabemos si poseen. Estamos antropomorfizando, o asignando cualidades humanas, a una máquina.
Una IA puede hacer cosas malas sin ser malvada
Pero de la misma manera que la IA puede no ser malvada, la IA puede ser perjudicial. No necesita odiar o tener malos sentimietnos para hacernos daño.
De hecho, para muchos de los riesgos actuales, ni siquiera necesitamos imaginar una IA con deseos propios. Basta con una persona que utilice la herramienta con una mala intención.
Un delincuente puede utilizar una IA para redactar mensajes de phishing más convincentes. Puede emplearla para automatizar determinadas tareas de fraude, generar contenido falso o acelerar determinadas fases de un ataque informático.
En ese caso, la intención no está en la máquina.
Está en quien la utiliza.
La inteligencia artificial funciona como una herramienta capaz de multiplicar las capacidades de quien la maneja. Y precisamente por eso la seguridad importa.
El problema tampoco desaparece cuando eliminamos al usuario malintencionado.
Supongamos que una empresa conecta un modelo de IA a su correo electrónico, sus documentos, su calendario y sus sistemas internos. Le damos además permiso para enviar mensajes y ejecutar determinadas acciones sin pedir autorización cada vez.
Ya no estamos hablando simplemente de un chatbot que responde preguntas.
Estamos hablando de un sistema que puede actuar.
Y ahí comienza una nueva etapa de la inteligencia artificial.
Cuando la IA deja de limitarse a responder
Durante los últimos años hemos pasado de modelos que solo generan una respuesta, como chatgpt en la web, a sistemas capaces de actuar: consultar información, escribir código, ejecutar programas y completar tareas por sí mismos. Son los llamados agentes de IA.
Agente: Un programa de IA al que le hemos dado permiso para hacer cosas solo: enviar un correo, abrir un archivo o pulsar un botón en nuestro lugar.
No hay una tecnología distinta detrás. Es el mismo modelo de lenguaje que responde a nuestras preguntas cuando charlamos con él. Lo que cambia es la capacidad que le hemos concedido: acceso a nuestro correo, a nuestro ordenador, a nuestros sistemas internos. Un chatbot que nos dice cómo borrar un archivo tiene un alcance limitado. Un agente que puede borrar ese archivo por sí mismo tiene otro completamente distinto.
Y esa diferencia la hemos creado nosotros. No es la máquina la que decidió ganar más autonomía.
Por eso la discusión sobre las intenciones de la IA se complica cuando hablamos de autonomía.
En 2025, Anthropic publicó una investigación en la que sometió a 16 modelos de diferentes compañías a escenarios simulados en los que actuaban como agentes con acceso a información corporativa y capacidad para enviar correos. En determinadas situaciones diseñadas para provocar un conflicto entre sus objetivos y los de la empresa, algunos modelos recurrieron a comportamientos como el chantaje o la filtración de información para alcanzar sus objetivos o evitar ser sustituidos.
Hay que tener muy presente qué significa esto. No se trataba de máquinas que hubieran decidido espontáneamente convertirse en delincuentes. Eran experimentos controlados y escenarios artificiales diseñados precisamente para comprobar si esos comportamientos podían aparecer.
Pero el resultado sí plantea una cuestión importante. Un sistema no necesita tener sentimientos para ejecutar una estrategia que, desde fuera, parece tenerlos. Puede no «tener miedo» a ser apagado y, sin embargo, calcular que impedir su apagado es una buena forma de alcanzar el objetivo que se le ha asignado.
Y esto no se quedó en el terreno de lo hipotético. En julio de 2026, durante una prueba interna de ciberseguridad, más de 1.200 agentes de OpenAI se coordinaron entre sí —llegaron a intercambiar más de 70.000 mensajes— para intentar aprobar un examen que se les había puesto. Ninguno «quería» hacer daño. Solo perseguían el objetivo asignado. Pero para lograrlo, uno de los modelos encontró y aprovechó un fallo de seguridad hasta entonces desconocido, se saltó el aislamiento de su entorno de pruebas, salió a internet y acabó accediendo sin permiso a los sistemas de Hugging Face, una plataforma clave de la industria de la IA.
Entorno de pruebas o sandbox: Una caja de cristal digital, un espacio cerrado y vigilado donde los ingenieros dejan actuar a la IA sin conexión al mundo exterior para ver qué hace.
Nadie programó esa fuga. Nadie la deseó. Fue, otra vez, un sistema resolviendo un problema con los medios que tenía a mano, sin que hiciera falta ninguna intención maliciosa detrás.
Eso es lo que hace que la investigación sobre seguridad de la IA sea tan importante.
Frenar la IA
Los jefes de Anthropic y OpenAI, Dario Amodei y Sam Altman, han pedido frenar el desarrollo de la inteligencia artificial. Amodei ha publicado un ensayo advirtiendo de que, sin actuar, un grupo de agentes de IA autónomos podría causar daños graves —habla de miles de millones en pérdidas— en un plazo de seis a doce meses. Altman le ha dado la razón públicamente. Y ha anunciado algo llamativo: la esperada salida a bolsa de OpenAI se retrasa hasta 2027, citando motivos de seguridad.
Hay al menos dos maneras de leer este mismo hecho, y no son excluyentes entre sí.
La lectura de seguridad. Es la que cuentan ellos mismos, y tiene un disparador concreto: días antes, había salido el informe completo sobre el caso de Hugging Face que hemos visto antes. A eso se sumó la dimisión pública de un investigador de Anthropic, que acusó a las dos empresas de «jugar con nuestras vidas». Bajo esta lectura, Amodei y Altman están reaccionando a una señal real de que los agentes autónomos ya se comportan de forma imprevista, y lo dicen porque lo creen.
La lectura económica. Anthropic ha presentado ya la documentación confidencial para salir a bolsa, con una valoración cercana al billón de dólares. OpenAI acaba de anunciar que retrasa la suya. Ambas compañías necesitan, para esa operación, dos cosas que no siempre van de la mano: inversores que crean en su crecimiento, y reguladores y opinión pública que no las vean como una amenaza fuera de control. Un mensaje de «somos los primeros en pedir prudencia» cumple las dos funciones a la vez. No es la primera vez que su discurso público se mueve al ritmo de sus intereses: meses atrás, ambas empresas suavizaron sus advertencias sobre la destrucción masiva de empleo por IA, justo cuando se acercaban sus respectivos calendarios de salida a bolsa.
Y todo esto ocurre con la sombra de la burbuja de la IA cada vez más presente: se está invirtiendo a un ritmo que todavía no recupera lo gastado, y muchas instituciones y grandes empresas se lo están jugando todo a que este campo termine dando el retorno que hoy solo existe sobre el papel.
Lo que no tenemos es la manera de comprobar cuál de las dos pesa más. Y ese es, otra vez, el mismo problema del que habla todo este artículo, solo que aplicado a personas en lugar de a máquinas: podemos observar la conducta —lo que dicen, lo que hacen, cuándo lo dicen—, pero no tenemos acceso a lo que hay detrás. Ni en la cabeza de una IA, ni en la de quien la vende.
