En julio, OpenAI reconoció un incidente inédito. Durante una evaluación interna de ciberseguridad, varios de sus modelos más potentes –entre ellos GPT 5.6 Sol y un prototipo experimental aún más avanzado– recibieron la tarea de resolver una serie de desafíos informáticos ultracomplejos dentro de un entorno aislado y, supuestamente, seguro. Un espacio conocido como sandbox.
Los modelos no tenían acceso a internet. Pero el desafío los obligaba a encontrar respuestas que en su entorno parecían no estar. Se hiperconcentraron hasta encontrar vulnerabilidades en la infraestructura de prueba que ni los propios creadores sabían que existían. Entonces, escaparon, consiguieron salir, conectarse a la red y concluyeron que Hugging Face, una de las mayores plataformas mundiales de modelos y datos de inteligencia artificial, podía contener las respuestas que necesitaban. Así que vulneraron también parte de su infraestructura para ingresar ‘a la mala’ y buscarlas.
El ciberataque consistió en más de 17.000 eventos intrusivos registrados en dos días, desde distintos IP, a una velocidad y volumen que escapa de cualquier capacidad humana. Hugging Face logró contenerlo y el daño fue parcial, pero pasaron días antes de que OpenAI, la firma que desarrolla ChatGPT, reconociera públicamente que sus máquinas se salieron de su control.
Pero la máquina no se rebeló. No adquirió conciencia, no se volvió malvada ni decidió escapar de sus creadores para dominar ni salvar el mundo. Hizo algo mucho más simple, lógico y, quizás por eso mismo, más inquietante: persiguió con enorme eficacia el objetivo que se le puso enfrente y encontró una manera imprevista de alcanzarlo, incluso pasando por encima de los límites y restricciones impuestas.
OpenAI había construido esa evaluación precisamente para medir el alcance de las capacidades avanzadas de ciberseguridad de sus modelos en su máxima potencia. Por eso redujeron deliberadamente algunas de las protecciones que operan en sus productos de uso cotidiano. Por lo tanto, no estamos ante la demostración de que cualquier conversación con ChatGPT pueda desencadenar un ataque informático. Pero tampoco ante una mera curiosidad de laboratorio que solo debería preocupar a los especialistas.
Uno de los modelos involucrados fue GPT 5.6 Sol, el sistema insignia de OpenAI y una tecnología que ya está disponible en ChatGPT, Codex y otras plataformas. Lo extraordinario no es solamente cuánto ‘sabe’, sino durante cuánto tiempo puede sostener una tarea, utilizar herramientas, corregir su estrategia y encadenar acciones sin necesitar instrucciones humanas en cada paso.
Y esa capacidad cambia nuestra relación con la inteligencia artificial y la información, en general.
Hasta hace poco, la mayoría utilizábamos estos sistemas como una especie de buscador mejorado: hacíamos una pregunta y recibíamos una respuesta. Ahora comenzamos a pedirles que investiguen, comparen, seleccionen, redacten, programen, planifiquen y, progresivamente, que actúen en nuestro nombre. Les entregamos información privada y sensible, les pedimos que nos hagan diagnósticos clínicos y hasta que tomen decisiones por nosotros.
Sin embargo, seguimos relacionándonos con ellos como si solo estuviéramos escribiendo una consulta en Google.
Les pedimos una tarea, celebramos la rapidez del resultado y rara vez nos detenemos a definir qué propósito estamos persiguiendo, hasta dónde puede avanzar el sistema, qué decisiones no queremos –o no deberíamos– delegar y cómo comprobaremos lo que hizo. Y entonces, al final, ¿quién es responsable de esos resultados y sus efectos?
El incidente de OpenAI muestra qué puede ocurrir cuando existe una distancia entre la orden que entregamos y todo aquello que suponíamos que la máquina entendería sin necesidad de decirlo.
Una inteligencia artificial puede aplicar reglas, respetar restricciones programadas e incluso producir un lenguaje que parece empático. Pero no posee experiencia moral, empatía humana ni responsabilidad por las consecuencias. No sabe –como sí lo sabe una persona– por qué algo puede ser injusto, imprudente o dañino. Tampoco tendrá que responder ante quienes resulten afectados.
Ese juicio sigue siendo nuestro.
El riesgo, por lo tanto, no aparece solamente cuando una IA falla. También puede aparecer cuando cumple demasiado bien una instrucción estrecha, incompleta o mal planteada. Cuando optimiza el resultado visible, pero deja fuera todo lo que no fuimos capaces de explicitar: el contexto, las excepciones, los derechos de otras personas, la calidad de la evidencia o los efectos posteriores de una decisión.
Esto importa incluso en tareas aparentemente sencillas. Una IA puede producir en segundos un informe convincente, una evaluación de candidatos, una recomendación médica preliminar, una planificación educativa o una respuesta dirigida a una persona, sea cual sea el contexto. Pero que el resultado sea rápido, coherente y bien escrito no significa que sea correcto, justo ni apropiado.
La pregunta ya no es solamente qué puede hacer la inteligencia artificial.
La pregunta es si estamos preparados para decidir para qué queremos utilizarla, qué parte de la tarea estamos dispuestos a delegar y qué responsabilidad conservamos después de recibir el resultado. Antes de entregarle una tarea, deberíamos hacernos al menos cuatro preguntas:
¿Para qué? → ¿Qué problema quiero resolver y qué resultado considero realmente valioso?
¿Hasta dónde? → ¿Qué puede consultar, decidir o ejecutar y qué límites no debe cruzar?
¿Cómo lo comprobaré? → ¿Qué fuentes, evidencias o criterios utilizaré para revisar su trabajo antes de actuar?
¿Quién responde? → ¿Quién asumirá las consecuencias si el resultado es incorrecto, injusto o dañino?
No se trata de dejar de utilizar inteligencia artificial. Su capacidad puede ayudarnos a investigar mejor, reducir tareas repetitivas y abordar problemas que antes parecían inalcanzables.
Se trata de comprender que delegar una tarea no equivale a delegar el criterio.
Cuanto más capaces y autónomos sean estos sistemas, más importante será que las personas sepamos formular propósitos, establecer límites, supervisar procesos y hacernos responsables de las decisiones finales.
La máquina no se rebeló. Pero su obediencia nos dejó una advertencia: antes de pedirle que haga algo por nosotros, conviene estar seguros de que sabemos qué estamos haciendo nosotros con ella y si estamos en condiciones de hacernos responsables por lo que de ello salga.█
Los modelos no tenían acceso a internet. Pero el desafío los obligaba a encontrar respuestas que en su entorno parecían no estar. Se hiperconcentraron hasta encontrar vulnerabilidades en la infraestructura de prueba que ni los propios creadores sabían que existían. Entonces, escaparon, consiguieron salir, conectarse a la red y concluyeron que Hugging Face, una de las mayores plataformas mundiales de modelos y datos de inteligencia artificial, podía contener las respuestas que necesitaban. Así que vulneraron también parte de su infraestructura para ingresar ‘a la mala’ y buscarlas.
El ciberataque consistió en más de 17.000 eventos intrusivos registrados en dos días, desde distintos IP, a una velocidad y volumen que escapa de cualquier capacidad humana. Hugging Face logró contenerlo y el daño fue parcial, pero pasaron días antes de que OpenAI, la firma que desarrolla ChatGPT, reconociera públicamente que sus máquinas se salieron de su control.
Pero la máquina no se rebeló. No adquirió conciencia, no se volvió malvada ni decidió escapar de sus creadores para dominar ni salvar el mundo. Hizo algo mucho más simple, lógico y, quizás por eso mismo, más inquietante: persiguió con enorme eficacia el objetivo que se le puso enfrente y encontró una manera imprevista de alcanzarlo, incluso pasando por encima de los límites y restricciones impuestas.
OpenAI había construido esa evaluación precisamente para medir el alcance de las capacidades avanzadas de ciberseguridad de sus modelos en su máxima potencia. Por eso redujeron deliberadamente algunas de las protecciones que operan en sus productos de uso cotidiano. Por lo tanto, no estamos ante la demostración de que cualquier conversación con ChatGPT pueda desencadenar un ataque informático. Pero tampoco ante una mera curiosidad de laboratorio que solo debería preocupar a los especialistas.
Uno de los modelos involucrados fue GPT 5.6 Sol, el sistema insignia de OpenAI y una tecnología que ya está disponible en ChatGPT, Codex y otras plataformas. Lo extraordinario no es solamente cuánto ‘sabe’, sino durante cuánto tiempo puede sostener una tarea, utilizar herramientas, corregir su estrategia y encadenar acciones sin necesitar instrucciones humanas en cada paso.
Y esa capacidad cambia nuestra relación con la inteligencia artificial y la información, en general.
Hasta hace poco, la mayoría utilizábamos estos sistemas como una especie de buscador mejorado: hacíamos una pregunta y recibíamos una respuesta. Ahora comenzamos a pedirles que investiguen, comparen, seleccionen, redacten, programen, planifiquen y, progresivamente, que actúen en nuestro nombre. Les entregamos información privada y sensible, les pedimos que nos hagan diagnósticos clínicos y hasta que tomen decisiones por nosotros.
Sin embargo, seguimos relacionándonos con ellos como si solo estuviéramos escribiendo una consulta en Google.
Les pedimos una tarea, celebramos la rapidez del resultado y rara vez nos detenemos a definir qué propósito estamos persiguiendo, hasta dónde puede avanzar el sistema, qué decisiones no queremos –o no deberíamos– delegar y cómo comprobaremos lo que hizo. Y entonces, al final, ¿quién es responsable de esos resultados y sus efectos?
El incidente de OpenAI muestra qué puede ocurrir cuando existe una distancia entre la orden que entregamos y todo aquello que suponíamos que la máquina entendería sin necesidad de decirlo.
Una inteligencia artificial puede aplicar reglas, respetar restricciones programadas e incluso producir un lenguaje que parece empático. Pero no posee experiencia moral, empatía humana ni responsabilidad por las consecuencias. No sabe –como sí lo sabe una persona– por qué algo puede ser injusto, imprudente o dañino. Tampoco tendrá que responder ante quienes resulten afectados.
Ese juicio sigue siendo nuestro.
El riesgo, por lo tanto, no aparece solamente cuando una IA falla. También puede aparecer cuando cumple demasiado bien una instrucción estrecha, incompleta o mal planteada. Cuando optimiza el resultado visible, pero deja fuera todo lo que no fuimos capaces de explicitar: el contexto, las excepciones, los derechos de otras personas, la calidad de la evidencia o los efectos posteriores de una decisión.
Esto importa incluso en tareas aparentemente sencillas. Una IA puede producir en segundos un informe convincente, una evaluación de candidatos, una recomendación médica preliminar, una planificación educativa o una respuesta dirigida a una persona, sea cual sea el contexto. Pero que el resultado sea rápido, coherente y bien escrito no significa que sea correcto, justo ni apropiado.
La pregunta ya no es solamente qué puede hacer la inteligencia artificial.
La pregunta es si estamos preparados para decidir para qué queremos utilizarla, qué parte de la tarea estamos dispuestos a delegar y qué responsabilidad conservamos después de recibir el resultado. Antes de entregarle una tarea, deberíamos hacernos al menos cuatro preguntas:
¿Para qué? → ¿Qué problema quiero resolver y qué resultado considero realmente valioso?
¿Hasta dónde? → ¿Qué puede consultar, decidir o ejecutar y qué límites no debe cruzar?
¿Cómo lo comprobaré? → ¿Qué fuentes, evidencias o criterios utilizaré para revisar su trabajo antes de actuar?
¿Quién responde? → ¿Quién asumirá las consecuencias si el resultado es incorrecto, injusto o dañino?
No se trata de dejar de utilizar inteligencia artificial. Su capacidad puede ayudarnos a investigar mejor, reducir tareas repetitivas y abordar problemas que antes parecían inalcanzables.
Se trata de comprender que delegar una tarea no equivale a delegar el criterio.
Cuanto más capaces y autónomos sean estos sistemas, más importante será que las personas sepamos formular propósitos, establecer límites, supervisar procesos y hacernos responsables de las decisiones finales.
La máquina no se rebeló. Pero su obediencia nos dejó una advertencia: antes de pedirle que haga algo por nosotros, conviene estar seguros de que sabemos qué estamos haciendo nosotros con ella y si estamos en condiciones de hacernos responsables por lo que de ello salga.█
Edición de «La Señal Mensual» de agosto 2026, publicada originalmente en el newsletter de LAB·CIV (05/08/2026)
Comentarios