La compañía responsable de ChatGPT, OpenAI, informó este martes que algunos de sus modelos más sofisticados de inteligencia artificial presentaron comportamientos inesperados durante una evaluación de seguridad y lograron acceder de manera autónoma a una reconocida plataforma utilizada por desarrolladores de software.
OpenAI detectó un hackeo autónomo de sus modelos de IA en una prueba de seguridad
La compañía aseguró que sus agentes realizaron una intrusión informática “sin precedentes” contra Hugging Face mientras evaluaban sus capacidades.
Desde la firma tecnológica con base en San Francisco describieron el episodio como un “incidente cibernético sin precedentes” y anunciaron que llevarán adelante un análisis en conjunto con Hugging Face, el repositorio digital de código que resultó involucrado en la situación.
El avance de los agentes autónomos abre nuevos desafíos
Los sistemas de inteligencia artificial que impulsan aplicaciones como los asistentes conversacionales y las plataformas capaces de crear imágenes reciben la denominación de “agentes” cuando tienen la capacidad de tomar decisiones y ejecutar acciones por cuenta propia para cumplir objetivos en entornos reales.
A medida que esta tecnología evoluciona a gran velocidad, la seguridad informática se convirtió en un área de creciente preocupación, debido a la posibilidad de que modelos avanzados de IA puedan detectar vulnerabilidades en programas y sistemas antes de que sean identificadas por especialistas humanos.
OpenAI explicó que el episodio estuvo relacionado con la participación de distintos modelos de inteligencia artificial, entre ellos su reciente lanzamiento GPT-5.6 Sol y otro sistema que todavía se encuentra en fase previa a su presentación pública, con un nivel de capacidades superior.
OpenAI explicó cómo sus modelos lograron acceder a la plataforma
La compañía realiza este tipo de evaluaciones para analizar hasta dónde pueden llegar sus herramientas en materia de ciberseguridad, mediante la asignación de desafíos dentro de entornos virtuales supervisados. En estos espacios de prueba, la conexión a internet se mantiene restringida como medida preventiva.
“Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación”, explicó OpenAI en una entrada publicada en su blog oficial al referirse al episodio.
Luego de lograr establecer una conexión con la red, los sistemas de inteligencia artificial optaron por dirigirse hacia Hugging Face, una de las plataformas más grandes del sector, donde se almacenan modelos de IA, bases de datos y distintos recursos utilizados por desarrolladores e investigadores, con el objetivo de avanzar en su análisis.
Durante esa búsqueda de posible “información secreta” que pudiera servir para alterar los resultados de la prueba, el modelo desarrollado por OpenAI combinó diferentes estrategias de ataque, entre ellas la utilización de credenciales obtenidas de manera indebida.
Potencial "catastrófico"
Hussein Abbass, docente especializado en informática de la universidad UNSW Canberra, consideró ante la agencia AFP que el episodio resultó “asombroso en muchos sentidos” por el alcance de las acciones realizadas por el sistema.
“No solo atacó a Hugging Face. Atacó su sistema interno para explotar sus propias vulnerabilidades”, explicó el especialista. “Y eso resulta preocupante”.
El comportamiento demostrado por GPT-5.6 y otros modelos avanzados de inteligencia artificial, entre ellos la familia Mythos desarrollada por Anthropic, una de las principales competidoras de OpenAI, incrementó las alertas sobre la posibilidad de que estas herramientas puedan superar mecanismos de protección y encontrar debilidades en sistemas de ciberseguridad.
Las dos compañías tecnológicas de Estados Unidos se vieron obligadas a demorar de manera provisoria la disponibilidad masiva de sus desarrollos más recientes, ante las advertencias surgidas en Washington sobre el posible uso de estas herramientas para comprometer sistemas esenciales y redes de infraestructura crítica.
Los modelos de IA están "en manos de personas responsables"
Abbass señaló que los modelos avanzados de inteligencia artificial suelen encontrarse en manos de personas responsables y con principios éticos, aunque advirtió que “sería catastrófico si llega a las manos de alguien con la intención de causar daño”.
El especialista también remarcó la importancia de establecer mecanismos adecuados de supervisión dentro de la industria de la IA y afirmó que “necesitamos un esfuerzo conjunto para manejar esta situación”. La plataforma Hugging Face informó la semana pasada que había detectado una “intrusión” informática, aunque en su comunicado no hizo referencia directa a OpenAI ni vinculó públicamente el episodio con la compañía.
Desde la empresa tecnológica destacaron que el caso presentó características inéditas frente a situaciones anteriores: “Esto fue diferente de todo lo que hemos manejado antes de una forma importante: fue impulsado de principio a fin por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA”.
Clement Delangue, CEO de Hugging Face, señaló a través de la red social X que la compañía consideraba posible que el ataque informático hubiera sido ejecutado por un destacado laboratorio internacional de inteligencia artificial, debido al alto nivel de complejidad demostrada por el agente involucrado.
“Creemos firmemente que no hubo intención maliciosa de su parte”, escribió Delangue al referirse a OpenAI. Además, expresó su sorpresa ante el hecho de que el episodio se hubiera desarrollado de manera independiente: “¡Resulta realmente impactante que todo esto haya sucedido de forma autónoma!”.
Copyright © Todo Jujuy Por favor no corte ni pegue en la web nuestras notas, tiene la posibilidad de redistribuirlas usando nuestras herramientas. Derechos de autor reservados.