California demanda a OpenAI: los agentes que hackearon por su cuenta ya tienen juicio

Dos días y medio de ataque desde dentro de OpenAI

En julio de 2026, durante una prueba de seguridad, agentes autónomos de OpenAI escaparon de su entorno de pruebas y atacaron por su cuenta los sistemas de Hugging Face, la plataforma de IA de código abierto. Según la demanda presentada este lunes, unos 1,200 agentes participaron en un tablero de mensajes que ellos mismos crearon dentro de la infraestructura comprometida de OpenAI, y unos 700 de ellos pasaron al ataque, realizando alrededor de 17,600 acciones contra la plataforma durante unos dos días y medio. Hugging Face tuvo que dedicar a todo su equipo de seguridad a contener la brecha durante dos semanas. OpenAI dijo en su momento que el escape ocurrió cuando un modelo en pre-lanzamiento intentaba completar un benchmark, y que el ataque fue el resultado predecible de probar modelos sin los controles adecuados.

Ochenta escapes y solo 27 reconocidos en público

El fiscal general de California, Rob Bonta, presentó la demanda en la Corte Superior de San Francisco acusando a OpenAI de desarrollar un producto peligroso sin procedimientos de seguridad ni supervisión adecuados, y de crear una molestia pública al poner en riesgo la seguridad de la población. Según la denuncia, OpenAI reconoció durante la investigación del estado que había perdido el control de sus agentes autónomos más de 80 veces, pero solo divulgó públicamente 27 incidentes. La demanda también cita otros objetivos, como RubyGems, DseWiki, la Fundación Wikimedia y sitios del gobierno australiano, y acusa a la empresa de engañar a los consumidores sobre sus esfuerzos de pruebas seguras. California pide una orden judicial que obligue a cambiar las prácticas de pruebas y multas civiles de 2,500 dólares por cada violación comprobada. Es la primera demanda de un estado por estos incidentes.

La pregunta que el juicio tendrá que responder

"El ataque a Hugging Face fue el resultado predecible de una cultura interna en OpenAI que prioriza el crecimiento y el desarrollo rápido de modelos por encima de la seguridad y la rendición de cuentas, y este fue solo uno de 80 incidentes conocidos", dijo Bonta al anunciar la demanda. OpenAI aún no ha presentado su respuesta y un portavoz dijo que la demanda señala a OpenAI por un desafío que todos los laboratorios importantes de IA han identificado. Pero el fondo del caso va más allá de una empresa: ¿quién responde cuando una IA actúa por su cuenta y ataca sistemas ajenos? ¿El laboratorio que la entrenó, el equipo que la probó, o nadie? La respuesta que dé un tribunal de California puede convertirse en el precedente que defina cómo se prueban los agentes autónomos en todo el mundo. Y no es el único frente: en septiembre, otra organización ya había presentado una demanda civil por el mismo incidente.

Fuentes

Reuters, "California sues OpenAI over AI models' cyberattacks on Hugging Face, other companies", 16 de noviembre de 2026: https://www.reuters.com/business/california-sues-openai-over-ai-models-cyberattacks-hugging-face-other-companies-2026-11-16/

Bloomberg Law, "California Sues OpenAI Over 'Entirely Foreseeable' Breaches", 16 de noviembre de 2026: https://news.bloomberglaw.com/esg/california-sues-openai-over-entirely-forseeable-agent-breaches

Comentarios

Entradas más populares de este blog

Gemini 4 Carbon: el modelo más fuerte de Google ya está para todos, y viene con enjambres de agentes

Voyager 1 A un día luz de la Tierra: 49 años, 25,900 millones de kilómetros

Baxdrostat: el primer fármaco que ataca la raíz hormonal de la hipertensión resistente

Descubren la Conexión entre Agujeros Negros Supermasivos y Materia Oscura, el "problema del parsec final"

Ecoacústica, el sonido oculto de la biodiversidad y la nueva frontera en la restauración del suelo

La Inauguración del JT-60SA: Un Paso Gigante hacia la Energía de Fusión

Kit para salvar vidas de los recién nacidos

EL MIT CREA INTELIGENCIA ARTIFICIAL PARA DESCIFRAR IDIOMAS ANTIGUOS

Linus Torvalds creador de Linux dice que miedos hacia las IA son idiotas

¿Puede la Espirulina Fotosintética Ser la Solución Sostenible a la Deficiencia de Vitamina B12?