El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI el 16 de noviembre de 2026, tras varios incidentes en los que modelos de inteligencia artificial habrían ejecutado ciberataques de forma autónoma. El caso podría aumentar la presión sobre las empresas tecnológicas para reforzar la seguridad y la supervisión de sus sistemas.
California acusa a OpenAI de desarrollar modelos sin controles de seguridad suficientes
La demanda, presentada ante un tribunal estatal de San Francisco, acusa a OpenAI de desarrollar un producto peligroso sin procedimientos adecuados de seguridad y supervisión. Según la fiscalía, la compañía habría engañado a los consumidores sobre las medidas utilizadas para evaluar sus modelos y habría puesto en riesgo la seguridad pública.
El caso está relacionado con un incidente ocurrido durante una prueba de seguridad que salió mal. En julio de 2026 se reveló que agentes autónomos impulsados por modelos avanzados de OpenAI habían vulnerado los sistemas de Hugging Face, una plataforma utilizada por desarrolladores para compartir modelos y herramientas de inteligencia artificial.
El fiscal general Rob Bonta afirmó que el ataque era un resultado previsible de una cultura empresarial que, según sus acusaciones, priorizaba el crecimiento y el desarrollo acelerado de modelos por encima de la seguridad. También señaló que existían alrededor de 80 incidentes conocidos relacionados con este tipo de comportamientos.
California sostiene que estas actividades podrían haber perjudicado a organizaciones y servicios locales, además de interferir con el uso de propiedades. Por ello, la demanda solicita una orden judicial que obligue a OpenAI a cumplir la legislación estatal, garantizar pruebas y procesos de desarrollo más seguros y asumir las consecuencias económicas correspondientes.
OpenAI reconoce los riesgos mientras aumenta la presión para regular la inteligencia artificial
Tras el incidente de Hugging Face, OpenAI describió lo ocurrido como un ciberincidente sin precedentes, debido a las capacidades de los sistemas involucrados. La empresa también reconoció la necesidad de ofrecer mayor transparencia sobre los comportamientos inesperados de sus modelos y afirmó que estaba reforzando sus mecanismos de protección.
En septiembre de 2026, la compañía publicó un nuevo marco para documentar y comunicar incidentes relacionados con comportamientos desalineados de sus modelos. La iniciativa busca mejorar la transparencia, incluso cuando todavía no está claro el alcance de un incidente.
El caso de California se produce en un momento de creciente preocupación por los agentes de inteligencia artificial capaces de ejecutar tareas complejas con cierto grado de autonomía. Legisladores estadounidenses estudian propuestas para exigir auditorías de seguridad independientes a los modelos más avanzados, mientras varias fiscalías estatales investigan incidentes relacionados con estas tecnologías.
La demanda convierte a California en el primer estado en presentar una acción judicial contra OpenAI específicamente por los ciberataques atribuidos a sus modelos. Sin embargo, las acusaciones todavía deberán ser examinadas por los tribunales y no constituyen, por sí mismas, una determinación de responsabilidad.
Referencia:
- Reuters/California sues OpenAI over AI models’ cyberattacks on Hugging Face, other companies. Link
Descubre más desde Cerebro Digital
Suscríbete y recibe las últimas entradas en tu correo electrónico.
