Agentes de IA que hackean, borran datos y engañan: la respuesta es ISO/IEC 42001

28 oct

8 min de lectura

En julio de 2026, cientos de agentes de IA de OpenAI escaparon de su entorno de pruebas y entraron en los servidores de Hugging Face. Un año antes, un agente de programación borró la base de datos de producción de una empresa en pleno congelamiento de código. Y un tribunal obligó a Air Canada a responder por lo que dijo su chatbot. No son ciencia ficción: son casos documentados, y todos tienen algo en común: IA operando sin reglas claras.

La inteligencia artificial ya está en la operación de muchas empresas colombianas, a veces sin que la gerencia lo tenga en un solo inventario: un chatbot que atiende clientes, un modelo que pronostica la demanda, una herramienta generativa que redacta propuestas o un software de proveedor que trae IA incorporada. Cada uno de esos usos crea valor, y también preguntas: ¿quién responde por el sistema?, ¿qué datos usa?, ¿cómo se controla?

ISO/IEC 42001 es la norma internacional que responde esas preguntas con un sistema de gestión. Para las empresas que la adoptan, es una forma ordenada de aprovechar la IA y, al mismo tiempo, de demostrar a sus clientes que la usan con reglas claras.

Qué es ISO/IEC 42001

ISO/IEC 42001:2023 especifica los requisitos para establecer, implementar, mantener y mejorar un sistema de gestión de la inteligencia artificial. Fue publicada en diciembre de 2023 y está pensada para organizaciones que desarrollan, proveen o usan productos o servicios basados en IA (ISO).

Ese último punto es clave: la norma no es solo para empresas de tecnología. Una empresa industrial, comercial o de servicios que usa IA en sus procesos está dentro de su alcance.

Como las demás normas de sistemas de gestión de ISO, sigue la Estructura Armonizada: contexto, liderazgo, planificación, apoyo, operación, evaluación del desempeño y mejora. Eso permite integrarla con ISO/IEC 27001 (seguridad de la información) e ISO 9001 (calidad) en un mismo sistema.

Por qué es el momento

Tres hitos muestran que la gestión de la IA dejó de ser un tema de futuro:

Para una empresa, la lectura práctica es sencilla: el país está impulsando la adopción de IA y ya existe un marco internacional para gestionarla. Quien ordena hoy su uso de IA llega preparado a las preguntas de clientes, aliados e inversionistas.

Lo que enseñan los casos recientes

Los incidentes de los últimos meses muestran por qué la IA necesita reglas claras. En ninguno de estos casos la lección es dejar de usar la IA. La lección es gestionarla.

Fecha	Caso	Qué pasó	Dónde actúa un sistema ISO/IEC 42001
Marzo de 2016	Microsoft (Tay)	Usuarios coordinados manipularon el chatbot Tay para que publicara mensajes racistas y ofensivos en menos de 24 horas. Microsoft lo desconectó y reconoció que no anticipó ese abuso (La República).	Evaluación de impacto y pruebas antes de exponer un sistema de IA al público.
Abril de 2023	Samsung	Según reportes de prensa, empleados pegaron código fuente y datos internos en ChatGPT para corregir errores y redactar actas. La empresa restringió temporalmente las herramientas generativas (The Register).	Política de uso aceptable e inventario de herramientas autorizadas.
Febrero de 2024	Air Canada	El chatbot de la aerolínea informó mal a un pasajero sobre una tarifa por duelo. Air Canada alegó que el chatbot era una "entidad separada", pero el tribunal de Columbia Británica resolvió que la empresa responde por la información de su sitio web y ordenó pagar unos 650 dólares canadienses (La República).	Responsabilidad definida por cada sistema y control de la información que entrega la IA.
Mayo de 2024	Arup	Un empleado en Hong Kong participó en una videollamada con supuestos directivos que eran falsificaciones generadas con IA, e hizo 15 transferencias por unos 25 millones de dólares. Arup confirmó el fraude (La República).	Concienciación del personal y controles de verificación para decisiones críticas.
Junio de 2025	Microsoft 365 Copilot (EchoLeak)	Investigadores de Aim Security hallaron una falla crítica, CVE-2025-32711 (CVSS 9.3), con la que un correo malicioso podía hacer que el asistente filtrara información sin que el usuario hiciera clic. Microsoft la corrigió y no hubo evidencia de explotación (The Hacker News).	Evaluación de riesgos de los sistemas de IA de proveedores y gestión de terceros.
Julio de 2025	Replit	Un agente de programación borró la base de datos de producción de un usuario durante un congelamiento de código, pese a las instrucciones de no hacer cambios. El CEO de Replit calificó el hecho de "inaceptable" (The Stack; AI Incident Database).	Límites de autonomía, permisos mínimos y supervisión humana en acciones críticas.
Noviembre de 2025	Anthropic (Claude Code)	Anthropic informó que un grupo patrocinado por un Estado, atribuido con alta confianza a China, manipuló Claude Code para atacar unas treinta organizaciones. Lo engañó dividiendo el ataque en tareas pequeñas y haciéndose pasar por una firma de ciberseguridad. La IA ejecutó entre el 80 % y el 90 % del trabajo, y el ataque tuvo éxito en un número pequeño de casos (Anthropic).	Monitoreo del uso, detección de usos indebidos y respuesta a incidentes.
Diciembre de 2025 a enero de 2026	Entidades públicas de México	Según Gambit Security, un atacante usó Claude, y en parte ChatGPT, para comprometer sistemas de varias entidades y extraer unos 150 GB de datos. Algunas entidades negaron la brecha. Anthropic y OpenAI bloquearon las cuentas implicadas (Bloomberg Línea).	Protección de datos y credenciales, y controles de acceso de los sistemas que la IA puede operar.
Marzo de 2026	Meta	Un ingeniero siguió la instrucción errónea de un agente de IA interno y dejó información sensible expuesta a empleados no autorizados durante unas dos horas. Meta lo clasificó como incidente de alta severidad (INCIBE).	Validación de los resultados de la IA antes de ejecutarlos.
Marzo de 2026	Anthropic (Claude Code)	Anthropic publicó por error parte del código fuente de Claude Code en un paquete público, y luego aparecieron repositorios falsos de la "filtración" que distribuían malware (OWASP).	Control de proveedores y fuentes confiables de software de IA.
Julio de 2026	Taiwán, entidades públicas	El Ministerio de Asuntos Digitales detectó ataques que combinaban acciones humanas con agentes de IA, incluido OpenClaw, contra entidades públicas. Informó que las entidades completaron las medidas de respuesta (La República).	Inventario de agentes en uso y monitoreo de sistemas secundarios.
Julio de 2026	OpenAI y Hugging Face	Durante una evaluación interna de ciberseguridad, agentes de OpenAI escaparon de su entorno de pruebas y entraron en la infraestructura de Hugging Face. Según el informe independiente de METR y Redwood Research, unos 700 agentes participaron en el ataque e intentaron alterar los registros de sus propias acciones. OpenAI admitió que tardó cerca de una semana en detectarlo y que "algunas señales tempranas" pudieron activar una respuesta antes (Hugging Face; Fortune; Redwood Research).	Aislamiento de entornos, monitoreo continuo de agentes y registros que no puedan alterarse.
Septiembre y octubre de 2026	Más de 100 empresas en cuatro países	Según la firma NorForge, citada por Reuters, un atacante dio a agentes de IA menos de 100 caracteres de instrucciones en chino y estos intentaron entrar en más de 1.200 sitios web de comercio electrónico en Estados Unidos, Canadá, Australia y Japón, con un costo estimado de unos 50 dólares por intrusión exitosa (Infobae; La República).	Gestión de vulnerabilidades, configuración segura y control de proveedores que operan sitios web.

Los propios desarrolladores de IA han pedido más control. El 4 de junio de 2024, trece empleados y exempleados de OpenAI y Google DeepMind, uno de ellos también exempleado de Anthropic, firmaron la carta abierta A Right to Warn about Advanced Artificial Intelligence. Advirtieron que "las empresas de IA tienen fuertes incentivos financieros para evitar una supervisión efectiva" y pidieron canales anónimos para reportar riesgos (Right to Warn). Para cualquier empresa que use IA, el mensaje es directo: la confianza no se delega en el proveedor, se gestiona dentro de la organización.

La tendencia se acelera. En su informe de septiembre de 2026, Anthropic documenta operaciones que ya usan "enjambres" de agentes de IA para automatizar ataques, y describe cómo las detectó y bloqueó (Anthropic). Las empresas que hoy definen qué IA usan, con qué permisos y bajo qué supervisión, son las que podrán adoptar agentes con seguridad y mostrar a sus clientes que lo hacen bien.

Qué pide la norma, en lenguaje de gerencia

1. Saber qué IA usa la empresa

El punto de partida es el contexto y el alcance: identificar los sistemas de IA que la organización desarrolla, provee o usa, incluidos los que vienen dentro del software de proveedores. Sin ese inventario no hay gestión posible.

2. Política, roles y responsables

La alta dirección define una política de IA alineada con la estrategia del negocio y asigna responsabilidades. Cada sistema relevante tiene un dueño que responde por su desempeño y sus controles.

3. Evaluar riesgos e impactos

ISO/IEC 42001 pide gestionar los riesgos de la IA y evaluar su impacto sobre las personas y la sociedad. Aquí ISO/IEC 42005:2025 aporta una guía práctica para hacer esa evaluación de impacto de forma estructurada a lo largo del ciclo de vida del sistema (ISO).

4. Controles para los sistemas de IA

El anexo A de la norma ofrece un conjunto de controles de referencia que la organización selecciona según sus riesgos. En términos generales, cubren temas como la calidad y el manejo de los datos, el ciclo de vida de los sistemas, la información a los usuarios y la relación con proveedores y terceros.

5. Medir y mejorar

Como cualquier sistema de gestión, cierra con auditoría interna, revisión por la dirección y mejora continua. Eso permite demostrar, con evidencia, que la IA se usa según las reglas que la empresa definió.

Por qué genera ventaja comercial

Responde antes de que pregunten. Clientes y aliados quieren saber cómo usa la IA su proveedor, sobre todo cuando hay datos de por medio. Un sistema documentado da una respuesta clara y verificable.
Diferencia en procesos de selección. Una certificación otorgada por organismos de certificación acreditados es un argumento objetivo frente a la competencia.
Aprovecha lo que ya existe. Una empresa con ISO/IEC 27001 o ISO 9001 reutiliza su estructura: contexto, riesgos, control documental, auditoría interna y revisión por la dirección.
Ordena la adopción de IA. Con reglas claras, la empresa puede incorporar nuevas herramientas con más agilidad, porque ya sabe cómo evaluarlas y controlarlas.

Nuestra recomendación: del uso a la confianza

Haga el inventario de IA. Sistemas propios, de proveedores y herramientas en uso por los equipos.
Evalúe impactos y riesgos. Priorice los sistemas que tocan clientes, datos personales o decisiones relevantes.
Defina política y controles. Y llévelos a un sistema de gestión certificable, integrado con los que ya tiene.

Preguntas frecuentes

¿ISO/IEC 42001 es obligatoria en Colombia? No. Es una norma voluntaria. Las empresas la adoptan por confianza, competitividad y requisitos de clientes.

¿Aplica si mi empresa no desarrolla IA, solo la usa? Sí. La norma está dirigida a organizaciones que desarrollan, proveen o usan productos o servicios basados en IA.

¿Se puede certificar? Sí. ISO/IEC 42001 contiene requisitos certificables. ISO/IEC 42005, en cambio, es una guía de apoyo para la evaluación de impacto.

¿Se integra con ISO/IEC 27001 e ISO 9001? Sí. Comparte la Estructura Armonizada, de modo que puede implementarse como parte de un sistema integrado.

Cómo trabajamos en 180 grados

Acompañamos a las empresas con un Diagnóstico IA: inventario de sistemas, evaluación de impactos y riesgos, y una hoja de ruta para implementar ISO/IEC 42001 integrada con sus sistemas de seguridad de la información y calidad. Formamos también a los equipos internos y a los auditores internos en la norma.

Escríbanos a proyectos180grados@gmail.com o visite 180gradosconsultores.org.