Gestión de riesgos de la IA: cómo identificarlos antes de implementar

gestión de riesgos de la IA
/
/
Gestión de riesgos de la IA: cómo identificarlos antes de implementar
Actualizado: noviembre 18, 2026

Respuesta corta: la gestión de riesgos de la IA consiste en identificar y controlar lo que puede salir mal antes de poner un sistema a operar. No se trata de frenar el proyecto, sino de decidir con evidencia qué se automatiza y qué se supervisa. El NIST propone cuatro funciones.

  • Gobernar: definir quién responde por cada decisión que tome el sistema.
  • Mapear: saber qué datos entran, qué sale y a quién afecta.
  • Medir y gestionar: probar con casos reales y corregir antes de escalar.

Antes de firmar con una agencia, exige un mapa de riesgos

Las cuatro funciones del marco del NIST, aplicadas a tu empresa

La conversación típica con una agencia arranca por las herramientas: qué modelo, qué plataforma, qué integración. Ese orden es el problema. Si nadie escribió qué puede fallar, el proyecto avanza sin red.

Piensa en una empresa bogotana que quiere automatizar la respuesta a clientes por WhatsApp. El riesgo no es que el modelo responda mal una vez. El riesgo es que repita un precio equivocado a cien personas antes de que alguien lo note.

Ese escenario se detecta en una reunión, no en producción. Pregunta qué pasa cuando el sistema se equivoca, quién lo apaga y en cuánto tiempo. Si la respuesta es «eso lo revisamos después», todavía no hay gestión de riesgos de la IA, hay entusiasmo.

La OCDE plantea sus principios de IA alrededor de un uso confiable que respete los derechos humanos y los valores democráticos. Ese enfoque respalda tus criterios frente a promesas.


El NIST publica un marco voluntario de gestión de riesgos de IA organizado en cuatro funciones: gobernar, mapear, medir y gestionar. No es una certificación ni un sello. Es una estructura para ordenar decisiones.

La ventaja de usarlo como guion es que obliga a tu proveedor a hablar de responsabilidades, datos y pruebas antes de hablar de resultados. Veamos cada función en la práctica.

Gobernar: define quién responde

Gobernar significa asignar dueños. Quién aprueba el uso del sistema, quién revisa sus salidas y quién tiene la autoridad para apagarlo un martes a las nueve de la mañana.

En muchas empresas el proyecto de IA queda a nombre de un área de tecnología y nadie de negocio responde por las consecuencias. Cuando el sistema comete un error con un cliente, no hay a quién reclamarle internamente.

Antes de contratar, pide un nombre y un rol por cada decisión crítica. Si la agencia no puede llenar esa tabla contigo, el proyecto arranca cojo.

Mapear: entiende qué datos entran y qué sale

Mapear es describir el recorrido completo: qué información alimenta al sistema, de dónde viene, qué produce y a quién impacta esa salida.

Aquí aparecen los problemas incómodos. Datos de clientes que están en un Excel personal. Conversaciones que nadie autorizó a usar. Información comercial que el sistema podría repetir a quien no debe.

Un mapa honesto también incluye a quién afecta un error: al cliente, al vendedor, al área de cartera. Ese detalle cambia por completo la prioridad de las pruebas.

Si tu operación ya usa agentes para tareas repetitivas, conviene revisar qué tareas asumen y cuáles no, algo que se detalla en agentes de IA y las tareas que pueden asumir.

Medir: prueba con casos reales, no con demos

Medir es someter el sistema a los casos difíciles de tu operación, no a los ejemplos bonitos que trae la presentación comercial. Toma las cien conversaciones más complicadas del último trimestre y pásalas por el sistema. Revisa cuántas respuestas habría que corregir y de qué tipo son los errores.

Ahí se ve si el error es cosmético o si compromete un precio, una promesa o un dato sensible. La diferencia entre esos dos tipos de error es la diferencia entre seguir y detenerse.

Gestionar: decide qué hacer con lo que encontraste

Gestionar es actuar sobre los hallazgos: corregir, limitar el alcance, poner supervisión humana o descartar el uso para cierto tipo de casos. No todo riesgo se elimina. Algunos se aceptan con control. Por ejemplo, dejar que el sistema redacte borradores que un asesor aprueba antes de enviar.

Lo importante es que la decisión quede escrita y con fecha de revisión. Un riesgo aceptado sin revisión se convierte en un problema olvidado.


¿Cómo se ve esto en una tabla de decisión?

La forma más rápida de evaluar a un proveedor es pedirle que clasifique los riesgos de tu operación y proponga un control para cada uno. Esta tabla te sirve para comparar respuestas.

Función Qué revisas Señal de alerta
Gobernar Dueños por decisión y autoridad para detener el sistema Nadie de negocio figura como responsable
Mapear Origen de los datos, salidas y personas afectadas No saben de dónde salen los datos de entrenamiento
Medir Pruebas con casos reales y tipos de error Solo muestran ejemplos preparados
Gestionar Controles, alcance limitado y fechas de revisión Todo queda «para la siguiente fase»

Si dos propuestas se ven iguales en precio y alcance, esta tabla las separa. La que responda con nombres, datos y controles concretos está haciendo gestión de riesgos de la IA de verdad.

AMD Agencia de Marketing Digital

¿Quieres que lo hagamos por ti?

Cuéntanos qué necesitas para evaluar el alcance de tu proyecto.

Pedir una propuesta


Pide una propuesta que se pueda verificar

Una propuesta seria describe qué se va a hacer, con qué información y cómo se sabrá si funcionó. Sin eso, cualquier promesa suena igual de bien.

Pregunta qué métricas se van a mirar, quién las revisa y con qué frecuencia. Pregunta también qué pasa si el resultado no llega al umbral acordado. Ninguna agencia puede garantizar posiciones, citas de IA, leads ni ventas. Cualquiera que lo prometa está vendiendo humo, no un servicio.

Si tu interés está en ordenar procesos completos con apoyo de inteligencia artificial, vale la pena entender cómo una agencia de inteligencia artificial aborda el diagnóstico antes de implementar. El marco del NIST es una referencia útil para ordenar esa conversación: AI Risk Management Framework.


¿Qué revisar en la cuenta y en los accesos?

Hay un riesgo operativo que casi nadie menciona en la propuesta: la propiedad de las cuentas. Si el sistema queda montado sobre accesos que administra el proveedor, tu capacidad de reacción depende de él.

Asegúrate de que las cuentas de anuncios, los perfiles y las integraciones queden a nombre de tu empresa. Es el mismo problema de la cuenta de Google Ads que quedó registrada con el correo del exempleado.

Pide la lista de accesos, quién los tiene y cómo se revocan. Es un detalle administrativo que se vuelve urgente el día que cambias de proveedor. Si quieres comparar enfoques antes de decidir, revisa cómo una agencia de IA plantea el alcance de un proyecto de este tipo.


Define qué debe ocurrir después del contacto

El riesgo más costoso no está en el modelo, está en el proceso que viene después. Un lead que llega y nadie llama es un problema de operación, no de tecnología.

Antes de automatizar la captación, define qué debe pasar cuando entra un contacto: quién lo recibe, en cuánto tiempo y con qué información. Si ese circuito no está claro, la IA solo va a acelerar el desorden. Automatizar un proceso roto produce errores más rápido y a mayor escala.

Escribe el flujo en una hoja, con responsables y tiempos. Ese documento vale más que cualquier comparación de herramientas.


Preguntas frecuentes sobre gestión de riesgos de la IA

¿La gestión de riesgos de la IA aplica a empresas pequeñas?

Sí, y suele ser más simple. En una pyme basta una hoja donde quede escrito qué se automatiza, quién revisa las salidas y qué se hace si algo falla. No necesitas comités ni software especializado, solo dejar por escrito las decisiones antes de arrancar.

¿Cuánto tiempo toma hacer este ejercicio antes de implementar?

Depende del tamaño de la operación y de cuántos procesos quieras tocar. Para un solo proceso, unas sesiones de trabajo con las áreas involucradas suelen bastar. Lo que no conviene es saltarse el paso y descubrir los riesgos en producción, cuando corregir cuesta mucho más.

¿Qué diferencia hay entre el marco del NIST y una certificación?

El marco del NIST es voluntario y sirve como guía de organización, no como sello. No certifica que tu sistema sea seguro. Te da una estructura para gobernar, mapear, medir y gestionar. Úsalo para ordenar la conversación con tu proveedor, no como garantía.

¿Puedo exigir que la agencia documente los riesgos por escrito?

Sí, y deberías pedirlo antes de firmar. Un documento con riesgos identificados, controles propuestos y responsables asignados es parte del trabajo, no un extra. Si el proveedor se incomoda con esa solicitud, es información útil sobre cómo será la relación después.

¿Qué hago si el sistema ya está funcionando y no evalué riesgos?

Empieza por lo urgente: revisa qué decisiones toma el sistema sin supervisión y pon un control temporal. Después documenta el mapa de datos y define responsables. Se puede ordenar sobre la marcha, aunque hacerlo antes siempre sale más barato y menos tenso.


Gestión de riesgos de la IA: el paso que define tu proyecto

La diferencia entre un proyecto que funciona y uno que se apaga a los tres meses no está en el modelo que eligieron. Está en si alguien se sentó antes a escribir qué podía fallar.

Usa las cuatro funciones del NIST como guion de la conversación con tu proveedor. Pide responsables con nombre, mapa de datos, pruebas con casos reales y controles con fecha de revisión.

AMD Agencia de Marketing Digital ofrece consultoría e implementación de inteligencia artificial y tiene sede en Bogotá. Si estás evaluando cómo arrancar sin exponer tu operación, cuéntanos qué necesitas y revisamos juntos el alcance.

Imagen de David Gutiérrez
David Gutiérrez

CEO y Fundador de AMD Agencia de Marketing Digital desde 2006. Especialista en marketing digital, SEO e Inbound Marketing con más de 20 años de experiencia. Líder visionario apasionado por la innovación tecnológica, ayudando a empresas en Colombia y Latinoamérica a crecer digitalmente.

Si te gusto este post comparte con alguien más!