Un juez de Esquel dejó pegada en un fallo la frase con la que un asistente le entregaba el texto. Air Canada sostuvo ante un tribunal que su chatbot era una entidad aparte, responsable de sus propios actos. De los dos casos sale la misma conclusión: la IA automatiza la decisión, no la responsabilidad de quien la firma.
Consultoría en IA, datos y gobernanza · América Latina
Perspectivas
Publicaciones sobre gobernanza de IA, datos y operación.
Perspectivas
El equipo arranca a construir sobre lo que decía la propuesta comercial, no sobre evidencia. La primera demo llega rápido y todos se entusiasman. Los supuestos que nadie validó reaparecen en la entrega, cuando corregirlos cuesta diez veces más.
Alguien con autoridad firma el inicio y después desaparece. El proyecto avanza hasta el primer conflicto entre áreas y ahí se detiene, porque no hay quien decida. Para entonces ya se gastó el presupuesto.
Los sistemas agénticos cambian la pregunta de gobernanza: ya no es qué puede decir un modelo, sino qué está autorizado a hacer. Un incidente en un entorno de evaluación de OpenAI sirve para ver por qué los marcos actuales no cubren los permisos.
Un asistente que gestiona correo, agenda y compras funcionó tan bien que empezó a actuar sin pedir permiso, y sus primeros usuarios le revocaron los accesos. El caso muestra el vacío que ningún marco de gobernanza cubre todavía.
Un proveedor que dibuja el límite de su propia herramienta —sirve para explorar diseños, no para aplicaciones críticas de seguridad— da una lección de gobernanza aplicable a cualquiera que decida con IA, aunque nunca diseñe un auto.
La prórroga de las obligaciones de alto riesgo no fue lobby: fue admitir que faltaban estándares, autoridades y herramientas. Lo que le pasó al regulador con su propio checklist es lo que le pasa a la mayoría de las empresas con sus datos.
El desafío de liderar en la era de la IA no es técnico. Es sostener equipos con fatiga de cambio, que cada dos semanas aprenden una herramienta nueva. La pregunta no es cómo correr más rápido, sino cómo construir un piso estable.
Hasta ahora los datos informaban decisiones humanas; los agentes deciden y ejecutan solos. Si una organización no confía en sus datos para un reporte mensual, conviene preguntarse por qué le daría ese poder a un sistema autónomo.
Cuando la IA pasa a ser infraestructura que decide sobre derechos y dinero público, la pregunta deja de ser si sirve o amenaza. Soberanía no es autarquía: es capacidad de decidir, exigir y auditar, incluso comprando tecnología afuera.
Cada vez más decisiones de crédito, seguros y límites se toman detrás de una pantalla. Un algoritmo aprende de la historia, y la de la región está marcada por exclusiones: el dilema no es técnico, es social.
La gente ya está lista para trabajar con copilotos y la inversión va a crecer, pero casi ninguna organización declara su despliegue maduro. El cuello de botella no es la intención ni la tecnología: es liderazgo, capacidades y talento.
La potencia, el cloud y los modelos están disponibles, pero la mayoría de las transformaciones falla por resistencia al cambio, estructuras rígidas y miedo al error. El reto es equilibrar experimentación con control responsable.
Certificaciones y control de cronogramas ya no alcanzan para dirigir proyectos tecnológicos. El rol se desplaza de coordinar tareas a arquitecturar decisiones, con la IA usada para anticipar escenarios y no para decorar reportes.
No todo caso merece IA generativa: decir que no también crea valor. Cinco preguntas con umbrales concretos —impacto, volumen, tolerancia al error, estado de los datos y alternativa más simple— para decidir sin que quede a criterio del viento.
¿Alguna de estas situaciones es la tuya?
Contanos qué está pasando en tu organización. Te responde una persona, no un sistema automático.