Jake Moffatt acababa de perder a su abuela. Entró al sitio de una aerolínea para comprar un boleto y le preguntó al chatbot por la tarifa de duelo. El chatbot le dijo que podía comprar el boleto completo y pedir el descuento después, dentro de 90 días. Era falso: esa tarifa no se aplicaba después del viaje. Cuando pidió su reembolso, la aerolínea se lo negó.
Lo que sigue es lo que me interesa. La aerolínea, Air Canada, argumentó ante un tribunal que el chatbot era una entidad legal separada, responsable de sus propios actos. El tribunal de Columbia Británica lo rechazó en febrero de 2024: el chatbot era parte del sitio de la empresa y la empresa respondía por lo que decía (American Bar Association).
Este artículo es sobre esa pregunta. Y sobre algo que veo repetirse: muchas empresas están poniendo agentes de IA a decidir cosas importantes antes de saber quién responderá cuando fallen. Te dejo las cifras crudas, sin adorno, y una salida simple.
Primero, la diferencia: un chatbot habla, un agente actúa
Un chatbot responde preguntas. Un agente de IA hace cosas: consulta sistemas, cambia registros, aprueba o niega, agenda, cobra, escribe a un cliente. Esa diferencia lo cambia todo, porque un error de texto se corrige con una disculpa y un error de acción puede borrar una base de datos o negarle a alguien un tratamiento.
Y vienen en camino. Gartner estima que para 2028 al menos 15% de las decisiones diarias de trabajo se tomarán de forma autónoma con IA agéntica, contra 0% en 2024, y que 33% del software empresarial tendrá IA agéntica, contra menos de 1% en 2024 (Gartner). Son predicciones, no hechos. Pero marcan hacia dónde va la fila.
La cruda: lo que dicen los números
Todos dicen estar en IA. Casi nadie la tiene funcionando a escala. Estas son las cifras de cuatro fuentes distintas:
| Qué se mide | Cifra | Fuente |
|---|---|---|
| Organizaciones que usan IA en al menos una función | 88% | McKinsey, 1,993 participantes en 105 países, jun-jul 2025 (McKinsey) |
| Escalan agentes de IA / experimentan con ellos | 23% / 39%. En ninguna función más de 10% escala agentes | McKinsey (misma encuesta) |
| Reportan algún impacto en utilidades (EBIT) por IA | 39%, y la mayoría dice que es menos de 5% del EBIT. Solo cerca de 6% son "de alto desempeño" | McKinsey (misma encuesta) |
| Pilotos de IA generativa sin retorno financiero significativo | 95% | MIT, informe The GenAI Divide (150 entrevistas, 350 empleados, 300 implementaciones), vía Computing |
| Éxito de lo comprado a proveedores vs. lo construido en casa | Cerca de dos tercios vs. cerca de un tercio | MIT, misma fuente |
| Proyectos de IA agéntica que se cancelarán a fines de 2027 | Más de 40%, por costos crecientes, valor poco claro y controles de riesgo inadecuados | Gartner, junio de 2025 (Gartner) |
| Proveedores de "agentes" que realmente lo son | Unos 130 de miles. El resto hace "agent washing": rebautiza chatbots y RPA como agentes | Gartner, misma fuente |
Lee la tabla de abajo hacia arriba y se entiende el momento: hay miles de ofertas, muy pocas reales, y la mayoría de los proyectos termina en pausa o en la basura. Dos precisiones para ser justos: las cifras de MIT vienen de un informe de 2025 y miden pilotos de IA generativa, no solo agentes; y los datos de Gartner de inversión salen de una encuesta a asistentes a un seminario web, no de una muestra de empresas.
En México: mucha inversión, poca madurez
Aquí el contraste es más fuerte. Según el Informe de Madurez Digital de México 2025, 92% de las empresas mexicanas invierte en IA como parte de su transformación digital, pero solo 1% alcanza madurez tecnológica. Otros datos del mismo reporte y de un estudio de NTT Data con MIT Español: solo 26% de los líderes tecnológicos mexicanos dice que sus datos fluyen libremente dentro de la empresa, 44% de los de América Latina reporta problemas de calidad o cantidad de datos y 42% reconoce no tener claridad estratégica sobre la IA (ITSitio).
Pocos expertos, mucha oferta, y todo cuesta más de lo que parece
Aquí está el problema de fondo, y lo digo con respeto para quienes sí hacen bien su trabajo. Hay una oferta enorme de "consultoría en agentes", "plataformas de agentes" y "cursos de agentes". Pero la experiencia real, la de haber puesto un sistema autónomo a operar en un banco, una aseguradora o un hospital, con reguladores, auditores y clientes enojados, es escasa.
- Escasez de talento. La Encuesta de Escasez de Talento 2026 de ManpowerGroup, a más de 39,000 empleadores en 41 países, ubicó por primera vez las habilidades de IA como las más difíciles de encontrar, por encima de ingeniería. 72% de los empleadores en el mundo y 67% en México no logra cubrir sus vacantes (Publimetro).
- Oferta sin experiencia. Gartner calcula que solo unos 130 proveedores agénticos son reales entre miles que dicen serlo. Quien no puede distinguirlos, compra la etiqueta.
- Lo caro sale por otro lado. No es solo la licencia. Gartner atribuye las cancelaciones a costos crecientes y a valor poco claro, y MIT encontró que lo construido en casa tiene éxito aproximadamente en un tercio de los casos, contra dos tercios en lo comprado a proveedores especializados y bien elegidos. Es decir: improvisar sale caro y comprar sin criterio, también.
Cuando se equivoca: cuatro historias reales
| Qué pasó | Qué enseña | |
|---|---|---|
| Air Canada (2024) | El chatbot dio información falsa sobre una tarifa de duelo. El tribunal responsabilizó a la aerolínea y otorgó unos 650 dólares canadienses más intereses y costos (ABA). | No puedes decir que "el sistema" es otro. Lo que dice tu agente lo dijiste tú. |
| Replit y SaaStr (julio de 2025) | Según el relato de su fundador, un agente de programación borró una base de producción con registros de 1,206 ejecutivos y más de 1,196 empresas, pese a la instrucción de no hacer cambios sin aprobación. El CEO de Replit lo calificó de inaceptable y su equipo separó los entornos de desarrollo y producción y agregó un modo de solo planeación (eWeek). | Una instrucción en texto no es un control. Un permiso técnico, sí. |
| UnitedHealth (EE. UU.) | En febrero de 2025 un juez federal dejó avanzar una demanda colectiva por incumplimiento de contrato y de buena fe, por el presunto uso de un algoritmo para negar cuidados a pacientes mayores. Los demandantes alegan que más de 90% de las negaciones apeladas se revierte. La empresa niega usar ese modelo y dice que paga 98% de los reclamos elegibles (BankInfoSecurity). Son alegaciones, sin sentencia de fondo. | La tasa de reversión en apelación es un indicador que cualquier director debería pedir. |
| Klarna (2024-2025) | En febrero de 2024 presumió que su IA hacía el trabajo de 700 agentes de atención y manejaba 75% de los chats. En mayo de 2025 su CEO dijo que la calidad era menor y que volvían a contratar personas (Entrepreneur). | Ahorrar en costo sin medir calidad es una deuda que se cobra después. |
Nota para ser justos: el relato de Replit sale de capturas y declaraciones de la persona afectada, y el de UnitedHealth son alegaciones que un tribunal aún no resuelve. Los incluyo porque muestran el tipo de falla, no para dictar sentencia.
¿Quién responde en México hoy?
La respuesta corta es incómoda: no hay una ley general de IA en México. Una columna de El Financiero de junio de 2026 describe un marco que "descansa en leyes pensadas para una era anterior", con una iniciativa en la Comisión de Inteligencia Artificial del Senado, sin calendario claro para llegar al pleno, que clasifica los sistemas por nivel de riesgo y sigue de cerca el modelo europeo (El Financiero). Es una columna de opinión de un socio de EY México, pero describe un hecho que otros análisis confirman.
Mientras llega esa ley, lo que aplica son las reglas de siempre: protección de datos personales, de consumo y las de cada sector. Un análisis jurídico reciente señala que la ley de datos personales de particulares incluye disposiciones sobre decisiones automatizadas que afectan de forma significativa a una persona, como créditos, contratación o atención médica (Ecosistema Startup). No encontré una norma específica de la CNBV o de Banxico sobre agentes autónomos, y no la doy por existente. Esto no es asesoría legal: antes de poner un agente a decidir en tu sector, revisa con tu área jurídica y con tu regulador.
Lo que sí es claro es la dirección: el caso de Air Canada muestra que un tribunal tiende a atribuir a la empresa lo que dice su sistema. Y la ausencia de una ley específica no es una zona libre de responsabilidad: es una zona donde la responsabilidad se decide caso por caso.
Los cinco dueños del error
Cuando un agente falla, casi siempre hay cinco figuras en juego, y casi nunca está definido qué le toca a cada una. Esta es mi propuesta para dejarlo por escrito antes de que ocurra:
| Figura | Su pregunta | Lo que debe poder demostrar |
|---|---|---|
| 1. Quien lo construye | ¿Qué puede y qué no puede hacer? | Pruebas, límites técnicos y versiones controladas |
| 2. Quien lo vende | ¿Qué prometió? | Contrato claro de alcance, de fallas y de datos |
| 3. Quien lo implementa | ¿A qué sistemas y permisos lo conectó? | Accesos mínimos, entornos separados, bitácora |
| 4. Quien lo supervisa | ¿Quién lo vigila y cuándo interviene? | Un responsable con nombre, métricas y facultad de apagarlo |
| 5. Quien firma el riesgo | ¿Qué daño se acepta y cuál no? | Una decisión escrita del directivo, no de la herramienta |
Si en tu empresa no puedes poner un nombre en las cinco filas, el dueño real del error es el cliente.
La salida: tres peldaños de simplicidad
No hace falta frenar la innovación. Hace falta lo mismo que en cualquier cadena crítica: visibilidad, límites y responsabilidad. Son tres peldaños, y se puede empezar mañana.
1 Ver Inventario de cada agente: qué hace, con qué datos, con qué permisos y quién es su dueño. | 2 Acotar Niveles de autonomía: leer, proponer, ejecutar con aprobación, ejecutar solo. Se sube de nivel con evidencia. | 3 Responder Bitácora de cada decisión, canal a un humano, interruptor de apagado y un responsable con nombre. |
1. Ver. Pregunta sencilla que muchas empresas no pueden contestar hoy: ¿cuántos agentes tenemos, qué tocan y quién responde por cada uno?
2. Acotar. Un agente nuevo no merece el mismo permiso que uno probado. El caso Replit lo ilustra: la salvaguarda que importó no fue una instrucción escrita, sino separar el entorno de producción del de desarrollo. Los límites van en la arquitectura, no en el mensaje.
3. Responder. Mide lo que importa a la gente, no solo el ahorro: cuántas decisiones del agente se revierten, cuántos clientes piden hablar con una persona, cuánto tarda en corregirse un error y cuánto cuesta cada caso resuelto bien, no solo cada caso cerrado. La lección de Klarna es esa: el costo bajó, pero la calidad también.
Lo que he visto operando en sectores regulados
Esta parte es personal, y la separo de los datos. He trabajado con y dentro de industrias donde el regulador pregunta primero por el responsable: banca, salud, aviación y energía. En todas se repite el mismo patrón, ahora con agentes: la tecnología avanza más rápido que la asignación de responsabilidades, y el error termina en la persona o área que menos poder tuvo para evitarlo.
Mi regla es simple: antes de la herramienta, el dueño. Si no hay un nombre que responda, no hay agente en producción. Y si el proveedor no puede explicar en dos minutos qué pasa cuando falla, todavía no está listo.
Tu checklist para el lunes
- ¿Cuántos agentes de IA operan hoy en mi organización, incluidos los que alguien conectó sin avisar?
- ¿Qué es lo peor que cada uno podría hacer con los permisos que tiene?
- ¿Quién, con nombre y apellido, responde si se equivoca?
- ¿Tengo una bitácora para reconstruir qué decidió y por qué?
- ¿Qué porcentaje de sus decisiones se revierte y cómo lo estoy midiendo?
Una pregunta antes de irte
Si diriges una institución financiera, una aseguradora, un hospital o un área de tecnología y quieres revisar tu mapa de agentes y responsables, escríbeme por LinkedIn.
Jorge Mercado · #JMCoach
Fuentes
Responsabilidad y casos
- American Bar Association, BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot, febrero de 2024.
- eWeek, AI Agent Wipes Production Database, Then Lies About It, 22 de julio de 2025.
- BankInfoSecurity, Court: UnitedHealth Must Answer for AI-Based Claim Denials, 14 de febrero de 2025.
- Entrepreneur, Klarna Is Hiring Customer Service Agents After AI Couldn't Cut It, 9 de mayo de 2025.
Madurez, retorno y proyecciones
- McKinsey, The state of AI in 2025: Agents, innovation, and transformation, noviembre de 2025.
- Computing, MIT report: 95% of corporate generative AI pilots fail to deliver returns, 20 de agosto de 2025.
- Gartner, Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027, 25 de junio de 2025.
México: madurez, talento y regulación
- ITSitio, Empresas mexicanas invierten en IA, pero sólo 1% alcanza madurez tecnológica en 2025, 12 de diciembre de 2025.
- Publimetro (ManpowerGroup), Histórico: la IA desplaza a la ingeniería como talento más escaso, 1 de marzo de 2026.
- El Financiero, Regulación de la IA en México: la iniciativa frente a la realidad (columna de opinión), 9 de junio de 2026.
- Ecosistema Startup, IA sin supervisión humana: riesgo legal para empresas mexicanas en 2026, 10 de agosto de 2026.
No hay comentarios.:
Publicar un comentario
Nota: sólo los miembros de este blog pueden publicar comentarios.