Los agentes de inteligencia artificial están transformando la atención al cliente en América Latina. Sin embargo, un hallazgo reciente de investigadores de Okta pone en alerta a las empresas: las barreras de seguridad que protegen estos sistemas pueden ser neutralizadas con apenas dos acciones coordinadas, exponiendo datos sensibles de clientes y credenciales de acceso a actores maliciosos.
Si tu empresa utiliza un asistente virtual impulsado por IA para responder consultas, gestionar pedidos o atender a tus clientes las 24 horas, esta investigación es directamente relevante. A diferencia de análisis anteriores sobre vulnerabilidades genéricas en sistemas de IA, este estudio identifica la secuencia exacta de dos pasos que permite eludir las protecciones —lo que habilita desarrollar contramedidas específicas y concretas.
En este artículo te explicamos qué descubrieron los investigadores, por qué las defensas actuales son estructuralmente insuficientes y qué medidas podés adoptar hoy para proteger a tus clientes y tu negocio.
Qué descubrieron los investigadores de Okta
El equipo de seguridad de Okta documentó una vulnerabilidad que afecta a los agentes de IA basados en modelos de lenguaje (LLM). La técnica de dos pasos funciona de la siguiente manera:
Paso 1: Reinicio de memoria. El atacante interactúa con el agente de IA de un modo que borra o sobreescribe el contexto almacenado en la sesión activa. Esta acción elimina los rechazos que el modelo había registrado cuando se le solicitaron acciones fuera de sus límites permitidos. El agente, en efecto, «olvida» que ya rechazó esa petición.
Paso 2: Solicitud de captura de pantalla. Una vez que la memoria del agente fue vaciada, el atacante solicita al sistema una captura de pantalla del estado actual del entorno de trabajo. En múltiples implementaciones evaluadas, esa imagen incluía tokens de autenticación, contraseñas parciales, identificadores de sesión u otra información sensible que el agente tenía visible en su contexto activo.
El resultado: credenciales de acceso que el modelo debería proteger quedan expuestas a un actor externo. Y lo más preocupante no es el resultado sino la mecánica: el ataque no requiere acceso privilegiado al sistema ni conocimiento profundo del modelo. Cualquier usuario con acceso conversacional puede intentarlo.
Por qué las barreras de seguridad actuales no alcanzan
La raíz del problema no es un error de código ni una falla puntual de un proveedor. Es una limitación arquitectónica de cómo funcionan los LLM en entornos de agentes.
Las barreras operan turno a turno. Cada vez que un modelo de lenguaje genera una respuesta, evalúa si esa acción cumple con sus restricciones de seguridad. Pero no tiene memoria persistente entre turnos a menos que el sistema se la proporcione explícitamente. Un agente que rechazó una solicitud en el turno 5 no «recuerda» ese rechazo en el turno 12 si su contexto fue manipulado entre medias.
El orquestador controla qué ve el modelo. En los sistemas de agentes modernos, existe una capa intermedia —el orquestador— que decide qué información pasa al modelo en cada turno. Si un atacante logra manipular esa capa (o directamente el contexto del agente), puede presentarle al LLM una versión modificada de la conversación en la que los rechazos anteriores no existen.
El modelo no puede verificar su propio historial. Los LLM no tienen acceso a un registro inmutable de sus acciones anteriores. Confían en lo que el sistema les dice que ocurrió. Esta dependencia crea la ventana de explotación que documentaron los investigadores.
Lo que distingue este análisis de investigaciones previas sobre seguridad en IA es precisamente la especificidad: no se trata de una teoría sobre posibles vulnerabilidades, sino de una secuencia documentada y reproducible. Eso cambia el nivel de urgencia para las empresas.
El impacto directo en asistentes virtuales de atención al cliente
Para las empresas latinoamericanas que usan asistentes de IA en WhatsApp, sitios web o plataformas de comercio electrónico, esta vulnerabilidad tiene implicaciones directas. Un asistente virtual de atención al cliente típicamente tiene acceso a:
- Datos de pedidos y compras de clientes
- Historial de conversaciones con información personal identificable
- Integraciones con sistemas de gestión internos (plataformas de comercio electrónico, CRM, ERP)
- En algunos casos, capacidades para modificar pedidos, aplicar descuentos o procesar reembolsos
Si un actor malicioso logra eludir las barreras del asistente y acceder a esas integraciones, las consecuencias van desde la extracción de datos de clientes hasta la manipulación de transacciones.
La buena noticia: la mayoría de los asistentes virtuales bien diseñados no otorgan al modelo de lenguaje acceso directo a credenciales de sistemas externos. Pero la investigación de Okta revela que esa separación no siempre está garantizada por diseño, y que incluso cuando existe, la vulnerabilidad de reinicio de contexto puede exponer información que el agente tiene temporalmente en su contexto de trabajo.
Chatsell ha acompañado a más de 60,000 empresas en la automatización de su atención al cliente, sumando 1,9 millones de personas atendidas y 600,000 horas de trabajo manual ahorradas. A esa escala, la seguridad de las integraciones no es opcional: es la base que hace posible la confianza de los clientes.
Cinco medidas concretas para proteger tu negocio
1. Auditá los privilegios de tu asistente de IA
El principio de mínimo privilegio es el punto de partida: el asistente virtual sólo debe tener acceso a los sistemas y datos que necesita estrictamente para cumplir su función. Si tu asistente puede consultar pedidos pero no necesita modificarlos, esa capacidad de modificación no debería existir en su conjunto de herramientas.
Preguntá a tu proveedor: ¿qué acciones puede ejecutar el agente de forma autónoma? ¿Sobre qué sistemas tiene permisos de lectura y escritura? ¿Qué información tiene visible en su contexto activo durante una conversación?
2. Usá credenciales de corta duración
Las credenciales de acceso de larga duración —tokens de API que no vencen, contraseñas estáticas— son el objetivo más valioso en estos ataques. Las credenciales con vencimiento breve (OAuth de corto plazo, tokens rotados automáticamente cada pocos minutos) limitan drásticamente el daño potencial aunque un atacante logre acceder a ellas momentáneamente.
Esta medida es especialmente importante en integraciones con plataformas de pago, sistemas de inventario y herramientas de CRM.
3. Activá el monitoreo activo de las sesiones del agente
Implementá alertas que detecten patrones anómalos: conversaciones inusualmente largas con el mismo usuario, solicitudes repetidas de recursos del sistema, intentos de acceder a información fuera del dominio habitual del asistente, o patrones de reinicio de contexto que no correspondan al flujo normal de uso.
El monitoreo activo puede detectar intentos de manipulación antes de que lleguen a comprometer información sensible. No es suficiente con revisar los logs después de un incidente: la detección en tiempo real es lo que permite interrumpir el ataque.
Para las empresas que automatizaron su atención al cliente con herramientas como Chatsell, la visibilidad completa del historial de conversaciones es la primera línea de defensa. Podés revisar interacciones anómalas desde el panel de control y configurar alertas para detectar patrones sospechosos.
4. No almacenés credenciales sensibles en el contexto del agente
Uno de los errores más comunes en la implementación de agentes de IA es incluir tokens de autenticación o claves de API directamente en el prompt del sistema o en el contexto de la conversación. Si esas credenciales están visibles para el modelo durante una sesión, pueden ser extraídas mediante la técnica documentada por Okta.
La solución: usá servicios de gestión de secretos (como AWS Secrets Manager, HashiCorp Vault u equivalentes) que entreguen las credenciales al agente justo cuando las necesita, en lugar de mantenerlas en el contexto de forma persistente durante toda la conversación.
5. Implementá aprobación humana para acciones de alto impacto
Para las acciones más sensibles —reembolsos, modificación de datos de cuentas, acceso a información financiera—, el agente de IA no debería actuar de forma autónoma. Un flujo de confirmación humana que requiera aprobación explícita antes de ejecutar estas acciones es el control externo más robusto posible, porque no depende de las instrucciones del modelo y es prácticamente imposible de eludir mediante manipulación del contexto.
Este enfoque ya está implementado en los flujos de trabajo de muchas empresas que usan Chatsell para gestionar su atención al cliente: el asistente virtual captura la intención del cliente y escala al agente humano para las decisiones que lo requieran.
El problema de confiar sólo en las instrucciones del modelo
La investigación de Okta expone una tendencia preocupante: muchas empresas asumen que agregar restricciones en las instrucciones del asistente («nunca compartas contraseñas», «no accedas a datos de sistemas externos») es suficiente para garantizar la seguridad.
No lo es.
Las instrucciones del modelo son útiles para definir el comportamiento esperado en condiciones normales. Pero en condiciones de adversario activo —alguien que deliberadamente intenta manipular al sistema— esas instrucciones pueden ser neutralizadas mediante la técnica de dos pasos documentada. Esta es la diferencia crítica que distingue este análisis de la mayoría de las guías de buenas prácticas disponibles: no basta con escribir buenos prompts de sistema.
La seguridad robusta requiere controles que operen fuera del modelo: validaciones en la capa de infraestructura, autorización basada en roles en los sistemas integrados, y monitoreo de comportamiento independiente del agente.
Cómo diseñar asistentes de IA seguros desde el inicio
La seguridad de los agentes de IA no es un complemento que se agrega después del despliegue: debe estar en el diseño desde el principio. Los principios fundamentales son:
Separación de capas. Las instrucciones del modelo controlan el comportamiento conversacional. Los controles de seguridad existen en la infraestructura, independientemente de lo que el modelo haga o deje de hacer.
Auditabilidad. Cada acción del agente debe quedar registrada en un log inmutable que el modelo no pueda modificar. Esto permite detectar anomalías y reconstruir el vector de un incidente si ocurre.
Principio de mínimo privilegio. El agente sólo tiene acceso a lo que necesita, cuando lo necesita, por el tiempo estrictamente necesario.
Aprobación humana en el proceso. Para acciones de alto impacto, siempre hay un humano que confirma antes de ejecutar.
Las empresas que incorporan estos principios desde el inicio tienen una ventaja real: pueden desplegar asistentes con más capacidades y autonomía porque saben que los controles de seguridad no dependen del comportamiento del modelo.
Qué esperar en los próximos meses
La investigación de Okta es un indicador temprano de una tendencia más amplia. A medida que los agentes de IA adquieren más capacidades —acceso a más sistemas, ejecución de más acciones autónomas— las técnicas de manipulación se vuelven más elaboradas y más accesibles para actores no técnicos.
Los proveedores de modelos de lenguaje están trabajando en mejoras arquitectónicas que dificulten el reinicio de contexto malicioso. Las plataformas de agentes están adoptando registros inmutables y controles de autorización más granulares. Los primeros estándares de seguridad específicos para agentes de IA están comenzando a emerger.
Para los negocios que automatizaron su atención al cliente con IA, el mensaje práctico es claro: adoptá hoy los controles básicos descritos en este artículo. No esperés a que los estándares de la industria maduren. Cada mes que pasa sin estos controles es un período en el que un actor malicioso podría utilizar la técnica documentada contra tu implementación.
Seguimiento de clientes automatizado: la seguridad como ventaja competitiva
Una perspectiva que muchas empresas pasan por alto: la seguridad robusta de los agentes de IA no es sólo un costo de cumplimiento. Es una ventaja competitiva.
Las empresas que pueden demostrar a sus clientes que sus datos están protegidos incluso cuando los atiende un asistente virtual tienen una diferenciación real en mercados donde la desconfianza hacia la IA aún es alta. En América Latina, donde las preocupaciones sobre privacidad de datos están en aumento, esa confianza se traduce en retención de clientes y disposición a compartir información que mejora la personalización del servicio.
Si querés profundizar en cómo implementar el seguimiento automatizado de clientes de forma segura con WhatsApp, este artículo sobre automatización del seguimiento de clientes detalla las mejores prácticas que aplicamos en Chatsell.
Conclusión: la seguridad de los agentes de IA es responsabilidad del negocio
La investigación de Okta confirma lo que los expertos en seguridad llevan tiempo señalando: confiar en las instrucciones del modelo como única barrera de protección es estructuralmente insuficiente. Los agentes de IA que interactúan con sistemas reales —como lo hacen los asistentes virtuales de atención al cliente— necesitan controles de seguridad que operen en múltiples capas independientes.
Este análisis se diferencia de los enfoques teóricos sobre riesgo en IA porque parte de una secuencia documentada y reproducible: reinicio de contexto más solicitud de captura de pantalla. Conocer el mecanismo exacto permite implementar contramedidas precisas, no genéricas.
Las cinco medidas concretas —auditar privilegios, usar credenciales de corta duración, activar monitoreo activo, no almacenar credenciales en el contexto, e implementar aprobación humana para acciones críticas— son accesibles para cualquier empresa, independientemente del tamaño o el presupuesto de tecnología.
La seguridad de los agentes de IA no es un problema técnico abstracto. Es una decisión de negocio con consecuencias directas sobre la confianza que tus clientes depositan en vos. Las empresas que actúan hoy no sólo mitigan un riesgo: construyen la base para una automatización más ambiciosa y confiable en el futuro.
¿Querés implementar un asistente virtual seguro para tu empresa? En Chatsell diseñamos soluciones de automatización de atención al cliente que combinan el poder de la IA con los controles de seguridad que tu negocio necesita. Probá Chatsell gratis y sumate a las más de 60,000 empresas que ya automatizan sus ventas con nosotros.
Fuente: wwwhatsnew.com (wwwhatsnew.com/2026/05/02)
SEO Meta
- Etiqueta de título: Barreras de seguridad en agentes de IA: investigación Okta y guía para negocios 2026
- Meta description: Investigadores revelan que las barreras de seguridad de los agentes de IA fallan. Protegé tu empresa de atención al cliente con IA. Probá Chatsell gratis.
- Slug: seguridad-agentes-ia-barreras-empresas-atencion-cliente
