La inteligencia artificial está empezando a dejar de limitarse a responder preguntas o generar contenidos. El siguiente paso está en los agentes capaces de ejecutar tareas por su cuenta, tomar decisiones y actuar directamente dentro de nuestros dispositivos, una evolución que abre muchas posibilidades pero también nuevos riesgos relacionados con la privacidad, los permisos y el control de los datos personales.
vivo quiere adelantarse precisamente a ese escenario. La compañía ha desarrollado una arquitectura de seguridad para agentes de IA en el dispositivo que busca comprobar qué hace cada sistema, qué permisos tiene, con qué identidad actúa y si sus decisiones corresponden realmente con la intención del usuario. El proyecto ha sido reconocido en el AI for Good Global Summit 2026, celebrado en Ginebra y organizado por la Unión Internacional de Telecomunicaciones, después de ser seleccionado entre 267 propuestas procedentes de 40 países.
La propuesta ha sido incluida dentro de la colección internacional Innovate for Impact, que reúne proyectos de inteligencia artificial con capacidad de aplicación real y potencial para generar impacto social. El reconocimiento no premia un nuevo móvil ni una función concreta que vaya a aparecer mañana en un dispositivo vivo, sino una arquitectura técnica pensada para afrontar uno de los grandes problemas que acompañará a la próxima generación de inteligencia artificial: poder confiar en aquello que hace por nosotros.
El problema empieza cuando la IA puede actuar por su cuenta
Los asistentes actuales todavía dependen en gran medida de una orden directa del usuario. Sin embargo, los llamados agentes de IA están evolucionando hacia sistemas capaces de encadenar varias acciones, interpretar una intención y ejecutar tareas sin pedir confirmación en cada paso. Ese cambio puede hacerlos mucho más útiles, pero también obliga a plantearse qué ocurre cuando una IA tiene acceso al correo electrónico, los archivos, las aplicaciones o determinadas funciones sensibles del teléfono.
La solución propuesta por vivo intenta introducir controles en diferentes niveles del sistema, desde la infraestructura hasta las aplicaciones y la interacción con el usuario. La arquitectura permite aislar el entorno en el que actúa cada agente, comprobar dinámicamente la intención de sus acciones y limitar con mayor precisión los permisos que recibe, evitando que pueda acceder a información o realizar operaciones que no correspondan con aquello que el usuario quería hacer.
La compañía resume su enfoque alrededor de tres principios: identidad fiable, funcionamiento controlable y ejecución trazable. Traducido a un uso cotidiano, significa que el sistema debe poder saber quién está realizando una acción, mantener bajo control aquello que puede hacer y conservar un registro que permita reconstruir posteriormente cómo se ha ejecutado una determinada tarea.
Un cortafuegos para la inteligencia artificial
Uno de los elementos más interesantes de la propuesta es la incorporación de lo que vivo denomina un cortafuegos de IA en tiempo de ejecución. Su función sería controlar las acciones de los agentes mientras trabajan, en lugar de limitar la seguridad únicamente al momento en el que fueron programados o entrenados.
A esto se suman sistemas de identidad digital, autorización y auditoría de extremo a extremo. El objetivo es que la seguridad deje de depender exclusivamente del modelo de inteligencia artificial y pase a formar parte también del propio sistema operativo y de la forma en que los agentes interactúan con las aplicaciones y los datos almacenados en el dispositivo.
Este planteamiento cobra importancia a medida que las funciones de IA empiezan a procesar más información directamente en teléfonos y otros dispositivos personales. Mantener determinadas operaciones dentro del propio dispositivo puede reducir la dependencia de servidores externos, pero eso no elimina la necesidad de controlar qué información utiliza cada agente ni cómo ejecuta las acciones que se le encomiendan.
vivo lleva su propuesta al debate internacional
El proyecto también ha situado a vivo dentro de una discusión más amplia sobre cómo debe gestionarse la confianza en la llamada IA agéntica. Durante el encuentro celebrado en Ginebra, representantes de compañías como Google, Meta y AWS, además de instituciones especializadas en telecomunicaciones y seguridad, participaron en diferentes sesiones sobre los retos que plantea una inteligencia artificial cada vez más autónoma.
Liu Guangming, director de Seguridad de IA de vivo, explicó durante el encuentro el enfoque desarrollado por la compañía, mientras que Hu Zhiyuan, experto jefe de Seguridad de vivo y presidente de un grupo de trabajo dentro del sector de normalización de la UIT, participó en las discusiones relacionadas con estándares internacionales y mecanismos de confianza.
vivo forma parte además del Grupo de Estudio 17 de UIT-T, especializado en seguridad dentro del ámbito de las telecomunicaciones. Desde ahí, la compañía participa en trabajos relacionados con la gestión de la confianza y la seguridad de los sistemas de inteligencia artificial que funcionan directamente sobre dispositivos.
Proteger al usuario antes de que los agentes de IA sean habituales
Todavía estamos en una fase temprana de la inteligencia artificial agéntica, pero su llegada a los dispositivos de consumo plantea preguntas que hasta hace poco pertenecían casi exclusivamente a los laboratorios. Si un asistente puede reservar un viaje, responder mensajes, mover archivos o realizar operaciones dentro de diferentes aplicaciones, también será necesario definir con mucha más precisión hasta dónde puede llegar sin intervención del usuario.
La propuesta de vivo intenta trasladar esa preocupación al diseño de los propios sistemas antes de que estas funciones se conviertan en algo cotidiano. No se trata de impedir que la IA tenga más autonomía, sino de conseguir que esa autonomía tenga límites claros, pueda ser supervisada y deje suficientes huellas como para entender qué ha ocurrido cuando algo no funciona como debería.
La paradoja es interesante: a medida que confiemos más tareas a la inteligencia artificial, necesitaremos también más tecnología para protegernos de los posibles errores de esa misma inteligencia artificial. vivo quiere que esa segunda capa de seguridad esté preparada antes de que los agentes empiecen a formar parte habitual de nuestros teléfonos.
