Por Matías Cascallares, Senior Manager, EMEA Customer Success Engineering Confluent.
A medida que la IA generativa sigue aumentando su popularidad, ya estamos empezando a ver cómo evoluciona la próxima generación de tecnologías basadas en el aprendizaje automático: la IA ágil.
Con la Agentic AI, el proceso no se limita a realizar una simple pregunta y obtener una respuesta de manera directa. La IA participa en procesos complejos de múltiples etapas, a menudo interactuando con diferentes sistemas para alcanzar un resultado específico. Un ejemplo de esto podría ser una organización con un servicio de soporte técnico basado en IA donde agentes, utilizando el procesamiento del lenguaje natural, pueden comprender y gestionar las solicitudes de asistencia informática de los empleados. Estos agentes podrían restablecer contraseñas de forma autónoma, instalar actualizaciones de software y, cuando sea necesario, escalarlos a personal humano.
Los agentes se perfilan como una de las innovaciones más significativas del sector de la IA, posiblemente superando incluso a las futuras generaciones de modelos fundamentales. Según Gartner, para 2028, al menos el 15% de las decisiones laborales diarias serán tomadas de forma autónoma por Agentic AI, frente al 0% en 2024.
Sin embargo, aunque los agentes de IA pueden mejorar la eficiencia, reducir costes y permitir así que el personal de IT se centre en proyectos más estratégicos de razonamiento humano, no están exentos de desafíos. Antes de implementar la Agentic AI, las empresas deben estar preparadas para abordar varias cuestiones que, de lo contrario, podrían afectar a la fiabilidad y seguridad de los sistemas y resultados.
Lógica de modelos y pensamiento crítico
Con la Agentic AI, un agente actúa como «planificador» y coordina las acciones de múltiples agentes. El modelo desempeña una función de «pensador crítico», proporcionando análisis sobre los resultados del planificador y los diferentes agentes que ejecutan las instrucciones. A medida que se genera más retroalimentación, el modelo adquiere más conocimiento, lo que mejora la calidad de los resultados.
Para que funcione correctamente, el modelo del pensador crítico debe entrenarse con datos que reflejen lo más fielmente la realidad. En otras palabras, necesita recibir mucha información sobre objetivos, planes, acciones y resultados concretos, y proporcionarle mucha retroalimentación. Esto puede requerir muchas iteraciones (cientos o incluso miles de planes y resultados) antes de que el modelo tenga suficientes datos para empezar a desempeñar su rol como pensador crítico.
Fiabilidad y previsibilidad
La forma en que interactuamos con los ordenadores hoy en día es predecible. Por ejemplo, cuando construimos sistemas de software, un ingeniero se sienta y escribe el código, diciéndole al ordenador exactamente lo que tiene que hacer, paso a paso. Con un proceso de Agentic AI, no le decimos al agente lo que tiene que hacer paso a paso. Le decimos el resultado que queremos conseguir y el agente determina cómo alcanzarlo. El agente de software tiene cierto grado de autonomía, lo que significa que puede haber cierta aleatoriedad en los resultados.
Vimos un problema similar con ChatGPT y otros sistemas de IA generativa basados en grandes modelos lingüísticos (LLM) cuando debutaron. Pero en los últimos dos años, hemos visto mejoras considerables en la consistencia de los resultados de la Agentic AI, gracias a ajustes, los bucles de retroalimentación humana y los esfuerzos constantes para entrenar y refinar estos modelos. Tendremos que hacer un esfuerzo similar para minimizar la aleatoriedad de los sistemas de Agentic AI, haciéndolos más predecibles y fiables.
Privacidad y seguridad de los datos
Algunas empresas dudan a la hora de utilizar la Agentic AI debido a los problemas de privacidad y seguridad, que son similares a los de la IA generativa, pero pueden ser incluso más preocupantes. Por ejemplo, cuando un usuario interactúa con un LLM, toda la información proporcionada al modelo se integra en él. No hay forma de volver atrás y pedirle que «olvide» esa información. Algunos tipos de ataques a la seguridad, como la inyección de prompt, se aprovechan de esto intentando que el modelo filtre información propietaria. Dado que los agentes de software tienen acceso a muchos sistemas diferentes con un alto nivel de autonomía, aumenta el riesgo de que pueda exponer datos privados de más fuentes.
Para abordar este problema, otra técnica común es utilizar la generación mejorada por recuperación (RAG), en el cual mantenemos solo información general en el modelo, y aquella información “privada” solo se utiliza para enriquecer el prompt. También, es fundamental anonimizar los datos, ocultando al usuario y eliminando cualquier información personal identificable (como números de la seguridad social o direcciones) de la base de datos.
A un alto nivel, podemos ver 3 tipos diferentes de sistemas de IA agéntica y sus respectivas implicaciones de seguridad para el uso empresarial:
- Agentic AI de consumo: normalmente, una interfaz de usuario interna con un modelo de IA externo. Como empresa, no tenemos ningún control sobre la IA en sí, sólo sobre los datos y las solicitudes que enviamos.
- Inteligencia artificial para empleados: se crea internamente para uso interno. Aunque el riesgo es menor, sigue existiendo el riesgo de exponer información muy privada a usuarios no cualificados de la empresa. Por ejemplo, las empresas pueden decidir crear su propia experiencia similar a GPT sólo para uso interno.
- Agentic AI orientada al cliente: Construida por una empresa para servir a sus clientes. Dado que la interacción y el trabajo con los clientes entrañan cierto riesgo, el sistema debe contar con una buena segmentación para evitar la exposición de datos privados de los clientes.
Calidad y relevancia de los datos
Una vez anonimizados los datos y el usuario, queremos que nuestro modelo agéntico ofrezca resultados basados en datos de calidad que sean relevantes para la consulta del usuario. Este será un reto importante.
Con demasiada frecuencia, los modelos generativos de IA no ofrecen los resultados esperados porque están desconectados de los datos más precisos y actuales. Los sistemas de IA agéntica se enfrentan a problemas adicionales porque tendrán que acceder a los datos a través de una amplia variedad de plataformas y fuentes diferentes.
Una plataforma de streaming de datos (DSP) puede ser útil en este caso, ya que proporciona a los ingenieros herramientas para permitir respuestas relevantes utilizando datos de alta calidad. Por ejemplo, los desarrolladores pueden utilizar Apache Kafka y Kafka Connect para traer datos de fuentes dispares, y Apache Flink para comunicarse con otros modelos.
Los sistemas de Agentic AI sólo tendrán éxito y generarán las respuestas correctas si se basan en datos fiables y recientes.
Retorno de la inversión y talento
La IA sigue siendo un territorio nuevo para muchas empresas, que tienen que adquirir nuevo hardware y GPU, y crear una nueva infraestructura de datos, sobre todo, con una nueva gestión de la memoria para el almacenamiento en caché y para el almacenamiento a corto y largo plazo.
También requiere la creación de un modelo de inferencia interno. Para ello, tendrán que contratar a nuevos talentos con estos conocimientos especializados o formar a los trabajadores actuales en IA. El retorno de la inversión llevará tiempo, sobre todo, para los primeros en adoptarla.
A pesar de estos obstáculos, la Agentic AI se extenderá por las empresas del mismo modo que lo ha hecho la IA generativa. Ya estamos viendo a algunos proveedores de tecnología de IA avanzar en esta dirección. Por ejemplo, Microsoft Copilot ha pasado de limitarse a automatizar determinados procesos de código a actuar de forma agéntica para escribir y probar código.
Antes de que las empresas perciban los beneficios de la Agentic AI, tendrán que estar preparadas para resolver los problemas de fiabilidad, privacidad y calidad de los datos y lógica de los modelos. También tendrán que estar preparadas para realizar inversiones significativas por adelantado. Sin embargo, el impacto potencial en el negocio puede ser mucho mayor que el que están viendo con la IA generativa.
