Grupos de trabajo en una oficina abierta frente a pantallas distintas, escena sobre c贸mo integrar LLM en la empresa seg煤n cada frente de uso

Integrar LLM en la empresa: cuatro frentes para elegir

Antes de decidir c贸mo integrar LLM en la empresa, conviene separar cuatro frentes que suelen mezclarse: los asistentes para empleados, la atenci贸n al cliente, el trabajo con datos y el desarrollo de software. Cada uno pide permisos, datos y m茅tricas distintos, y los casos que publicaron Google Cloud y AWS en la regi贸n muestran ejemplos de todos. Esta comparativa los ordena para decidir por d贸nde empezar.

Los cuatro comparten una condici贸n t茅cnica. Seg煤n la documentaci贸n de Google Cloud, RAG Engine enriquece el contexto del modelo con informaci贸n privada de la organizaci贸n para reducir las alucinaciones y responder con m谩s precisi贸n.

Frente A: asistentes para empleados

El modelo se conecta con los sistemas internos y responde a quienes trabajan en la empresa. Banco BV, de Brasil, aprovecha Google Agentspace para que sus empleados usen IA generativa en la b煤squeda, la asistencia y las acciones sobre sistemas cr铆ticos. Copel desarroll贸 un agente con Gemini Pro 1.5 que interact煤a con su SAP ERP on-premises.

En el caso de Banco BV, Google Cloud indica que ese acceso debe ser seguro y conforme a las reglas. La ventaja es que los usuarios son conocidos, con perfiles y permisos definidos. El riesgo, que un asistente con acceso a sistemas cr铆ticos exige reglas claras sobre qu茅 puede leer y qu茅 puede ejecutar.

Frente B: atenci贸n al cliente

Aqu铆 el modelo habla con personas externas o ayuda a quienes las atienden. TIM Brasil usa IA generativa para transcribir llamadas a atenci贸n humana, y luego clasificar, resumir y calificar la demanda del cliente, con el objetivo de proponer respuestas m谩s eficaces y ayudar a los operadores. Cia. Hering tiene un chatbot, Herica, con Dialogflow y Gemini; Google Cloud informa un aumento de 16 puntos porcentuales en la tasa de clics y un ticket promedio 122% mayor.

Banco Rendimiento usa Vertex AI para un servicio de transferencias internacionales por WhatsApp, disponible las 24 horas y sin pasar por un especialista.

La ventaja es el contacto directo con el cliente. El riesgo, que un error del modelo llega a quien compra, de modo que la calidad de la base de conocimiento pesa m谩s que en un uso interno.

Frente C: datos y comercio

El modelo trabaja sobre datos y cat谩logos. LATAM Airlines aplica IA generativa para clasificar tablas y gestionar metadatos, con reducci贸n de tiempo y costos seg煤n Google Cloud. Mercado Libre, que seg煤n AWS opera en 18 pa铆ses, incorpor贸 b煤squeda sem谩ntica con agentes creados en Vertex AI, y AWS informa que GenAds, desarrollado en Amazon Bedrock, elev贸 un 25% en promedio la tasa de clics.

La ventaja es que el resultado se puede medir en indicadores comerciales. El riesgo, que depende de la calidad de los datos de origen.

Frente D: desarrollo de software

El modelo ayuda a quienes escriben y mantienen el c贸digo. Leroy Merlin tiene un proyecto de IA generativa, con una soluci贸n propia, para que los profesionales interpreten y entiendan mejor las modificaciones en el c贸digo. Casa dos Ventos automatiz贸 con Vertex AI la creaci贸n de archivos de instrucciones de proyecto, y sus desarrolladores documentan el c贸digo en minutos.

La ventaja es que el equipo t茅cnico eval煤a la calidad de lo que el modelo produce. El riesgo, que el c贸digo generado o documentado necesita revisi贸n humana antes de usarse.

Integrar LLM en la empresa: cu谩ndo conviene cada frente

Situaci贸nFrente
El equipo pierde tiempo buscando informaci贸n en varios sistemasA: asistentes para empleados
Hay mucho volumen de llamadas o consultas repetidasB: atenci贸n al cliente
El cat谩logo o las tablas de datos crecen y nadie los ordenaC: datos y comercio
El equipo t茅cnico dedica horas a documentar o a entender cambios de c贸digoD: desarrollo de software

Un orden razonable es empezar por el frente A o el D, donde los usuarios son internos y un error se corrige antes de llegar al cliente. Con los permisos bien definidos, ese primer paso deja la base t茅cnica para los otros frentes.

Cualquiera sea el frente, conviene fijar antes qu茅 se va a medir: tiempo por tarea, consultas resueltas o clics, seg煤n el caso. Elegir uno no obliga a descartar los otros, porque son puntos de partida distintos para el mismo tipo de herramienta.

Para seguir con ejemplos de otras compa帽铆as de la regi贸n, sirve leer este texto de Medium sobre las principales empresas latinoamericanas que implementan soluciones en la nube.

Deja una respuesta

Este sitio usa Akismet para reducir el spam. Aprende c贸mo se procesan los datos de tus comentarios.