Chatbot para el desarrollo de análisis de datos: 67% de mejora en latencia

Utilizando los grandes modelos lingüísticos (LLM) existentes, hemos desarrollado una plataforma analítica similar a ChatGPT que puede analizar los datos internos de la empresa y generar respuestas a preguntas basadas en esa información.

Cliente

Industria

eCommerce

Región

Reino Unido

Cliente desde

2023

Nuestro cliente, una startup emergente, tenía la visión de un producto diseñado para la venta a sus principales clientes del sector minorista.

La información detallada sobre el cliente no puede revelarse en virtud de los términos del acuerdo de confidencialidad.

Desafío

La necesidad de una plataforma analítica que ofrezca acceso instantáneo a los documentos internos y proporcione información basada en datos.

Principal punto débil: Los documentos internos, incluidos los registros de empleados, los datos de marketing y la información de ventas, carecen de accesibilidad. Con miles de archivos en formatos como PDF, CSV, Parquet, TXT y DOCX, localizar y analizar información específica lleva mucho tiempo y es propenso a errores.

Retos secundarios: A medida que una empresa crece, aumenta el volumen de documentos e información, lo que intensifica aún más los retos de accesibilidad y análisis de datos. Sin un sistema adecuado de análisis de documentos, estos problemas se hacen cada vez más evidentes con el paso del tiempo.

Reconociendo estos retos, nuestro cliente se puso en contacto con Innowise para conseguir un chatbot para el análisis de datos, con el objetivo de ofrecerlo a sus principales clientes.

Solución

El software de análisis de datos de chatbot adaptado para manejar datos internos

Innowise ha desarrollado el chatbot software de análisis de datos utilizando los grandes modelos lingüísticos existentes. El sistema de chat funciona de forma similar a los bots disponibles, pero está adaptado para manejar datos internos. El desarrollo implicó construir un sistema completo para integrar LLM con las bases de datos relacionales y documentales, incluyendo soluciones de almacenamiento de datos internos de los clientes y proporcionando una interacción fluida entre la plataforma y los usuarios.

Extracción de información

Las capacidades de análisis y procesamiento de documentos permiten extraer información relevante de documentos internos de la empresa como políticas, instrucciones, guías, datos operativos y especificaciones técnicas. Esto permite al usuario obtener rápidamente respuestas precisas y actualizadas a sus preguntas sin tener que buscar y analizar datos manualmente.

Rendimiento mejorado con IA RAG

Aumentamos el rendimiento del chatbot realizando pruebas manuales diarias y perfeccionar el chatbot mediante IA de generación aumentada por recuperación (RAG). Este enfoque combina la recuperación de información con la generación de lenguaje natural, lo que hace que las respuestas sean más informativas y pertinentes. También introdujimos un sistema de comentarios para analizar las preferencias de los usuarios, lo que mejoró aún más la RAG y aumentó la confianza de los usuarios en el chatbot.

Tiempo de respuesta rápido

Gracias a la implementación del almacenamiento en caché, la optimización de las consultas y el procesamiento en paralelo, hemos mejorado significativamente la velocidad y la eficiencia de las interacciones de los usuarios con el chatbot. Los usuarios pueden recibir respuestas más rápidamente, gracias a la información solicitada con frecuencia almacenada en la caché. Además, utilizamos el procesamiento paralelo para distribuir la carga de trabajo, lo que permite al sistema gestionar varias peticiones a la vez. Esto hace que el chatbot responda mejor, incluso en horas punta.

Extracción de datos de Data Mart

Hemos creado un repositorio de datos para procesar datos relacionales estructurados. Esta función del chatbot incluye solicitudes para recuperar información del Data Mart. Al proporcionar acceso directo al Data Mart a través del chatbot, los usuarios pueden obtener sin esfuerzo la información que necesitan sin consultar otras fuentes. Este acceso simplificado permite a los responsables de la toma de decisiones disponer de información actualizada al alcance de la mano, lo que facilita una respuesta ágil a los cambios del mercado y las oportunidades estratégicas.

Sistema de recuperación de documentos basado en inteligencia artificial

Hemos perfeccionado la gestión y recuperación de documentos integrando Azure Data Lake Gen 2 para la ingesta de documentos, la segmentación de documentos en trozos y la utilización de Azure OpenAI para generar incrustaciones. Estas incrustaciones se almacenan en Azure AI Search para un análisis y recuperación eficientes. Las consultas de los usuarios se procesan a través de Azure OpenAI Search, comparando las incrustaciones de las consultas con las incrustaciones de los documentos almacenados para ofrecer respuestas relevantes al instante.

Diversas opciones de presentación de la información

La información se presenta en forma de gráficos creados con Plotly, tablas estilizadas con Material UI y contenido de texto directo. Esta combinación hace que el contenido sea más atractivo y ayuda a comunicar los detalles de una manera que es fácil de entender y actuar en consecuencia.

Lógica de consulta por voz con traducción de texto a voz

Nuestro equipo integró la funcionalidad de consulta por voz junto con las interacciones basadas en texto en el chatbot para el análisis de datos. Ahora, los usuarios pueden interactuar sin esfuerzo con el bot mediante comandos de voz, con la capacidad añadida de traducir el texto hablado a forma escrita.

Tecnologías

Frontend

Axios, Material UI, Plotly, React, React Context, react-markdown, TypeScript

Backend

Azure AI Search, Azure App Service, Azure Data Factory, Azure Data Lake Gen2, Azure Databricks, Azure Functions, Azure OpenAI, Bicep, Cosmos DB, Spark

Bibliotecas

Axios, Material UI, Matplotlib, NumPy, Pandas, Plotly, PySpark, React Context, react-markdown, Streamlit, TypeScript

Proceso

En primer lugar, realizamos un análisis detallado de los requisitos de la empresa y trazamos un plan integral para el software basado en ellos.

A continuación, creamos una representación visual del chatbot, que incluía wireframes, prototipos y maquetas, basándonos en la información recopilada. La fase de diseño se centró en crear una interfaz fácil de usar que facilitara a los clientes la navegación y el acceso a las funciones del chatbot.

El desarrollo abarcó la creación de un sistema a gran escala para integrar LLM con bases de datos relacionales y documentales, incluidas soluciones internas de almacenamiento de datos de clientes. Proporcionamos una interacción fluida entre la plataforma y los usuarios empleando el procesamiento del lenguaje natural (PLN) para extraer inmediatamente la información clave e integrando la IA de generación aumentada por recuperación (RAG) para obtener respuestas contextualmente relevantes.

Hemos optimizado el rendimiento mediante el almacenamiento en caché, la mejora de la eficacia de las consultas y el procesamiento en paralelo, al tiempo que proporcionamos acceso directo a los datos estructurados del Data Mart.

Por último, incorporamos funciones de consulta por voz y conversión de texto a voz para mejorar la accesibilidad y satisfacer las necesidades de los distintos usuarios.

Equipo

Desarrollador de Front-End

Desarrollador de Back-End

Científico de datos

Ingeniero de datos

Ingeniero de datos / DevOps

Resultados

Una mejora de 67% en la latencia de las consultas y el procesamiento de datos

Nuestro equipo ha desarrollado una plataforma de análisis a medida, que nuestros clientes han evaluado personalmente mediante pruebas prácticas. Esto ha dado lugar a varios resultados notables:

Agilidad operativa y toma de decisiones más rápida y fundamentada: El despliegue de un sistema informático y de almacenamiento distribuido con Azure Databricks, ADLS Gen2 y capacidades Spark ha impulsado la solución con un procesamiento de datos más rápido y escalabilidad para manejar conjuntos de datos sustanciales.
Una mejora de 67% en latencia para consultas y procesamiento de datos: Mantener una latencia baja significa tiempos de respuesta más rápidos para las consultas y el procesamiento de datos, lo que mejora la fiabilidad y el rendimiento de la plataforma.
Aumento de la productividad del equipo: El acceso y la gestión rápidos de archivos aumentan la eficiencia de los equipos. Con una mejor colaboración y menos trabajo administrativo, los miembros del equipo pueden centrarse más en sus tareas principales y sacar adelante los proyectos con mayor rapidez.

Esta avanzada plataforma de chatbot ofrece un rendimiento excepcional y eleva la experiencia del usuario mediante la rápida extracción de información clave de documentos internos utilizando NLP. Integrado con RAG AI para obtener respuestas contextualmente relevantes, optimiza el tiempo de respuesta mediante el almacenamiento en caché, la eficiencia de las consultas y el procesamiento en paralelo, al tiempo que proporciona acceso directo a los datos estructurados del Data Mart. Las funciones de consulta por voz y de conversión de texto a voz mejoran la accesibilidad y satisfacen las necesidades de los distintos usuarios.

Nuestro cliente empezó a ofrecer la solución a sus clientes, y rápidamente se impuso con unas cifras de ventas impresionantes. La eficacia y facilidad de uso de la solución han dado lugar a altos índices de satisfacción entre sus clientes, lo que ha consolidado aún más su éxito en el mercado.

Duración del proyecto

Octubre de 2023 - febrero de 2024

67%

consultas y tratamiento de datos más rápidos

34%

aumento del rendimiento de los equipos

Casos relacionados

Póngase en contacto con nosotros

Reservar una llamada o rellene el siguiente formulario y nos pondremos en contacto con usted cuando hayamos procesado su solicitud.

Nombre

Empresa

Correo electrónico

Teléfono

Mensaje Por favor, facilítenos detalles del proyecto, duración, tecnologías, especialistas informáticos necesarios y otra información relevante.

Grabe un mensaje de voz sobre su proyecto
para ayudarnos a comprenderlo mejor.

Adjunte los documentos adicionales si es necesario

Cargar archivo

Puede adjuntar hasta 1 archivo de 2 MB en total. Archivos válidos: pdf, jpg, jpeg, png

Le informamos de que cuando haga clic en el botón Enviar, Innowise procesará sus datos personales de acuerdo con nuestra Política de privacidad con el fin de proporcionarle la información adecuada.

¿Qué pasa después?

Una vez recibida y procesada su solicitud, nos pondremos en contacto con usted para detallar las necesidades de su proyecto y firmar un acuerdo de confidencialidad que garantice la confidencialidad de la información.

Después de examinar los requisitos, nuestros analistas y desarrolladores elaboran una propuesta de proyecto con el alcance de las obras, el tamaño del equipo, el tiempo y las estimaciones de costos.

Concertamos una reunión con usted para discutir la oferta y llegar a un acuerdo.

Firmamos un contrato y comenzamos a trabajar en su proyecto lo más rápido posible.