Chatbot per lo sviluppo di analisi dei dati: 67% di miglioramento della latenza

Utilizzando i modelli linguistici di grandi dimensioni (LLM) esistenti, abbiamo sviluppato una piattaforma analitica simile a ChatGPT in grado di analizzare i dati interni dell'azienda e di generare risposte alle domande sulla base di tali informazioni.

Cliente

Industria

eCommerce

Regione

REGNO UNITO

Cliente da

2023

Il nostro cliente, una startup emergente, aveva una visione per un prodotto destinato alla vendita ai suoi principali clienti del settore retail.

Le informazioni dettagliate sul cliente non possono essere divulgate in base ai termini dell'NDA.

Sfida

L'esigenza di una piattaforma analitica che offra accesso immediato ai documenti interni e fornisca approfondimenti basati sui dati

Punto dolente primario: I documenti interni, compresi i registri dei dipendenti, i dati di marketing e le informazioni sulle vendite, non sono accessibili. Con migliaia di file in formati come PDF, CSV, Parquet, TXT e DOCX, la ricerca e l'analisi di informazioni specifiche richiede molto tempo ed è soggetta a errori.

Sfide secondarie: Con la crescita dell'azienda, il volume dei documenti e delle informazioni aumenta, intensificando ulteriormente le sfide legate all'accessibilità e all'analisi dei dati. Senza un adeguato sistema di analisi dei documenti, questi problemi diventano sempre più evidenti nel tempo.

Riconoscendo queste sfide, il nostro cliente ha contattato Innowise per ottenere un chatbot per l'analisi dei dati, con l'obiettivo di offrirlo ai suoi principali clienti.

Soluzione

Il software di analisi dei dati chatbot su misura per gestire i dati interni

Innowise ha sviluppato il chatbot software di analisi dei dati utilizzando i modelli linguistici esistenti di grandi dimensioni. Il sistema di chat funziona in modo simile ai bot disponibili, ma è adattato per gestire i dati interni. Lo sviluppo ha comportato la costruzione di un sistema completo per l'integrazione di LLM con i database relazionali e documentali, comprese le soluzioni di archiviazione dei dati interni del cliente e la fornitura di un'interazione fluida tra la piattaforma e gli utenti.

Estrazione di informazioni

Le funzionalità di analisi ed elaborazione dei documenti consentono di estrarre le informazioni rilevanti dai documenti interni dell'azienda, come politiche, istruzioni, guide, dati operativi e specifiche tecniche. Ciò consente all'utente di ottenere rapidamente risposte precise e aggiornate alle proprie domande senza dover cercare e analizzare manualmente i dati.

Prestazioni potenziate da RAG AI

Abbiamo potenziato le prestazioni del chatbot conducendo test manuali giornalieri e perfezionare il chatbot utilizzando l'IA retrieval-augmented generation (RAG). Questo approccio combina il recupero di informazioni con la generazione di linguaggio naturale, rendendo le risposte più informative e pertinenti. Abbiamo anche introdotto un sistema di feedback per analizzare le preferenze degli utenti, che ha ulteriormente migliorato la RAG e aumentato la fiducia degli utenti nel chatbot.

Tempo di risposta rapido

Implementando la cache, l'ottimizzazione delle query e l'elaborazione parallela, abbiamo migliorato in modo significativo la velocità e l'efficienza delle interazioni degli utenti con il chatbot. Gli utenti possono ricevere risposte più rapidamente, grazie alle informazioni richieste di frequente memorizzate nella cache. Inoltre, utilizziamo l'elaborazione parallela per distribuire il carico di lavoro, consentendo al sistema di gestire più richieste contemporaneamente. Questo rende il chatbot più reattivo, anche nei momenti di picco.

Estrazione dei dati dal Data Mart

Abbiamo creato un archivio di dati per l'elaborazione di dati relazionali strutturati. Questa funzione del chatbot include richieste di recupero di informazioni dal Data Mart. Fornendo un accesso diretto al Data Mart attraverso il chatbot, gli utenti possono ottenere senza sforzo le informazioni di cui hanno bisogno senza consultare altre fonti. Questo accesso semplificato consente ai responsabili delle decisioni di avere a portata di mano informazioni aggiornate, facilitando risposte agili ai cambiamenti del mercato e alle opportunità strategiche.

Sistema di reperimento di documenti alimentato dall'intelligenza artificiale

Abbiamo perfezionato la gestione e il reperimento dei documenti integrando Azure Data Lake Gen 2 per l'ingestione dei documenti, la segmentazione dei documenti in pezzi e l'utilizzo di Azure OpenAI per generare embeddings. Questi embeddings vengono memorizzati in Azure AI Search per un'analisi e un recupero efficienti. Le query degli utenti vengono elaborate attraverso Azure OpenAI Search, confrontando gli embeddings delle query con quelli dei documenti memorizzati per fornire istantaneamente risposte pertinenti.

Diverse opzioni di presentazione delle informazioni

Le informazioni sono presentate sotto forma di grafici creati con Plotly, di tabelle stilizzate con Material UI e di contenuti testuali semplici. Questo mix rende il contenuto più accattivante e aiuta a comunicare i dettagli in modo facile da capire e da utilizzare.

Logica di interrogazione vocale con traduzione da testo a voce

Il nostro team ha integrato la funzionalità di interrogazione vocale accanto alle interazioni testuali nel chatbot per l'analisi dei dati. Gli utenti possono ora interagire senza sforzo con il bot tramite comandi vocali, con l'aggiunta della capacità di tradurre il testo parlato in forma scritta.

Tecnologie

Frontend

Axios, Material UI, Plotly, React, React Context, react-markdown, TypeScript

Backend

Azure AI Search, Azure App Service, Azure Data Factory, Azure Data Lake Gen2, Azure Databricks, Azure Functions, Azure OpenAI, Bicep, Cosmos DB, Spark

Biblioteche

Axios, Material UI, Matplotlib, NumPy, Pandas, Plotly, PySpark, React Context, react-markdown, Streamlit, TypeScript

Processo

In primo luogo, abbiamo condotto un'analisi dettagliata dei requisiti aziendali e abbiamo tracciato un piano completo per il software sulla base di questi requisiti.

Poi abbiamo creato una rappresentazione visiva del chatbot, che comprendeva wireframe, prototipi e mockup, sulla base delle informazioni raccolte. La fase di progettazione si è concentrata sulla creazione di un'interfaccia facile da usare, che consentisse ai clienti di navigare e accedere facilmente alle funzioni del chat bot.

Lo sviluppo ha riguardato la creazione di un sistema completo per integrare LLM con database relazionali e documentali, comprese le soluzioni interne di archiviazione dei dati dei clienti. Abbiamo fornito un'interazione fluida tra la piattaforma e gli utenti, impiegando l'elaborazione del linguaggio naturale (NLP) per estrarre immediatamente le informazioni chiave e integrando l'intelligenza artificiale (RAG, retrieval-augmented generation) per ottenere risposte contestualmente rilevanti.

Abbiamo ottimizzato le prestazioni attraverso il caching, una maggiore efficienza delle query e l'elaborazione parallela, fornendo al contempo l'accesso diretto ai dati strutturati del Data Mart.

Infine, abbiamo incorporato funzioni di interrogazione vocale e text-to-speech per aumentare l'accessibilità e soddisfare le diverse esigenze degli utenti.

Team

Sviluppatore front-end

Sviluppatore back-end

Scienziato dei dati

Ingegnere dei dati

Ingegnere dei dati / DevOps

Risultati

Un miglioramento di 67% nella latenza per le query e l'elaborazione dei dati

Il nostro team ha sviluppato una piattaforma analitica su misura, che i nostri clienti hanno poi valutato personalmente attraverso test pratici. Questo ha portato a diversi risultati degni di nota:

Agilità operativa e processi decisionali più rapidi e informati: L'implementazione di un sistema di archiviazione e calcolo distribuito con Azure Databricks, ADLS Gen2 e funzionalità Spark ha potenziato la soluzione con un'elaborazione dei dati più rapida e la scalabilità per gestire insiemi di dati consistenti.
Un miglioramento di 67% nella latenza per le query e l'elaborazione dei dati: Il mantenimento di una bassa latenza significa tempi di risposta più rapidi per le query e l'elaborazione dei dati, con conseguente miglioramento dell'affidabilità e delle prestazioni della piattaforma.
La produttività del team è aumentata: I team hanno ottenuto un notevole incremento di efficienza grazie alla rapidità di accesso e gestione dei file. Con una migliore collaborazione e meno lavoro amministrativo, i membri del team possono concentrarsi maggiormente sulle loro attività principali e portare avanti i progetti con maggiore velocità.

Questa piattaforma avanzata di chatbot offre prestazioni eccezionali ed eleva l'esperienza dell'utente estraendo rapidamente le informazioni chiave dai documenti interni grazie all'NLP. Integrata con RAG AI per risposte contestualmente pertinenti, ottimizza i tempi di risposta grazie alla cache, all'efficienza delle query e all'elaborazione parallela, fornendo al contempo un accesso diretto ai dati strutturati del Data Mart. Le funzionalità di interrogazione vocale e text-to-speech migliorano l'accessibilità, rispondendo alle diverse esigenze degli utenti.

Il nostro cliente ha iniziato a offrire la soluzione ai propri clienti, che ha rapidamente guadagnato terreno con cifre di vendita impressionanti. L'efficacia e la facilità d'uso della soluzione hanno portato a un alto tasso di soddisfazione dei clienti, consolidando ulteriormente il suo successo sul mercato.

Durata del progetto

Ottobre 2023 - Febbraio 2024

67%

query ed elaborazione dei dati più veloci

34%

aumento delle prestazioni dei team

Casi correlati

Contattateci!

Prenota una chiamata oppure compilate il modulo sottostante e sarete ricontattati una volta elaborata la vostra richiesta.

Nome

Azienda

Telefono

Messaggio Si prega di includere i dettagli del progetto, la durata, lo stack tecnologico, i professionisti IT necessari e altre informazioni pertinenti

Registra un messaggio vocale sul tuo
progetto per aiutarci a capirlo meglio

Allega ulteriori documenti se necessario

Caricare il file

È possibile allegare fino a 1 file di 2 MB complessivi. File validi: pdf, jpg, jpeg, png

Vi informiamo che cliccando sul pulsante Invia, Innowise tratterà i vostri dati personali in conformità con la nostra Informativa sulla privacy allo scopo di fornirvi informazioni adeguate.

Cosa succede dopo?

Dopo aver ricevuto ed elaborato la vostra richiesta, vi ricontatteremo a breve per illustrare le esigenze del progetto e firmare un NDA per garantire la riservatezza delle informazioni.

Dopo aver esaminato i requisiti, i nostri analisti e sviluppatori elaborano una proposta di progetto con l'ambito di lavoro, le dimensioni del team, i tempi e i costi stimati.

Organizziamo un incontro con voi per discutere l'offerta e giungere a un accordo.

Firmiamo un contratto e iniziamo a lavorare sul vostro progetto il prima possibile.

Chatbot per lo sviluppo di analisi dei dati: 67% di miglioramento della latenza

Cliente

Sfida

L'esigenza di una piattaforma analitica che offra accesso immediato ai documenti interni e fornisca approfondimenti basati sui dati

Soluzione