Chatbot do rozwoju analityki danych: 67% poprawa opóźnień

Korzystając z istniejących dużych modeli językowych (LLM), opracowaliśmy platformę analityczną podobną do ChatGPT, która może analizować wewnętrzne dane firmy i generować odpowiedzi na pytania na podstawie tych informacji.

Klient

Branża

e-Commerce

Region

Klient od

2023

Nasz klient, wschodzący startup, miał wizję produktu przeznaczonego do sprzedaży dla swoich głównych klientów w sektorze detalicznym.

Szczegółowe informacje o kliencie nie mogą zostać ujawnione zgodnie z warunkami umowy NDA.

Wyzwanie

Potrzeba platformy analitycznej, która oferuje natychmiastowy dostęp do wewnętrznych dokumentów i dostarcza spostrzeżeń opartych na danych.

Główny problem: Dokumenty wewnętrzne, w tym rejestry pracowników, dane marketingowe i informacje o sprzedaży, są niedostępne. Przy tysiącach plików w formatach takich jak PDF, CSV, Parquet, TXT i DOCX, lokalizowanie i analizowanie konkretnych informacji jest czasochłonne i podatne na błędy.

Drugorzędne wyzwania: Wraz z rozwojem firmy wzrasta ilość dokumentów i informacji, co dodatkowo potęguje wyzwania związane z dostępnością i analizą danych. Bez odpowiedniego systemu analizy dokumentów kwestie te stają się z czasem coraz bardziej widoczne.

Dostrzegając te wyzwania, nasz klient skontaktował się z Innowise, aby uzyskać chatbota do analizy danych, w celu zaoferowania go swoim głównym klientom.

Wdrożenie

Oprogramowanie do analizy danych chatbot dostosowane do obsługi danych wewnętrznych

Firma Innowise opracowała chatbota oprogramowanie do analizy danych przy użyciu istniejących dużych modeli językowych. System czatu działa podobnie do dostępnych botów, ale jest dostosowany do obsługi danych wewnętrznych. Rozwój obejmował zbudowanie kompletnego systemu integracji LLM z relacyjnymi i dokumentowymi bazami danych, w tym wewnętrznych rozwiązań do przechowywania danych klienta i zapewnienia płynnej interakcji między platformą a użytkownikami.

Wydobywanie informacji

Funkcje analizy i przetwarzania dokumentów umożliwiają wyodrębnianie istotnych informacji z wewnętrznych dokumentów firmy, takich jak polityki, instrukcje, przewodniki, dane operacyjne i specyfikacje techniczne. Dzięki temu użytkownik może szybko uzyskać dokładne i aktualne odpowiedzi na swoje pytania bez konieczności ręcznego wyszukiwania i analizowania danych.

Zwiększona wydajność RAG AI

Zwiększyliśmy wydajność chatbota, przeprowadzając codzienne testy manualne i udoskonalanie chatbota przy użyciu sztucznej inteligencji wspomaganej wyszukiwaniem (RAG). Podejście to łączy wyszukiwanie informacji z generowaniem języka naturalnego, dzięki czemu odpowiedzi są bardziej treściwe i trafne. Wprowadziliśmy również system informacji zwrotnej do analizy preferencji użytkowników, co dodatkowo poprawiło RAG i zwiększyło zaufanie użytkowników do chatbota.

Szybki czas odpowiedzi

Wdrażając buforowanie, optymalizację zapytań i przetwarzanie równoległe, znacznie poprawiliśmy szybkość i wydajność interakcji użytkowników z chatbotem. Użytkownicy mogą szybciej otrzymywać odpowiedzi dzięki często żądanym informacjom przechowywanym w pamięci podręcznej. Dodatkowo, używamy przetwarzania równoległego do rozłożenia obciążenia, umożliwiając systemowi obsługę wielu żądań jednocześnie. Dzięki temu chatbot jest bardziej responsywny, nawet w godzinach szczytu.

Ekstrakcja danych z Data Mart

Stworzyliśmy repozytorium danych do przetwarzania ustrukturyzowanych danych relacyjnych. Ta funkcja chatbota obejmuje żądania pobierania informacji z Data Mart. Zapewniając bezpośredni dostęp do Data Mart za pośrednictwem chatbota, użytkownicy mogą bez wysiłku uzyskać potrzebne informacje bez konieczności korzystania z innych źródeł. Ten uproszczony dostęp oznacza, że osoby podejmujące decyzje mają na wyciągnięcie ręki aktualne informacje, co ułatwia sprawne reagowanie na zmiany rynkowe i możliwości strategiczne.

System wyszukiwania dokumentów oparty na sztucznej inteligencji

Udoskonaliliśmy zarządzanie dokumentami i ich wyszukiwanie poprzez integrację Azure Data Lake Gen 2 do pozyskiwania dokumentów, segmentacji dokumentów na fragmenty i wykorzystania Azure OpenAI do generowania osadzeń. Te osadzenia są przechowywane w Azure AI Search w celu wydajnej analizy i wyszukiwania. Zapytania użytkowników są przetwarzane przez Azure OpenAI Search, porównując osadzenia zapytań z przechowywanymi osadzeniami dokumentów w celu natychmiastowego dostarczenia odpowiednich odpowiedzi.

Różnorodne opcje prezentacji informacji

Informacje są prezentowane w formie wykresów utworzonych za pomocą Plotly, tabel stylizowanych za pomocą interfejsu użytkownika Material i prostych treści tekstowych. Takie połączenie sprawia, że treść jest bardziej angażująca i pomaga przekazać szczegóły w sposób, który jest łatwy do zrozumienia i podjęcia działań.

Logika zapytań głosowych z tłumaczeniem tekstu na mowę

Nasz zespół zintegrował funkcję zapytań głosowych wraz z interakcjami tekstowymi w chatbocie do analizy danych. Użytkownicy mogą teraz bez wysiłku wchodzić w interakcje z botem za pomocą poleceń głosowych, z dodatkową możliwością tłumaczenia tekstu mówionego na formę pisemną.

Technologie

Front-end

Axios, Material UI, Plotly, React, React Context, react-markdown, TypeScript

Back-end

Azure AI Search, Azure App Service, Azure Data Factory, Azure Data Lake Gen2, Azure Databricks, Azure Functions, Azure OpenAI, Bicep, Cosmos DB, Spark

Biblioteki

Axios, Material UI, Matplotlib, NumPy, Pandas, Plotly, PySpark, React Context, react-markdown, Streamlit, TypeScript

Proces

Po pierwsze, przeprowadziliśmy szczegółową analizę wymagań biznesowych i na tej podstawie opracowaliśmy kompleksowy plan oprogramowania.

Następnie stworzyliśmy wizualną reprezentację chatbota, która obejmowała szkielety, prototypy i makiety, w oparciu o zebrane przez nas informacje. Faza projektowania skupiła się na stworzeniu przyjaznego dla użytkownika interfejsu, który zapewniłby klientom łatwą nawigację i dostęp do funkcji chatbota.

Rozwój obejmował stworzenie pełnowymiarowego systemu integrującego LLM zarówno z relacyjnymi, jak i dokumentowymi bazami danych, w tym z wewnętrznymi rozwiązaniami do przechowywania danych klienta. Zapewniliśmy płynną interakcję między platformą a użytkownikami, wykorzystując przetwarzanie języka naturalnego (NLP) w celu natychmiastowego wyodrębnienia kluczowych informacji i integrując sztuczną inteligencję wspomaganą wyszukiwaniem (RAG) w celu uzyskania kontekstowo istotnych odpowiedzi.

Zoptymalizowaliśmy wydajność poprzez buforowanie, poprawę wydajności zapytań i przetwarzanie równoległe, zapewniając jednocześnie bezpośredni dostęp do ustrukturyzowanych danych z Data Mart.

Wreszcie, włączyliśmy funkcje zapytań głosowych i zamiany tekstu na mowę, aby zwiększyć dostępność i zaspokoić różnorodne potrzeby użytkowników.

Zespół

Programista front-end

Programista back-end

Specjalista ds. danych

Inżynier danych

Inżynier ds. danych / DevOps

Wyniki

Poprawa opóźnień zapytań i przetwarzania danych o 67%

Nasz zespół opracował dostosowaną platformę analityczną, którą nasi klienci następnie osobiście ocenili poprzez praktyczne testy. Zaowocowało to kilkoma zauważalnymi rezultatami:

Sprawność operacyjna i szybsze podejmowanie świadomych decyzji: Wdrożenie rozproszonego systemu pamięci masowej i obliczeniowego z Azure Databricks, ADLS Gen2 i możliwościami Spark usprawniło rozwiązanie dzięki szybszemu przetwarzaniu danych i skalowalności do obsługi dużych zbiorów danych.
Poprawa opóźnień zapytań i przetwarzania danych o 67%: Utrzymanie niskich opóźnień oznacza krótsze czasy odpowiedzi dla zapytań i przetwarzania danych, co prowadzi do poprawy niezawodności i wydajności platformy.
Zwiększona produktywność zespołu: Zespoły zyskały znaczny wzrost wydajności dzięki szybkiemu dostępowi do plików i zarządzaniu nimi. Dzięki lepszej współpracy i mniejszej ilości pracy administracyjnej, członkowie zespołu mogą bardziej skupić się na swoich podstawowych zadaniach i szybciej realizować projekty.

Ta zaawansowana platforma chatbotowa zapewnia wyjątkową wydajność i podnosi komfort użytkowania poprzez szybkie wydobywanie kluczowych informacji z dokumentów wewnętrznych za pomocą NLP. Zintegrowany z RAG AI dla kontekstowo istotnych odpowiedzi, optymalizuje czas odpowiedzi poprzez buforowanie, wydajność zapytań i przetwarzanie równoległe, zapewniając jednocześnie bezpośredni dostęp do ustrukturyzowanych danych z Data Mart. Funkcje zapytań głosowych i zamiany tekstu na mowę zwiększają dostępność, zaspokajając różnorodne potrzeby użytkowników.

Nasz klient zaczął oferować rozwiązanie swoim klientom i szybko zyskało ono popularność dzięki imponującym wynikom sprzedaży. Skuteczność i łatwość użytkowania rozwiązania doprowadziły do wysokiego wskaźnika zadowolenia wśród klientów, co jeszcze bardziej ugruntowało jego sukces na rynku.

Czas trwania projektu

Październik 2023 r. - luty 2024 r.

67%

szybsze zapytania i przetwarzanie danych

34%

wzrost wydajności zespołów

Podobne projekty

Skontaktuj się z nami!

Zadzwoń lub wypełnij poniższy formularz, a my skontaktujemy się z Tobą po przetworzeniu Twojego zgłoszenia.

Nazwa

Firma

E-mail

Telefon

Wiadomość Prosimy o podanie szczegółów projektu, czasu trwania, stosu technologicznego, potrzebnych specjalistów IT i innych istotnych informacji.

Nagraj wiadomość głosową na temat
projekt, który pomoże nam lepiej go zrozumieć

W razie potrzeby dołącz dodatkowe dokumenty

Prześlij plik

Można załączyć maksymalnie 1 plik o łącznej wielkości 2 MB. Ważne pliki: pdf, jpg, jpeg, png

Informujemy, że po kliknięciu przycisku Wyślij Innowise będzie przetwarzać Twoje dane osobowe zgodnie z naszą Polityką prywatności w celu dostarczenia Ci odpowiednich informacji.

Co będzie dalej?

Po otrzymaniu i przetworzeniu Twojego zgłoszenia skontaktujemy się z Tobą wkrótce, aby wyszczególnić potrzeby projektu i podpisać umowę o zachowaniu poufności, aby zapewnić poufność informacji.

Po przeanalizowaniu wymagań, nasi analitycy i programiści opracowują projekt z zakresem prac, wielkością zespołu, czasem i kosztami szacunki.

Umówimy się z Tobą na spotkanie, aby omówić ofertę i dojść do porozumienia porozumienia.

Podpisujemy umowę i rozpoczynamy pracę nad projektem tak szybko, jak to możliwe.