| Prywatność danych | Dane wrażliwe mogą zostać ujawnione poprzez komunikaty, dane wyjściowe systemu lub komponenty podłączone do systemu. | Należy ograniczyć dostęp do danych oraz ustanowić zasady korzystania z zatwierdzonych narzędzi sztucznej inteligencji. |
| Zgodność z przepisami prawnymi | Proces oparty na sztucznej inteligencji przetwarza dane lub generuje wyniki, które naruszają branżowe lub lokalne wymogi regulacyjne. | Należy sprawdzić wymagania dla każdego przypadku użycia oraz udokumentować odpowiednie środki kontroli i procedury weryfikacyjne. |
| Nieprawidłowe wyniki | Odpowiedzi, które wydają się prawdopodobne, mogą zawierać błędy. | Opieraj wnioski na wiarygodnych danych i weryfikuj wyniki, które mają istotne konsekwencje. |
| Stronniczość i bezstronność | Wygenerowane treści lub rekomendacje mogą być stronnicze wobec niektórych grup. | Wyniki testów przeprowadzonych wśród różnych grup użytkowników oraz decyzje dotyczące przeglądu, które mają istotny wpływ. |
| Przejrzystość i możliwość kontroli | Użytkownicy nie są informowani, że mają do czynienia z sztuczną inteligencją, a pracownicy nie mogą zweryfikować źródeł odpowiedzi ani śledzić działań agenta. | Należy ujawniać przypadki wykorzystania sztucznej inteligencji, podawać źródła (w miarę możliwości) oraz rejestrować istotne działania. |
| Własność intelektualna | Wygenerowane treści mogą zawierać materiały chronione prawem autorskim lub budzić wątpliwości co do praw do ich wykorzystania. | Przed opublikowaniem należy sprawdzić dane wejściowe, warunki dostawcy usług oraz wyniki generowane przez system. |
| Natychmiastowe podanie | Złośliwe treści mogą wpływać na zachowanie systemu sztucznej inteligencji. | Traktuj treści zewnętrzne jako niewiarygodne i przetestuj powiązane procesy. |
| Niekontrolowane działania agentów | Agent wykonuje niezamierzoną czynność w systemie biznesowym. | Należy ograniczyć uprawnienia dostępu, prowadzić dziennik działań oraz wymagać zatwierdzenia w przypadku istotnych operacji. |
| Koszt i zwrot z inwestycji | Koszty użytkowania i integracji rosną, a nie widać wyraźnej korzyści biznesowej. | Śledź wyniki korzystania z systemu wraz z kosztami jego wdrożenia. |
| Brak poczucia odpowiedzialności i umiejętności | Nie ma zespołu odpowiedzialnego za weryfikację wyników, monitorowanie wydajności ani rozwiązywanie problemów. | Należy jasno określić, kto jest odpowiedzialny za dany obszar, ustalić procedury weryfikacji i eskalacji oraz zorganizować szkolenia dla pracowników korzystających z systemu. |
Zatrudnij nas
O nas
Opinia klienta
