Dzisiaj porozmawiamy o tym czym są chaty AI w biznesie, czyli o narzędziach, które piszą maile, odpowiadają klientom, streszczają dokumenty, przygotowują opisy produktów, tworzą posty, pomagają w obsłudze sklepu i czasem z absolutną pewnością siebie mówią coś, co nie do końca jest prawdą.

Chat AI to trochę taki bardzo ambitny praktykant. Sam kiedyś byłem praktykantem, więc absolutnie nikogo nie chcę tutaj obrażać.

Pracuje szybko, nie narzeka, nie bierze urlopu, nie pyta, czy może wyjść wcześniej, ale czasem, gdy czegoś nie wie, odpowiada tak, jakby właśnie wrócił z konferencji eksperckiej. Bo przecież trudno powiedzieć: „nie wiem”, „doczytam”, „zaraz ustalę”. Trzeba zawsze wykazać się najdalej idącą wiedzą.

Zresztą chyba wszyscy, którzy korzystają z AI, wiedzą, że nawet w bardzo profesjonalnych systemach problem halucynacji nie został jeszcze całkowicie wyeliminowany. A już na pewno nie zawsze próbuje się go skutecznie ograniczyć w czatach AI wykorzystywanych do komunikacji z klientem.

I tu zaczyna się problem.

Jeżeli pracownik zapyta AI o pomysł na post, a pomysł będzie słaby, to być może jeszcze nic wielkiego się nie stanie. Pracownik go przeczyta, zatrzyma się na chwilę, pomyśli: „co to właściwie jest?” i go nie opublikuje. Może napisze sam, może inaczej sformułuje polecenie.

Ale jeżeli klient zapyta chatbota o zwrot, reklamację, cenę, gwarancję albo warunki umowy, a bot odpowie źle, firma może mieć kłopoty.

Może będą to małe kłopoty, jeżeli błędna odpowiedź będzie mało kosztowna. Ale trzeba pamiętać o jednej rzeczy: odpowiedzialność poniesie firma. Nie model, nie algorytm, nie „ten pan z OpenAI”, tylko przedsiębiorca, który wdrożył dane rozwiązanie.

---

Dwa typy czatów AI w biznesie

Zacznijmy od prostego podziału.

W biznesie mamy zasadniczo dwa typy czatów AI.

Pierwszy to chatbot dla klientów. Taki, który działa na stronie sklepu, w aplikacji albo w panelu klienta. Odpowiada na pytania, pomaga znaleźć produkt, tłumaczy proces zwrotu, a czasem przyjmuje reklamację.

Drugi to czat AI dla pracowników. Narzędzie wykorzystywane do maili, ofert, analiz, dokumentów, opisów, regulaminów, postów i wszelkich zadań, które zaczynają się od zdania: „napisz mi to profesjonalnie, ale krótko”. Ewentualnie od mojego drugiego ulubionego polecenia: „podsumuj mi tekst powyżej” albo „poniżej” — w zależności od tego, gdzie został wklejony.

Oba narzędzia są przydatne. Ale oba potrzebują zasad.

Zasada 1: klient powinien wiedzieć, że rozmawia z AI

To nie musi być wielki czerwony napis: „Uwaga, rozmawiasz z maszyną”. Zresztą można dyskutować, czy o algorytmie i generatywnej sztucznej inteligencji w ogóle należy mówić „maszyna”. Pewnie UOKiK nie uznałby tego za wprowadzanie konsumentów w błąd, ale zostawmy tę dyskusję na inną okazję.

Wystarczy jasny komunikat, na przykład:

„Cześć, jestem asystentem AI i pomagam w podstawowych sprawach”.

Można oczywiście takiego asystenta spersonalizować. Nazwać go Zenek, Marysia albo dać użytkownikowi wybór, z kim chce rozmawiać. Ważne, żeby było prosto, uczciwie i bez udawania.

Jeśli klient myśli, że rozmawia z człowiekiem, a po pięciu minutach odkrywa, że rozmawia z botem, który nie rozumie słowa „pilne”, frustracja rośnie szybciej niż koszyk w Black Friday. Przynajmniej przed wejściem w życie Omnibusa, bo dziś Black Friday wydaje się już nieco mniejszym świętem zakupowym.

Zasada 2: chatbot nie może obiecywać za firmę wszystkiego, co brzmi miło

I tutaj zaczynają się schody.

Dobrym przykładem jest sprawa Air Canada. Chatbot linii lotniczej podał klientowi błędną informację o zniżce. Klient na tej informacji polegał, a potem firma próbowała tłumaczyć, że to chatbot się pomylił.

Problem polegał na tym, że chatbot działał w imieniu firmy. Dla klienta była to informacja od firmy. Nawet jeżeli nie pochodziła od człowieka, tylko od bota, to przecież ten chatbot nie wszedł sam na stronę Air Canada i nie zaczął tam opowiadać rzeczy bez żadnego związku z przedsiębiorcą.

I to jest najważniejsza lekcja.

Chatbot nie jest osobnym państwem. Nie ma własnego budżetu, zarządu i odpowiedzialności. Jeżeli mówi w Twoim imieniu, to Ty odpowiadasz za to, co mówi.

Nawet jeżeli korzystasz z biznesowej wersji danego modelu AI, odpowiedzialność za odpowiedzi udzielane klientom najpewniej będzie ograniczona albo wyłączona w relacjach B2B. Dostawca narzędzia nie będzie chciał odpowiadać za każdą nietrafioną, nieprecyzyjną albo nadmiernie pomocną odpowiedź wygenerowaną przez model.

Wynika to również z natury generatywnej AI. Odpowiedzi są niedeterministyczne, czyli za każdym razem mogą być trochę inne. To nie jest błąd systemu. To cecha tej technologii.

Dlatego przed wdrożeniem chatbota, który będzie obsługiwał sprawy klientów, trzeba go dobrze przetestować.

Nie wystarczy sprawdzić, czy odpowiada ładnie. Trzeba zapytać:

Czy nie obiecuje rabatów?
Czy nie przedłuża terminu zwrotu?
Czy nie uznaje reklamacji automatycznie?
Czy nie myli rękojmi z gwarancją?
Czy nie podaje nieaktualnych cen?
Czy nie mówi klientowi: „oczywiście należy się zwrot”, gdy regulamin mówi coś zupełnie innego?

Wyobraźmy sobie sytuację, w której bot został wytrenowany na poprzednim regulaminie sklepu. Stary regulamin przewidywał 90 dni na zwrot, ale firma wróciła do ustawowych 14 dni. Jeżeli bot nadal odpowiada według starych zasad, problem gotowy.

AI bardzo lubi być pomocne. Można wręcz powiedzieć, że wiele modeli jest projektowanych tak, aby użytkownik chciał kontynuować rozmowę i nie wychodził poza okienko czatu.

Tyle że nadmiernie pomocny chatbot może być droższy niż kampania reklamowa w prime time.

Zasada 3: RODO nadal obowiązuje

Jeżeli chatbot zbiera dane klientów, to nie jest tylko „fajna funkcja na stronie”. To jest przetwarzanie danych osobowych.

Imię, e-mail, numer zamówienia, treść reklamacji, adres dostawy, dane z faktury — to wszystko ma znaczenie. Szczególnie wtedy, gdy chatbot ma dostęp do innych baz danych i może weryfikować informacje podawane przez klienta.

Firma musi wiedzieć:

gdzie trafiają dane,
kto je przetwarza,
czy są wykorzystywane do trenowania modelu,
jak długo są przechowywane,
czy klient został o tym poinformowany,
czy zawarto odpowiednią umowę powierzenia przetwarzania danych osobowych.

Umowa powierzenia to dokument wymagany wtedy, gdy zewnętrzny podmiot przetwarza dane osobowe w imieniu administratora. W przypadku narzędzi AI dla biznesu często będzie to standard, ale jeżeli nikt tego nie sprawdzi, może się okazać, że standard standardem, a dokumentów brak.

Wdrożenie chatbota nie powinno wyglądać tak:

„Janek z marketingu znalazł wtyczkę, kliknął »integruj« i już mamy AI w firmie”.

To nie jest transformacja cyfrowa. Przynajmniej nie wtedy, gdy wygląda właśnie tak. To raczej początek maila do prawnika z tytułem: „mamy mały problem”.

Zasada 4: bot musi wiedzieć, kiedy przestać

Czwarta zasada: bot musi wiedzieć, kiedy przestać.

Dobry chatbot powinien mieć granice.

Może odpowiedzieć na pytanie o status zamówienia.
Może wyjaśnić, jak złożyć reklamację.
Może wskazać link do regulaminu.
Może pomóc dobrać rozmiar albo znaleźć produkt.

Ale jeżeli sprawa jest nietypowa, sporna albo ważna, powinien przekazać ją człowiekowi.

To nie jest porażka technologii. To zdrowy rozsądek.

Pamiętajmy, że AI działa na danych, do których ma dostęp albo na których została wytrenowana. Jeżeli sprawa jest precedensowa, nietypowa albo wymaga oceny prawnej, istnieje duża szansa, że bot nie będzie wiedział, jak ją poprawnie rozstrzygnąć. Tyle że prawdopodobnie i tak jakoś ją rozstrzygnie.

Pytanie tylko, czy firma będzie zadowolona z tego rozstrzygnięcia.

Największy problem z AI nie polega na tym, że czegoś nie wie. Problem polega na tym, że często nie wie, ale mówi tak, jakby wiedziała.

Zasada 5: chatbot powinien mieć regulamin

Jest jeszcze jedna rzecz. Z pozoru formalna, ale bardzo ważna.

Jeżeli mamy chatbota udostępnianego klientom, to może on być elementem usługi świadczonej drogą elektroniczną. A skoro tak, warto zadbać o regulamin zgodny z przepisami.

Nie chodzi o dokument napisany „na wszelki wypadek”, którego nikt nie czyta i który nie pasuje do faktycznego działania narzędzia. Chodzi o regulamin, który jest spójny z tym, co bot faktycznie robi.

Taki regulamin powinien być również zsynchronizowany z polityką prywatności. Jeżeli chatbot przetwarza dane osobowe albo przekazuje je dostawcy narzędzia AI, polityka prywatności powinna to uwzględniać.

W praktyce oznacza to konieczność sprawdzenia między innymi:

czy chatbot jest opisany w dokumentach sklepu lub serwisu,
czy użytkownik wie, z jakiego narzędzia korzysta,
czy wie, jakie dane mogą być przetwarzane,
czy wskazano dostawcę narzędzia AI jako podmiot przetwarzający,
czy dokumenty są zgodne z realnym działaniem systemu.

To są rzeczy ważne. Delikatnie mówiąc.

Zasada 6: ostrożnie z opiniami klientów

AI może podsumowywać opinie klientów. I to może być bardzo przydatne. Na przykład:

„Klienci najczęściej chwalą szybką dostawę”.
„Najczęściej zgłaszany problem to trudny montaż”.
„W recenzjach często pojawia się temat rozmiarówki”.

To pomaga biznesowi. Pozwala szybciej wychwycić problemy, poprawić ofertę i lepiej zrozumieć klientów.

Ale AI nie powinno tworzyć fałszywych opinii.

Jeżeli AI podsumowuje opinie i takie podsumowanie jest widoczne dla klientów sklepu, platformy albo serwisu, trzeba jasno wskazać, że jest to podsumowanie stworzone przez AI.

Nie chodzi o to, żeby rezygnować z technologii. Chodzi o to, żeby nie udawać, że syntetyczne podsumowanie jest spontaniczną opinią konsumentów albo niezależną recenzją.

Chat AI w biznesie – narzędzie przydatne, ale nie bez granic

Podsumowując: chat AI w biznesie to świetne narzędzie.

Może przyspieszyć obsługę klienta.
Może odciążyć zespół.
Może poprawić komunikację.
Może pomóc w sprzedaży.
Może oszczędzić czas.

Ale musi mieć granice — także prawne.

Klient powinien wiedzieć, że rozmawia z AI. Firma powinna kontrolować, co bot mówi. Dane osobowe muszą być bezpieczne. Pracownicy muszą wiedzieć, czego nie wolno wpisywać do narzędzi AI. A człowiek powinien być dostępny wtedy, gdy sprawa robi się ważna albo gdy żąda tego użytkownik.

Chatbot może odpowiedzieć w sekundę. Ale może też odpowiedzieć źle.

A czasami taka błędna odpowiedź może mieć daleko idące konsekwencje.

W sprawie Air Canada konsekwencje prawdopodobnie nie położyły linii lotniczej, bo chodziło o jedną zniżkę. Ale był też znany przykład związany z dealerem Chevroleta, gdzie bot miał zaproponować samochód za kwotę, którą można delikatnie określić jako groszową. Nie było tam, z tego co wiadomo, głośnej sprawy sądowej, ale można przypuszczać, że temat został zamknięty w inny, mniej publiczny sposób.

Regulamin chatbota AI i zasady korzystania z AI w organizacji

Jeżeli wdrażacie czaty AI w swojej działalności, warto sprawdzić, czy nie trzeba zaktualizować regulaminu świadczenia usług drogą elektroniczną, polityki prywatności oraz dokumentacji RODO.

Warto też wdrożyć regulamin korzystania z AI w organizacji. To zaczyna być ważny temat nie tylko dla firm, które operują na ogromnych zbiorach danych albo budują zaawansowane systemy technologiczne.

Czasem jeden deepfake wygenerowany w najprostszym narzędziu AI może sprowadzić na firmę poważne problemy. Nie tylko wizerunkowe, ale również prawne i finansowe.

Dziękuję za dzisiaj i słyszymy się już niebawem w kolejnym odcinku podcastu Prawo dla Biznesu.