Coraz więcej dostawców systemów sztucznej inteligencji informuje użytkowników, że dane wprowadzane do oferowanych przez nich narzędzi nie są wykorzystywane do trenowania modeli. Dla wielu organizacji stanowi to jedno z podstawowych kryteriów oceny bezpieczeństwa prawnego rozwiązania, w szczególności w obszarze ochrony danych osobowych. W praktyce często można spotkać się z przekonaniem, że skoro dane nie służą dalszemu rozwojowi modelu, korzystanie z AI automatycznie jest zgodne z RODO. Szczególnie często problem ten pojawia się podczas wdrażania popularnych narzędzi generatywnej sztucznej inteligencji przez działy marketingu, HR czy obsługi klienta. Organizacje koncentrują się wówczas przede wszystkim na funkcjonalnościach oferowanych przez dane rozwiązanie, pomijając kwestie związane ze sposobem przetwarzania danych osobowych przez dostawcę. Tymczasem brak wykorzystywania danych do trenowania modeli stanowi jedynie jeden z elementów, które powinny zostać zweryfikowane przed wdrożeniem narzędzia AI.
Porozmawiaj z ekspertem 🎯
Borykasz się z zagadnieniem, które tutaj poruszyłem? Skontaktuj się ze mną! Wspólnie znajdziemy najlepsze rozwiązanie dla Twojego biznesu.
Na czym polega trenowanie modeli AI z perspektywy RODO?
Z technicznego punktu widzenia trenowanie modelu AI polega na wykorzystywaniu danych do tworzenia, rozwijania lub ulepszania modelu sztucznej inteligencji. Model analizuje dostarczone dane, identyfikuje zależności i na tej podstawie modyfikuje swoje parametry, aby lepiej wykonywać określone zadania. Z perspektywy RODO kluczowe znaczenie ma natomiast nie sam proces uczenia modelu, ale fakt, że w toku trenowania dochodzi do przetwarzania danych osobowych, jeżeli dane treningowe zawierają informacje o zidentyfikowanych lub możliwych do zidentyfikowania osobach. W praktyce należy odróżnić trzy sytuacje:
- trenowanie modelu- dane osobowe są wykorzystywane do rozwijania lub doskonalenia modelu AI. Przykładowo dostawca może wykorzystywać przesyłane przez klientów dane do poprawy jakości odpowiedzi generowanych przez system. W takim przypadku dane stają się elementem procesu uczenia modelu;
- dostarczanie danych do działania modelu (inferencja)-dane są wykorzystywane wyłącznie do przetworzenia konkretnego zapytania użytkownika i wygenerowania odpowiedzi. Nie wpływają na dalszy rozwój modelu. Większość dostawców usług biznesowych AI deklaruje obecnie właśnie taki model działania;
- przechowywanie danych pomocniczych- nawet jeśli dane nie służą do trenowania modelu, mogą być przechowywane w historii rozmów, logach technicznych lub systemach bezpieczeństwa. Z punktu widzenia RODO nadal jest to przetwarzanie danych osobowych wymagające podstawy prawnej i spełnienia pozostałych obowiązków administratora.
Wiele organizacji błędnie utożsamia brak trenowania modeli z brakiem przetwarzania danych osobowych. Tymczasem są to dwa odrębne zagadnienia. Fakt, że dostawca nie wykorzystuje danych do rozwijania modelu, nie oznacza jeszcze, że dane nie są przetwarzane w celu świadczenia usługi, zapewnienia bezpieczeństwa systemu czy przechowywania historii interakcji. Zgodność z RODO wymaga analizy całego procesu przetwarzania, a nie tylko kwestii trenowania modeli.
Jakie kwestie należy zweryfikować, w sytuacji, gdy dostawca narzędzia AI twierdzi, że nie trenuje modeli?
- ustalenie jakie dane osobowe trafiają do modelu – w pierwszej kolejności należy zidentyfikować, jakie dane będą wprowadzane do narzędzia. W praktyce bardzo często użytkownicy przekazują do systemów AI dane klientów, pracowników, kontrahentów, a niekiedy również dane szczególnych kategorii lub informacje objęte tajemnicą przedsiębiorstwa. Administrator powinien zatem ustalić zakres danych przekazywanych do systemu, cel ich przetwarzania oraz podstawę prawną wynikającą z art. 6 RODO. Warto również wdrożyć wewnętrzne zasady korzystania z narzędzi AI określające, jakie informacje mogą, a jakie nie powinny być wprowadzane do systemu;
- weryfikacja czy została zawarta umowa powierzenia przetwarzania danych osobowych– brak trenowania modeli nie oznacza, że dostawca nie przetwarza danych osobowych. Jeżeli dane są przetwarzane w imieniu organizacji, konieczne może być zawarcie umowy powierzenia zgodnej z art. 28 RODO. Należy również ustalić, czy dostawca nie wykorzystuje danych dla własnych celów, takich jak rozwój usług, analityka czy bezpieczeństwo. W takim przypadku jego rola na gruncie RODO może być bardziej złożona niż zwykłego podmiotu przetwarzającego;
- weryfikacja transferów danych poza EOG – wiele narzędzi AI działa w oparciu o globalną infrastrukturę informatyczną. Dlatego konieczne jest ustalenie, czy dane osobowe są przekazywane poza Europejski Obszar Gospodarczy, a jeżeli tak, na jakiej podstawie prawnej odbywa się taki transfer. Należy zweryfikować m.in. lokalizację serwerów, listę podprocesorów, stosowane standardowe klauzule umowne (SCC) oraz potrzebę przeprowadzenia oceny skutków transferu (TIA). W praktyce nieprawidłowości dotyczące transferów danych częściej prowadzą do problemów prawnych niż sama kwestia trenowania modeli;
- ustalenie okresów przechowywania danych- nawet jeśli dostawca nie wykorzystuje danych do uczenia modeli, może przechowywać historię rozmów, prompty, pliki załączane przez użytkowników, logi techniczne czy dane diagnostyczne. Administrator powinien ustalić okresy retencji poszczególnych kategorii danych, możliwość ich usunięcia oraz sposób postępowania po zakończeniu korzystania z usługi;
- weryfikacja środków bezpieczeństwa- istotnym elementem oceny zgodności jest również analiza środków bezpieczeństwa stosowanych przez dostawcę. Należy zweryfikować m.in. zasady kontroli dostępu, szyfrowanie danych, mechanizmy uwierzytelniania użytkowników, możliwość zarządzania uprawnieniami oraz procedury reagowania na incydenty bezpieczeństwa;
- ocena konieczności przeprowadzenia DPIA- wielu przypadkach wdrożenie systemu AI będzie wymagało przeanalizowania, czy zachodzą przesłanki do przeprowadzenia oceny skutków dla ochrony danych (DPIA). Dotyczy to w szczególności sytuacji, gdy wynik działania systemu może wpływać na sytuację prawną osoby fizycznej, przetwarzane są dane szczególnych kategorii, wykorzystywane są innowacyjne technologie;
- weryfikacja obowiązków informacyjnych i praw osób- należy również ocenić, czy osoby, których dane są przetwarzane z wykorzystaniem AI, zostały prawidłowo poinformowane o takim wykorzystaniu oraz czy organizacja jest w stanie realizować prawa wynikające z RODO, w tym prawo dostępu, usunięcia danych, sprzeciwu lub uzyskania interwencji człowieka w przypadku decyzji opartych na zautomatyzowanym przetwarzaniu.
Przykład z praktyki
Załóżmy, że pracownik działu marketingu eksportuje do narzędzia AI zestawienie zawierające numery telefonów klientów, historię zakupów oraz wartość zamówień. Dostawca deklaruje, że dane nie są wykorzystywane do trenowania modeli. Czy oznacza to zgodność z RODO? Niekoniecznie. Nadal dochodzi do przetwarzania danych osobowych przez system AI. Organizacja musi ustalić podstawę prawną przetwarzania, zweryfikować rolę dostawcy, ocenić transfery danych, sprawdzić okresy retencji oraz zapewnić odpowiednie środki bezpieczeństwa. Brak trenowania modeli rozwiązuje jedynie jeden z wielu elementów całego procesu.
Podsumowanie
Deklaracja dostawcy, że dane użytkowników nie są wykorzystywane do trenowania modeli AI, jest ważną informacją i z pewnością przemawia na korzyść danego rozwiązania. Nie należy jednak traktować jej jako automatycznego potwierdzenia zgodności z RODO. Dopiero kompleksowa ocena pozwala odpowiedzieć na pytanie, czy korzystanie z AI rzeczywiście odbywa się zgodnie z wymogami RODO.
Patrycja Myśliwiec
PRAWNIK
Specjalizuję się w ochronie danych osobowych i bezpieczeństwie informacji. Od ponad 10 lat wspieram firmy i instytucje w zgodności z RODO, audytach oraz wdrażaniu systemów ochrony danych. Mam doświadczenie jako Inspektor Ochrony Danych i audytor. Pomagam organizacjom tworzyć bezpieczne i zgodne z prawem rozwiązania.
Skontaktuj się ze mną, chętnie odpowiem na Twoje pytania dotyczące naszej oferty i przedstawię rozwiązania dostosowane do Twojego biznesu.