RODO a sztuczna inteligencja w firmie

Zastrzeżenie: co tu opisuję, a czego nie

To omówienie z perspektywy praktyki wdrożeniowej, nie porada prawna. Warstwę techniczną, czyli gdzie płyną dane i jak ograniczyć ich zakres, opisuję z własnych projektów. Zapisy umowne i ocena skutków to praca dla prawnika i inspektora ochrony danych; stanowiska i materiały organu nadzorczego zbiera UODO w sekcji poświęconej sztucznej inteligencji.

Wszystko zależy od tego, dokąd jadą dane

Model językowy w wersji, z której korzysta większość firm, nie jest programem zainstalowanym na firmowym serwerze. Jest usługą, do której wysyła się treść, żeby dostać odpowiedź, więc każde zapytanie to transfer danych na cudzą infrastrukturę. Wyjątkiem jest model otwarty uruchomiony we własnej serwerowni: wtedy dane nie wychodzą na zewnątrz, a rozważania niżej dotyczą wyłącznie relacji z zewnętrznym dostawcą.

Dopóki pracownik wkleja fragment regulaminu, nic się nie dzieje. Kłopot zaczyna się przy korespondencji z klientem, dokumentacji kadrowej, danych ze zgłoszeń serwisowych albo bazie CRM, bo wtedy razem z treścią wychodzą dane osobowe: imię, adres, numer sprawy, czasem informacje o zdrowiu albo sytuacji finansowej.

W tym miejscu RODO nie pyta o technologię. Pyta o to, kto jest administratorem, kto procesorem, na jakiej podstawie prawnej odbywa się przetwarzanie i czy osoba, której dane dotyczą, została o nim poinformowana. Jeśli narzędzie zostało wzięte z internetu i podpięte do firmowej skrzynki, odpowiedzi na te pytania nie ma.

Cztery decyzje, które porządkują sytuację

To minimum, od którego zaczynam przy wdrożeniach dotykających danych osobowych. Każda z tych decyzji jest do podjęcia raz, na poziomie firmy, a nie przy każdym projekcie osobno.

Wersja usługi z umową powierzenia. Dostawcy modeli mają oferty biznesowe z warunkami przetwarzania w roli procesora. Bez podpisanej umowy powierzenia firma przekazuje dane podmiotowi, z którym nic jej formalnie nie łączy, i sama odpowiada za skutki.

Wyłączone trenowanie na treści zapytań. W ofertach konsumenckich treść rozmów bywa wykorzystywana do rozwoju modeli. W wersjach biznesowych zwykle da się to wyłączyć i jest to pierwszy zapis do sprawdzenia, zanim ktokolwiek zacznie korzystać.

Ograniczony zakres danych. Najskuteczniejsza ochrona jest też najprostsza: modelowi wysyła się tylko to, co potrzebne do zadania. Opis usterki bez danych zgłaszającego. Treść pisma bez załączników. Zakres wybiera się przy projektowaniu integracji, nie po incydencie.

Uregulowany transfer poza Europejski Obszar Gospodarczy. Większość dostawców przetwarza dane poza Europą. To dopuszczalne, ale wymaga podstawy: decyzji o odpowiednim stopniu ochrony albo standardowych klauzul umownych. Część dostawców oferuje przetwarzanie w regionie europejskim i wtedy sprawa jest prostsza.

Do tego dochodzą dwie czynności administracyjne, o których łatwo zapomnieć: wpisanie nowego narzędzia do rejestru czynności przetwarzania i aktualizacja klauzuli informacyjnej, jeśli dane klientów trafiają do nowego odbiorcy.

Czego nie rozstrzygnie sama technologia

Europejska Rada Ochrony Danych w opinii 28/2024 z grudnia 2024 roku zajęła się pytaniem, czy model wytrenowany na danych osobowych jest anonimowy. Odpowiedź brzmi: nie da się tego założyć z góry, a każdy przypadek podlega ocenie właściwego organu nadzorczego. Rada odniosła się też do uzasadnionego interesu jako podstawy przetwarzania przy rozwoju modeli i do tego, czy niezgodne z prawem przetwarzanie na etapie trenowania wpływa na późniejsze korzystanie z modelu.

Dla firmy kupującej gotowe narzędzie płynie z tego jeden praktyczny wniosek. Zapewnienia dostawcy o anonimizacji nie zwalniają z własnej oceny, bo to firma, a nie dostawca, odpowiada przed osobą, której dane wyszły z jej systemów.

Gdzie to najczęściej pęka

W moich projektach ryzyko rzadko siedzi w samym modelu. Siedzi w tym, że nikt nie wie, kto z czego korzysta.

Firma kupuje jedną licencję zespołową, a połowa działu używa prywatnych kont, bo są szybsze. Integracja miała czytać wyłącznie tytuły zgłoszeń, ale ktoś dołożył treść, żeby odpowiedzi były lepsze. Dostawca zmienił warunki przetwarzania, a nikt tego nie zauważył, bo umową nie zajmuje się osoba, która narzędzie wdrażała.

Każdy z tych przypadków to zwykły brak nadzoru, nie skomplikowany problem prawny. Skalę zjawiska pokazują dane o narzędziach AI używanych poza wiedzą działu IT.

Jak to sprawdzić u siebie

Krótka lista, którą przechodzę z klientem na początku audytu gotowości AI:

• Wypisz z nazwy narzędzia AI używane w firmie i zaznacz te, do których trafiają dane klientów lub pracowników.
• Przy każdym sprawdź, czy jest umowa powierzenia i czy trenowanie na treści zapytań jest wyłączone.
• Sprawdź, czy narzędzia z pierwszej listy są w rejestrze czynności przetwarzania.
• Ustal, kto w firmie odpowiada za przegląd warunków przetwarzania u dostawcy, i wpisz to komuś do zakresu obowiązków.

Jeśli którakolwiek pozycja zostaje bez odpowiedzi, nie jest to jeszcze naruszenie. Jest to miejsce, w którym naruszenie powstanie, zanim ktokolwiek się zorientuje.