Wycieki danych przez chatboty AI – kto odpowiada za naruszenie RODO?

Wycieki danych przez chatboty AI stanowią obecnie jedno z największych wyzwań dla bezpieczeństwa korporacyjnego. Skala zjawiska rośnie lawinowo, a organizacje często błędnie zakładają, że to dostawca technologii bierze na siebie ciężar zabezpieczenia informacji. Prawda jest jednak znacznie bardziej brutalna dla przedsiębiorców. Kto w świetle prawa odpowiada za naruszenie RODO, gdy poufne dane klienta trafią do modelu językowego? Odpowiedź na to pytanie wymaga zrozumienia złożonych mechanizmów prawnych z 2026 roku oraz specyficznej architektury współczesnej sztucznej inteligencji.

Kto ponosi odpowiedzialność: Administrator czy Procesor?

Firma, która decyduje się na wdrożenie lub zezwala pracownikom na używanie sztucznej inteligencji, staje się Administratorem Danych Osobowych (ADO). Zgodnie z wytycznymi organów nadzoru, to właśnie administrator ponosi pełną odpowiedzialność za wszelkie incydenty bezpieczeństwa wynikające z nieprawidłowego zarządzania narzędziami AI w organizacji [Źródło 1].

Dostawcy gigantycznych modeli językowych, tacy jak OpenAI czy Microsoft, najczęściej pełnią jedynie rolę podmiotu przetwarzającego (procesora). Dzieje się tak jednak wyłącznie wtedy, gdy firma podpisze z nimi formalną umowę powierzenia przetwarzania danych (DPA) i korzysta z wersji biznesowych. Jeśli pracownicy używają publicznych, darmowych wersji chatbotów, wprowadzenie tam danych osobowych jest klasyfikowane jako nieuprawnione ujawnienie informacji podmiotowi trzeciemu. To kardynalny błąd administratora, co wyraźnie podkreślają eksperci ds. ochrony danych [Źródło 2].

Warto jednak zwrócić uwagę na ważny precedens wyznaczający granice tej odpowiedzialności. Wojewódzki Sąd Administracyjny w Warszawie, w głośnym wyroku z 25 lipca 2024 roku, orzekł, że administrator nie odpowiada automatycznie za wyciek będący skutkiem zaawansowanego ataku hakerskiego na profesjonalnego procesora [Źródło 3]. Stanowi to kluczową linię obrony dla firm, które zadbały o rzetelne umowy, a mimo to padły ofiarą cyberprzestępców na poziomie infrastruktury chmurowej dostawcy AI.

Nietypowe ujęcie problemu: Ukryte wektory zagrożeń technologicznych

Większość firm skupia się wyłącznie na blokowaniu dostępu do ChatGPT, całkowicie ignorując złożone, wewnętrzne wektory ataków na zintegrowane systemy. Poniżej przedstawiamy trzy zaawansowane czynniki ryzyka, które najczęściej prowadzą do cichych wycieków w środowiskach korporacyjnych.

Zjawisko Shadow AI w strukturach firmowych

Shadow AI to niekontrolowane korzystanie przez pracowników z nieautoryzowanych narzędzi sztucznej inteligencji. To właśnie ten obszar generuje najwięcej naruszeń. Jak wskazują analizy, aż 77% pracowników przyznaje się do wklejania danych firmowych do generatywnych narzędzi AI, z czego 82% robi to przez prywatne konta, poza jakąkolwiek kontrolą działów IT [Źródło 4]. Takie działanie całkowicie omija firmowe polityki bezpieczeństwa.

Pułapki architektury RAG (Retrieval-Augmented Generation)

Systemy typu RAG, które łączą modele LLM z wewnętrznymi bazami danych firmy (np. SharePoint, dyski sieciowe), stwarzają gigantyczne ryzyko wewnątrzorganizacyjne. Jeśli mechanizm pobierający informacje nie respektuje ścisłych polityk uprawnień dostępu na poziomie użytkownika, chatbot może swobodnie udostępnić szeregowemu pracownikowi poufne dane kadrowe czy finansowe zarządu. W świetle RODO jest to pełnoprawny, wewnętrzny wyciek danych spowodowany błędami konfiguracyjnymi po stronie ADO.

Prompt Injection i Sensitive Information Disclosure

Podatność znana jako Prompt Injection (Wstrzyknięcie promptu) polega na celowym zmanipulowaniu chatbota za pomocą spreparowanych instrukcji tekstowych. Atakujący może zmusić model językowy do ujawnienia poufnych informacji (Sensitive Information Disclosure), które zostały zassane do systemu w fazie trenowania lub w ramach sesji innych użytkowników. Odpowiedzialność za brak odpowiednich filtrów wejściowych (tzw. guardrails) spoczywa na firmie udostępniającej takiego chatbota swoim klientom.

„W mojej codziennej audytorskiej praktyce zauważyłam, że najczęstszym błędem nie jest wcale zła wola, lecz fatalna luka świadomościowa. Spotykam działy HR, które wklejają całe CV kandydatów do publicznych wersji LLM, aby wygenerować szybkie podsumowanie. Z punktu widzenia RODO to katastrofa – dane wrażliwe natychmiast opuszczają bezpieczny ekosystem firmy i trafiają na serwery treningowe zagranicznych korporacji.”

Skala zagrożenia w liczbach – twarde dane z 2026 roku

Statystyki pokazują, że niekontrolowany przepływ informacji do modeli sztucznej inteligencji osiągnął bezprecedensowy poziom. Brak edukacji połączony z łatwym dostępem do technologii tworzy mieszankę wybuchową.

AI Act a RODO – jak przepisy z sierpnia 2026 zmieniają sytuację?

Przepisy unijnego Aktu o Sztucznej Inteligencji (AI Act), które w kluczowych aspektach transparentności weszły w życie 2 sierpnia 2026 roku, absolutnie nie znoszą obowiązków wynikających z RODO. Oba te fundamentalne akty prawne stosuje się równolegle, co wielokrotnie zaznaczały organy regulacyjne [Źródło 6]. Zgodnie z art. 2 ust. 7 AI Act, prawo do prywatności pozostaje nadrzędne wobec funkcjonalności technologicznej.

Wejście w życie AI Act nakłada na firmy dodatkowe obowiązki. Zgodnie z art. 50 tego dokumentu, istnieje bezwzględny wymóg informowania użytkowników o tym, że wchodzą w interakcję z maszyną (chatbotem AI), a nie żywym człowiekiem. To jednak tylko początek. Równocześnie administrator musi bezbłędnie zrealizować standardowy obowiązek informacyjny wynikający z art. 13 i 14 RODO, tłumacząc, w jakim celu i na jakiej podstawie przetwarza dane wpadające do okna czatu [Źródło 7]. Brak spójności między tymi dwoma wymogami to prosta droga do dotkliwych sankcji finansowych.

DPIA i Privacy by Design: Jak uniknąć wycieków i odpowiedzialności?

Prawidłowe wdrożenie sztucznej inteligencji wymaga przeprowadzenia obligatoryjnej oceny skutków dla ochrony danych (DPIA – Data Protection Impact Assessment) na mocy art. 35 RODO. Brak tego dokumentu w przypadku implementacji zaawansowanego bota opartego na uczeniu maszynowym to jedno z najcięższych zaniechań zarządczych [Źródło 8].

Fundamentem bezpiecznego AI w biznesie jest zasada Privacy by design oraz Privacy by default uregulowana w art. 25 RODO. Praktyczna implementacja tej zasady polega na domyślnym maskowaniu lub anonimizowaniu danych przed ich wysłaniem do API modeli LLM. Zastosowanie mechanizmów pośredniczących (np. bramek DLP), które automatycznie usuwają nazwiska, adresy i numery PESEL z promptów pracowników, pozwala zminimalizować ryzyko wycieku z winy administratora niemal do zera.

Podsumowując, niezależnie od tego, czy wyciek nastąpi w wyniku błędnego skonfigurowania architektury RAG, zjawiska Shadow AI, czy ataku typu Prompt Injection, przed urzędem ochrony danych zawsze w pierwszej kolejności odpowiada firma (ADO). Zrzucanie winy na dostawcę technologii bez solidnych dowodów na jego wyłączne, bezpośrednie zaniedbanie i przy braku stosownych umów DPA, jest z góry skazane na porażkę.

Bibliografia i źródła

• [Źródło 1] Raport Strategiczny – Urząd Ochrony Danych Osobowych (uodo.gov.pl)
• [Źródło 2] Odpowiedzialność prawna przy wdrażaniu narzędzi generatywnej sztucznej inteligencji (lawmore.pl)
• [Źródło 3] Wyrok Wojewódzkiego Sądu Administracyjnego w Warszawie dot. odpowiedzialności procesora (prawo.pl)
• [Źródło 4] Raport: Cyberbezpieczeństwo i skala Shadow AI w korporacjach (businessinsider.com.pl)
• [Źródło 5] Statystyki naruszeń bezpieczeństwa danych za rok 2025 (uodo.gov.pl)
• [Źródło 6] Prawo.pl: RODO a sztuczna inteligencja w praktyce (prawo.pl)
• [Źródło 7] Sztuczna inteligencja a obowiązki informacyjne administratora (mdl-kancelariaprawna.pl)
• [Źródło 8] Wytyczne w zakresie przeprowadzania DPIA przy systemach zautomatyzowanych (uodo.gov.pl)

FAQ – najczęściej zadawane pytania