Shadow AI — Twój zespół już wkleja firmowe dane do ChatGPT

Skala zjawiska — liczby, nie przeczucia

Właściciele firm zwykle szacują, że „ktoś tam pewnie używa ChatGPT”. Dane mówią coś innego: użycie generatywnej AI w organizacjach wzrosło w ciągu roku o 200%, a liczba wysyłanych promptów o 500%. To znaczy, że nawet firma, która rok temu miała problem marginalny, dziś ma go w pełnej skali.

Z tego samego raportu Netskope: przeciętna organizacja rejestruje 223 naruszenia polityki danych związane z generatywną AI miesięcznie, a w górnym kwartylu firm liczba ta sięga 2100 incydentów miesięcznie. 47% użytkowników AI w pracy korzysta z kont prywatnych — czyli takich, nad którymi dział IT nie ma żadnej widoczności ani kontroli. Jest też dobra wiadomość: odsetek osób pracujących na kontach zarządzanych przez organizację wzrósł z 25% do 62%. Firmy, które udostępniły zespołowi legalne narzędzie, realnie odzyskują kontrolę.

Co konkretnie wycieka

Wbrew intuicji najczęściej nie są to dane osobowe klientów. W naruszeniach polityki danych dominuje kod źródłowy (42%), dalej dane regulowane, w tym osobowe i finansowe (32%), oraz własność intelektualna (16%). W praktyce małej i średniej firmy w Polsce wygląda to tak:

• Handlowiec wkleja treść umowy z klientem, żeby AI streściła warunki przed spotkaniem. Razem z nazwą kontrahenta, kwotami i klauzulą poufności.
• Kadrowa wrzuca listę płac do arkusza generowanego przez AI, żeby szybciej zrobić zestawienie.
• Programista wkleja fragment repozytorium z kluczem API w komentarzu, żeby znaleźć błąd.
• Marketing przesyła do modelu bazę mailingową w CSV, żeby „posegmentować klientów”.
• Zarząd wkleja projekt strategii albo model finansowy przed rundą inwestycyjną, żeby dostać krytyczną opinię.

Trzy poziomy ryzyka — i tylko jeden jest prawny

Rozmowa o shadow AI zwykle zatrzymuje się na RODO, a to najwęższy z trzech problemów.

Poziom pierwszy, prawny: dane osobowe. Wprowadzenie danych osobowych do publicznego narzędzia AI to udostępnienie ich podmiotowi trzeciemu — potrzebna jest podstawa prawna i umowa powierzenia przetwarzania. Odpowiedzialność ponosi firma jako administrator danych, a nie pracownik, który wkleił plik. Kary za naruszenie ochrony danych osobowych sięgają 20 mln euro lub 4% rocznego obrotu. To osobna ścieżka niż obowiązki, o których pisaliśmy przy okazji AI Act w małej firmie — RODO i AI Act obowiązują równolegle i nie zastępują się nawzajem.

Poziom drugi, biznesowy: tajemnica przedsiębiorstwa. Cennik, marże, treść umowy z kluczowym klientem, plan przejęcia. Tu nie ma kary od organu — jest utrata przewagi i potencjalne roszczenie kontrahenta z tytułu naruszenia NDA. Ten poziom szkodzi zwykle najbardziej, a nikt go nie audytuje.

Poziom trzeci, operacyjny: jakość decyzji. Model, który dostał niepełny kontekst, generuje pewnie brzmiącą nieprawdę. Jeśli ta odpowiedź trafia do klienta bez weryfikacji człowieka, firma płaci za nią reputacją. To ryzyko rośnie właśnie w shadow AI, bo praca odbywa się poza jakimkolwiek procesem kontroli.

Co naprawdę dzieje się z danymi — konto darmowe, firmowe i API

Największy zamęt panuje wokół pytania, czy „ChatGPT uczy się na moich danych”. Odpowiedź zależy wyłącznie od tego, którym wejściem korzystasz z tego samego modelu.

• Konta konsumenckie (darmowe i indywidualne subskrypcje): rozmowy domyślnie mogą być wykorzystywane do ulepszania modeli, a ustawienie wyłączające to leży po stronie pracownika. Brak umowy powierzenia, brak kontroli administracyjnej, brak logów po stronie firmy. To jest właśnie shadow AI.
• Plany biznesowe i enterprise: dane z rozmów nie są domyślnie wykorzystywane do trenowania modeli, dostawca oferuje umowę powierzenia przetwarzania, administrator ma panel, listę użytkowników i możliwość wyłączenia konta odchodzącemu pracownikowi.
• Dostęp przez API i wdrożenia własne: dane przesyłane przez API nie służą domyślnie do trenowania modeli, a firma kontroluje, co dokładnie wychodzi z jej systemu — bo zapytanie buduje aplikacja, nie człowiek wklejający załącznik. To jedyny wariant, w którym da się twardo wymusić, żeby numer PESEL nigdy nie opuścił bazy.

Dlaczego zakaz „nie wolno używać AI” nie zadziała

Zakaz jest najtańszą decyzją do podjęcia i najdroższą w skutkach. Powód jest prosty: pracownik, który skrócił sobie zadanie z czterdziestu minut do pięciu, nie wróci dobrowolnie do czterdziestu minut. Wróci do tego samego narzędzia na telefonie prywatnym, poza siecią firmową — czyli tam, gdzie nie zobaczysz już nic.

Zakaz ma jeszcze jeden koszt: zabija zgłaszanie problemów. W firmie z formalnym zakazem nikt nie przyjdzie powiedzieć „chyba wkleiłem tam coś, czego nie powinienem”. A to zgłoszenie jest jedyną rzeczą, która pozwala zareagować w ciągu doby zamiast dowiedzieć się o wszystkim od klienta pół roku później.

Działa odwrotna kolejność: najpierw daj zespołowi narzędzie, które wolno używać, potem ustal granice. Firmowa subskrypcja dla piętnastu osób kosztuje mniej niż jeden dzień pracy prawnika przy incydencie.

Polityka AI, która mieści się na jednej stronie

Widzieliśmy czternastostronicowe regulaminy AI, których nie przeczytał nikt poza autorem. Dokument, który ma działać, odpowiada na cztery pytania — i nic ponadto.

• Czego wolno używać. Imienna lista zatwierdzonych narzędzi plus jedno zdanie o tym, jak zgłosić nowe. Bez ścieżki dodawania narzędzi polityka zestarzeje się w kwartał.
• Czego nie wolno wprowadzać. Konkretne kategorie, nie ogólniki: dane osobowe klientów i pracowników, dane kadrowo-płacowe, dokumenty objęte NDA, kod źródłowy z repozytoriów produkcyjnych, dane finansowe przed publikacją. „Dane wrażliwe” to nie jest instrukcja — nikt nie wie, co to znaczy w jego zadaniu.
• Co zawsze sprawdza człowiek. Prosta zasada: wszystko, co wychodzi na zewnątrz firmy, oraz wszystko, co wpływa na decyzję wobec konkretnej osoby — rekrutacja, ocena, reklamacja, wypowiedzenie.
• Co zrobić, gdy coś pójdzie nie tak. Jedno nazwisko i jeden kanał zgłoszenia, bez konsekwencji dyscyplinarnych za zgłoszenie w dobrej wierze. To zdanie decyduje o tym, czy polityka jest żywa.

Wdrożenie w 30 dni

1. Tydzień 1 — inwentaryzacja bez polowania na winnych. Zapytaj wprost, z czego zespół korzysta i do czego. Zapowiedz jasno, że celem jest kupienie narzędzi, a nie karanie. Odpowiedzi będą szczersze, niż się spodziewasz, i prawie zawsze dłuższe niż lista, którą miał w głowie zarząd.
2. Tydzień 2 — kup jedno narzędzie firmowe i włącz je wszystkim. Jeden dostawca, konta służbowe, logowanie firmowym adresem, wyłączone trenowanie na danych, podpisana umowa powierzenia. Jedno dobre narzędzie dla całej firmy działa lepiej niż trzy dla wybranych działów.
3. Tydzień 3 — spisz politykę na jednej stronie i przeszkol zespół. Godzina spotkania, konkretne przykłady z waszych procesów, nie prezentacja o historii sztucznej inteligencji. Zapisz fakt szkolenia — to również realizacja obowiązku kompetencji AI z artykułu 4 AI Act, który obowiązuje od lutego 2025.
4. Tydzień 4 — usuń powód do obchodzenia zasad. Znajdź dwa zadania, w których ludzie sięgali po AI najczęściej, i zautomatyzuj je porządnie — z dostępem do firmowych danych i kontrolą, co wychodzi na zewnątrz. Zwykle są to te same procesy, które opisaliśmy w tekście o 7 procesach do automatyzacji.

Cztery błędy, które widzimy najczęściej

• Polityka bez narzędzia. Firma zabrania prywatnych kont, ale nie kupuje firmowych. Efekt: ten sam ruch, tylko już zupełnie niewidoczny.
• Lista zakazanych narzędzi zamiast listy dozwolonych. Nowe narzędzia AI pojawiają się co tydzień. Lista zakazów jest nieaktualna w dniu publikacji.
• Blokada na firewallu jako całość strategii. Blokuje ruch z laptopa w biurze. Nie blokuje telefonu prywatnego, na którym ludzie i tak robią zrzut ekranu z dokumentu.
• Brak rejestru systemów AI. Jeśli nie wiesz, gdzie w firmie działa AI, nie odpowiesz na pytanie kontrolującego ani na pytanie klienta o to, czy jego dane były przetwarzane przez model. Inwentaryzacja to pierwszy element, który sprawdzamy w audycie AI.

Od czego zacząć

Zadaj sobie jedno pytanie: gdyby jutro klient zapytał, czy treść jego umowy trafiła kiedykolwiek do publicznego narzędzia AI — czy potrafisz odpowiedzieć czymś więcej niż „raczej nie”? Jeśli nie, to jest dokładnie ten problem, który tu opisujemy, i zamyka się go w cztery tygodnie.

Robimy inwentaryzację użycia AI, dobieramy narzędzia firmowe do realnych zadań zespołu i piszemy politykę, która ma jedną stronę i jest przestrzegana. Jeśli chcesz zacząć od rozmowy o tym, jak to wygląda u Ciebie — umów bezpłatną konsultację. Zakres naszej pracy przy konsultingu i wdrożeniach AI opisaliśmy osobno.

Uwaga na koniec: to jest przewodnik operacyjny, nie porada prawna. Umowę powierzenia przetwarzania i ocenę skutków dla ochrony danych warto przejrzeć z prawnikiem — ale dopiero po tym, jak wiadomo, z czego zespół faktycznie korzysta.