Każda umowa, pismo procesowe, dokumentacja kadrowa czy zgłoszenie klienta zawiera dane osobowe: imiona, PESEL-e, adresy, numery kont, dane zdrowotne. Wklejenie takiego dokumentu do publicznego chatbota to przekazanie danych osobowych podmiotowi trzeciemu — często poza EOG — bez podstawy prawnej i bez umowy powierzenia. Dla działu prawnego to incydent. Dla zarządu — ryzyko kary i utraty zaufania klientów.
Efekt jest paradoksalny: firmy, które najwięcej zyskałyby na AI (kancelarie, ośrodki medyczne, działy HR, biura rachunkowe), korzystają z niego najmniej — albo, co gorsza, pracownicy korzystają „po cichu", poza jakąkolwiek kontrolą. Według badań branżowych zjawisko shadow AI dotyczy znaczącej części organizacji, a dział IT zwykle dowiaduje się o nim ostatni.