2 dni temu
System AI, który sprawnie klasyfikuje zgłoszenia klientów albo tworzy opisy produktów, może jednocześnie przetwarzać dane osobowe bez adekwatnej podstawy, utrwalać uprzedzenia w danych treningowych lub korzystać z materiałów objętych prawem autorskim. Dlatego przykład audytu AI nie powinien być traktowany jako techniczna checklista dla działu IT. Jest to narzędzie governance, które pozwala zarządowi wykazać, iż zna sposób działania systemu, potrafi ocenić jego ryzyka i wdraża odpowiednie środki kontroli.
Poniżej przedstawiono modelowy audyt systemu generatywnej AI używanego przez polską spółkę e-commerce. Przykład ma charakter edukacyjny, ale jego logikę można zastosować również w fintechu, HR, sektorze kreatywnym czy usługach profesjonalnych. Zakres badania zawsze należy dostosować do faktycznej funkcji systemu, rodzaju danych oraz roli przedsiębiorcy w łańcuchu dostaw AI.
Kiedy audyt AI jest potrzebny
Audyt jest zasadny przed wdrożeniem narzędzia, po istotnej zmianie jego funkcji, po incydencie bezpieczeństwa oraz okresowo w ramach kontroli compliance. W praktyce szczególnej uwagi wymagają rozwiązania, które wpływają na decyzje dotyczące osób fizycznych, wykorzystują dane szczególnych kategorii, są zintegrowane z systemami firmowymi albo generują treści publikowane na zewnątrz.
Nie każde użycie modelu językowego oznacza automatycznie ten sam poziom obowiązków. Inaczej należy ocenić wewnętrznego asystenta redakcyjnego, a inaczej system punktujący kandydatów do pracy, analizujący zdolność kredytową lub wspierający kwalifikację medyczną. Znaczenie ma również to, czy firma jest dostawcą systemu AI, podmiotem stosującym, importerem, dystrybutorem czy jedynie klientem dostawcy usługi.
Punktem odniesienia będą zwłaszcza rozporządzenie AI Act, RODO, przepisy o ochronie konsumentów, prawo autorskie, tajemnica przedsiębiorstwa oraz regulacje sektorowe. Samo zapewnienie dostawcy, iż narzędzie jest „zgodne z AI Act”, nie zastępuje oceny konkretnych procesów w organizacji.
Przykład audytu AI: system do obsługi e-commerce
Spółka „MarketPro” prowadzi platformę sprzedażową. Jej dział marketingu wdrożył zewnętrzne narzędzie oparte na generatywnej AI do tworzenia opisów produktów, odpowiedzi na pytania klientów i propozycji kampanii reklamowych. System jest zasilany katalogiem produktów, historią zgłoszeń do działu obsługi oraz wewnętrzną bazą wiedzy.
Zarząd zlecił audyt po tym, jak pracownik wykrył, iż w odpowiedzi wygenerowanej dla klienta pojawił się fragment korespondencji dotyczącej innego zamówienia. Nie przesądza to jeszcze o naruszeniu ochrony danych osobowych, ale stanowi wyraźny sygnał, iż kontrola dostępu, retencja danych i konfiguracja narzędzia wymagają weryfikacji.
1. Karta systemu i ustalenie odpowiedzialności
Audyt rozpoczyna się od sporządzenia karty systemu. Dokument powinien wskazywać nazwę narzędzia, dostawcę, wersję modelu, właściciela biznesowego po stronie spółki, administratora technicznego oraz opis dopuszczalnych zastosowań. Należy też ustalić, czy dane przekazywane do systemu są wykorzystywane przez dostawcę do trenowania modelu i gdzie odbywa się ich przetwarzanie.
W analizowanym przypadku ustalono, iż umowę zawarł dział marketingu bez formalnego udziału działu prawnego i inspektora ochrony danych. Brakowało rejestru użytkowników, instrukcji dotyczącej formułowania promptów oraz procedury zatwierdzania treści publikowanych klientom. Już na tym etapie audyt wykazał problem organizacyjny: firma wdrożyła technologię, ale nie przypisała odpowiedzialności za jej legalne i bezpieczne użycie.
2. Mapa danych i ocena RODO
Kolejny etap obejmuje przepływ danych. Audytor ustala, jakie dane trafiają do systemu, skąd pochodzą, kto ma do nich dostęp, jak długo są przechowywane i czy są przekazywane poza Europejski Obszar Gospodarczy. Warto rozróżnić dane wejściowe, dane generowane przez system, logi, metadane oraz dane wykorzystywane do testów.
W „MarketPro” do promptów wprowadzano numery zamówień, imiona klientów, adresy dostaw i treść reklamacji. Część tych informacji nie była konieczna do tworzenia opisów produktów. Audyt zalecił zatem zasadę minimalizacji: system marketingowy ma otrzymywać dane pseudonimizowane lub zanonimizowane, a pełne dane klienta mogą być przetwarzane wyłącznie w wyodrębnionym procesie obsługi reklamacji.
Należy również zbadać podstawę prawną przetwarzania, relację administrator – podmiot przetwarzający, treść umowy powierzenia oraz mechanizm transferu danych. o ile narzędzie wspiera decyzje wywołujące skutki wobec osoby, konieczna jest odrębna analiza art. 22 RODO. W zależności od skali i ryzyka może być potrzebna ocena skutków dla ochrony danych, czyli DPIA.
3. Kwalifikacja ryzyka według AI Act
AI Act opiera się na podejściu opartym na ryzyku. W opisanym przykładzie narzędzie marketingowo-informacyjne co do zasady nie jest systemem wysokiego ryzyka tylko dlatego, iż korzysta z generatywnej AI. Nie zwalnia to jednak spółki z obowiązków związanych z kompetencjami personelu, przejrzystością, dokumentacją i nadzorem nad użyciem systemu.
Audyt powinien odpowiedzieć na pytanie, czy funkcje systemu nie wykraczają poza deklarowane zastosowanie. Gdyby „MarketPro” wykorzystała ten sam mechanizm do automatycznej oceny wiarygodności klientów, wykrywania emocji pracowników lub selekcji kandydatów, ocena prawna zmieniłaby się istotnie. Kwalifikacja nie zależy od marketingowej nazwy produktu, ale od rzeczywistego celu i kontekstu jego wykorzystania.
W raporcie wskazano także potrzebę wdrożenia polityki AI literacy. Osoby korzystające z narzędzia muszą rozumieć jego ograniczenia: model może halucynować, powielać błędne dane, ujawniać elementy kontekstu oraz tworzyć treści pozornie wiarygodne. Szkolenie nie powinno ograniczać się do instrukcji obsługi. Powinno obejmować zasady ochrony danych, tajemnicy przedsiębiorstwa i weryfikacji faktów.
4. Prawo autorskie, znaki towarowe i tajemnica przedsiębiorstwa
W systemach generatywnych audyt nie może kończyć się na danych osobowych. Trzeba ustalić, jakie materiały firma przekazuje do modelu i czy ma prawo ich używać w takim celu. Katalogi produktowe, zdjęcia, projekty graficzne, kody źródłowe, prezentacje inwestorskie i analizy handlowe mogą być chronione prawem autorskim, prawami pokrewnymi albo tajemnicą przedsiębiorstwa.
W przypadku „MarketPro” pracownicy przesyłali do narzędzia opisy przygotowane przez zewnętrznych copywriterów. Umowy nie przewidywały wprost wykorzystania tych materiałów do trenowania lub zasilania zewnętrznego systemu AI. Audyt zalecił przegląd postanowień licencyjnych oraz wyraźne rozróżnienie między użyciem materiału jako kontekstu roboczego a jego udostępnieniem dostawcy na potrzeby rozwijania modelu.
Ryzyko dotyczy też wyniku generowania. Opis lub grafika mogą niechcący naśladować cudzy utwór, znak towarowy albo styl komunikacji konkurenta. Przed publikacją potrzebna jest kontrola człowieka, zwłaszcza gdy treść dotyczy produktów regulowanych, promocji finansowych albo deklaracji o adekwatnościach towaru.
Wnioski z raportu i plan naprawczy
Dobry raport nie poprzestaje na stwierdzeniu, iż ryzyko istnieje. Powinien wskazać właściciela działania, termin realizacji, priorytet i sposób weryfikacji wykonania. W omawianym przykładzie ryzyka podzielono na krytyczne, wysokie, średnie i niskie.
Za krytyczne uznano możliwość wprowadzania do publicznego narzędzia danych klientów oraz brak pewności, czy dostawca wykorzystuje je do trenowania modelu. Działanie naprawcze obejmowało natychmiastowe ograniczenie dostępu, zmianę konfiguracji retencji i zawarcie adekwatnej dokumentacji powierzenia. Ryzyko wysokie stanowił brak kontroli merytorycznej nad odpowiedziami dla klientów. Spółka wprowadziła więc zatwierdzanie treści przez pracownika i zakaz automatycznego wysyłania odpowiedzi w sprawach reklamacyjnych.
Raport powinien również odnotować ryzyka akceptowane świadomie przez zarząd. Nie istnieje audyt, który usunie wszystkie błędy modeli generatywnych. Chodzi o to, by organizacja potrafiła uzasadnić, dlaczego dany poziom ryzyka jest dopuszczalny, jakie zastosowała zabezpieczenia i kiedy ponownie oceni sytuację.
Największą wartością audytu nie jest dokument przygotowany do szuflady. Jest nią decyzja, iż system AI pozostaje pod kontrolą organizacji także po wdrożeniu – wtedy, gdy zmienia się model, dostawca, zakres danych lub sposób użycia przez pracowników.
