2 godzin temu
Niemiecki gabinet przyjął projekt ustawy o zarządzaniu migracją dzięki sztucznej inteligencji, znanej jako KIMVG. Nowe przepisy mają usprawnić procedury wizowe i azylowe poprzez automatyczną analizę danych oraz weryfikację informacji w sieci. Propozycje resortu spraw wewnętrznych wywołały jednak natychmiastową krytykę organizacji pozarządowych, które wskazują na ryzyko błędów i naruszenie praw podstawowych.
Nowe narzędzia w rękach niemieckiej administracji
Rząd federalny pod koniec lipca przyjął projekt przepisów, które tworzą szeroką podstawę prawną do stosowania algorytmów w sprawach o pobyt i azyl. Ustawa wprowadza między innymi automatyczne monitorowanie procedur, które ma wykrywać schematy decyzyjne i przyspieszać pracę urzędów. W przypadkach budzących wątpliwości urzędnicy zyskają prawo do automatycznego porównywania oświadczeń wnioskodawców z publicznymi źródłami internetowymi oraz mediami społecznościowymi. Dodatkowo przepisy pozwalają na przetwarzanie danych osobowych migrantów w celu trenowania i testowania własnych systemów obliczeniowych. Oficjalnym celem tych zmian jest rozwiązanie problemu braków kadrowych oraz zwiększenie bezpieczeństwa i tempa procedur.
Poważne wątpliwości prawne i ryzyko systemowej dyskryminacji
Obrońcy praw człowieka oraz organizacje ochrony danych osobowych, takie jak Pro Asyl i Niemieckie Stowarzyszenie Ochrony Danych, zgłaszają liczne zastrzeżenia do projektu. Wskazują oni na zbyt szeroki zakres przetwarzania wrażliwych informacji, co może naruszać unijne rozporządzenie o ochronie danych osobowych oraz europejski akt o sztucznej inteligencji. Ponadto systemy mają być szkolone na bazie danych z Centralnego Rejestru Cudzoziemców, który jest powszechnie znany z licznych błędów i nieaktualnych wpisów. Krytycy ostrzegają ponadto, iż trenowanie algorytmów na wadliwych danych z przeszłości doprowadzi do powielania i utrwalania uprzedzeń oraz dyskryminujących stereotypów w przyszłych analizach.
Problem braku precyzji i ślepe zaufanie maszynom
Spora część krytyki dotyczy braku szczegółów technicznych oraz niebezpieczeństwa związanego z tak zwanym błędem automatyzacji. Choć resort spraw wewnętrznych zapewnia, iż ostateczna decyzja zawsze będzie należeć do człowieka, w praktyce urzędnicy mogą bezkrytycznie akceptować wyniki wygenerowane przez systemy. Projekt nie wyjaśnia, jak zapobiegać takiemu zjawisku ani jak adekwatnie przeszkolić personel do pracy z nowym oprogramowaniem. Pozostaje też długa lista pytań o przejrzystość procedur dla samych migrantów oraz o to, jak zautomatyzowane przeszukiwanie sieci wpłynie na prawo do prywatności osób ubiegających się o ochronę.
Etyka czarnej skrzynki. Czy wolno nam decydować o ludziach, gdy nie umiemy wyjaśnić decyzji modelu?
