Bruksela nie chce już tylko pilnować tego, co platformy pokazują użytkownikom. Coraz uważniej patrzy na to, jak aplikacje są projektowane. Na celowniku są media społecznościowe, nieskończone przewijanie, algorytmy rekomendacji, a choćby chatboty AI.
Przez lata dyskusja o regulowaniu internetu kręciła się przede wszystkim wokół treści. Dezinformacja, mowa nienawiści, moderacja, reklamy polityczne, ochrona danych osobowych. Teraz Unia Europejska zabiera się za coś znacznie bardziej fundamentalnego: samą konstrukcję usług cyfrowych.
Jak opisuje Bloomberg, europejscy regulatorzy kierują uwagę na rozwiązania projektowane tak, żeby użytkownik spędzał w aplikacji jak najwięcej czasu. Chodzi między innymi o nieskończone przewijanie, automatyczne odtwarzanie kolejnych materiałów, powiadomienia, systemy rekomendacji oraz mechanizmy podtrzymujące zaangażowanie w usługach opartych na AI.
Komisja Europejska już teraz uznała w swoich wstępnych ustaleniach, iż uzależniająca konstrukcja TikToka, a później także Facebooka i Instagrama, może naruszać unijny Akt o usługach cyfrowych, czyli DSA. Regulator wymienia przy tym bardzo konkretne elementy interfejsu: infinite scroll, autoplay, powiadomienia push i mocno spersonalizowane systemy rekomendacji.
Nieskończony scroll trafia pod lupę
Każdy, kto choć raz odpalił TikToka „na pięć minut”, a pół godziny później zastanawiał się, gdzie podział się czas, doskonale zna mechanizm, którym interesują się europejscy regulatorzy. W klasycznym internecie naturalnych punktów zatrzymania było sporo. Kończył się artykuł, trzeba było kliknąć „następna strona”. Film się kończył. Forum miało kolejne podstrony. Mam na myśli to, iż użytkownik dostawał moment, w którym mógł zdecydować, czy naprawdę chce jeszcze surfować. Feed współczesnej platformy społecznościowej takiego momentu często nie daje.
TikTokKomisja Europejska zwraca uwagę właśnie na tego rodzaju konstrukcję. W przypadku TikToka stwierdziła wstępnie, iż połączenie nieskończonego przewijania, autoodtwarzania, powiadomień i wysoce spersonalizowanego systemu rekomendacji może sprzyjać kompulsywnemu korzystaniu z usługi i ograniczać samokontrolę użytkownika. Regulator wskazał również, iż znaczenie może mieć choćby czas, jaki nieletni spędzają w aplikacji nocą, oraz częstotliwość jej otwierania.
W ocenie regulatora obecne narzędzia zarządzania czasem i kontroli rodzicielskiej w TikToku mogą być niewystarczające. Limity można łatwo zignorować, a mechanizmy rodzicielskie wymagają dodatkowego czasu i wiedzy od rodziców. Komisja wskazuje więc znacznie dalej idące rozwiązania, w tym wyłączanie nieskończonego przewijania po określonym czasie, skuteczniejsze przerwy w korzystaniu z aplikacji, również nocą, i zmiany w sposobie działania rekomendacji.
Facebook i Instagram też dostały po łapach. Jest bardzo podobnie jak u TikToka
Meta nie pozostała poza uwagą. Komisja Europejska poinformowała o wstępnym uznaniu uzależniającego projektu Facebooka oraz Instagrama za naruszający DSA. Tu ponownie wymieniono infinite scroll, autoplay, powiadomienia oraz silnie spersonalizowane rekomendacje. Według Komisji Meta nie uwzględniła w wystarczającym stopniu zagrożeń dla zdrowia fizycznego i psychicznego użytkowników, w tym dzieci oraz osób szczególnie narażonych. Regulator wskazał także na nocną aktywność nieletnich oraz sposób optymalizowania Reelsów i Stories pod kątem korzystania z usług.
InstagramW przypadku Facebooka i Instagrama narzędzia kontroli czasu można według Komisji zbyt łatwo odrzucić. Kontrola rodzicielska wymaga z kolei od opiekunów wystarczającej wiedzy technicznej oraz czasu potrzebnego na jej konfigurację. choćby odsyłanie użytkowników do informacji i materiałów dotyczących zdrowia psychicznego nie zostało przez regulatora uznane za wystarczającą odpowiedź na problem konstrukcji samej usługi.
W swoich ustaleniach dotyczących Mety Komisja sugeruje między innymi możliwość domyślnego wyłączenia autoodtwarzania i nieskończonego przewijania, skuteczniejszych przerw ekranowych oraz dostosowania systemu rekomendacji tak, aby był mniej skoncentrowany na maksymalizacji zaangażowania.
AI też trafiło na listę
Proponowany przez Komisję Europejską EU KIDS Act obejmuje nie tylko social media i platformy wideo, ale również gry online, AI i chatboty. W przypadku usług używanych przez nieletnich mechanizmy mogące sprzyjać nadmiernemu korzystaniu, takie jak endless scroll, mechaniki nagród czy powiadomienia wysyłane w godzinach snu, mają podlegać dodatkowym ograniczeniom. Co więcej, chatboty i tzw. AI companions mają być dla dzieci domyślnie wyłączone. Projekt zakłada również ograniczenie zachowań mogących prowadzić do emocjonalnego uzależniania dzieci od takiej usługi.
Łatwo sprowadzić sprawę do kolejnej rundy starcia „Bruksela kontra Big Tech”. Byłoby to jednak spore uproszczenie. o ile europejskie podejście zostanie utrzymane to regulacji może zacząć podlegać nie tylko polityka moderacyjna platform, ale również konkretne decyzje produktowe projektantów oprogramowania.
FacebookCzy kolejny materiał powinien uruchamiać się automatycznie? Czy feed powinien mieć koniec? Jak agresywnie wolno optymalizować rekomendacje pod zaangażowanie? Czy powiadomienie może próbować odzyskać użytkownika, który od kilku godzin nie uruchomił aplikacji? Czy chatbot powinien nakłaniać człowieka do dalszej interakcji? Gdzie kończy się zwyczajnie dobry UX, a zaczyna manipulowanie użytkownikiem? Na część z tych pytań nie ma prostej odpowiedzi.
Próba całkowitego usunięcia mechanizmów zwiększających zaangażowanie prowadziłaby przecież do absurdu. Cała branża internetowa projektuje produkty w taki sposób, żeby ludzie chcieli z nich korzystać. Dobry serial ma zachęcać do kolejnego odcinka, gra do kolejnej sesji, komunikator do odpowiedzi na wiadomość, a aplikacja informacyjna do przeczytania następnego tekstu. Problem pojawia się wtedy, gdy maksymalizowanie czasu użytkownika staje się nadrzędnym celem systemu, a naturalne punkty pozwalające przerwać korzystanie są konsekwentnie usuwane. I właśnie tę granicę próbuje dziś wyznaczyć Europa.
To nie pozostało wyrok na infinite scroll
W tym miejscu potrzebne jest jednak ważne zastrzeżenie. Część działań regulatora znajduje się dopiero na etapie wstępnych ustaleń, a EU KIDS Act pozostaje propozycją legislacyjną, która musi przejść przez proces polityczny w Parlamencie Europejskim i Radzie. Nie należy więc interpretować obecnych doniesień jako informacji, iż za chwilę wszystkie europejskie telefony stracą infinite scroll, a Instagram po dziesięciu Rolkach pokaże napis „idź na spacer”. Kierunek zmian jest jednak trudny do przeoczenia.
Najpierw europejskie regulacje skupiały się mocno na danych osobowych. Później na pozycji rynkowej największych platform, dostępie do danych, moderacji i odpowiedzialności za nielegalne treści. Teraz coraz mocniej schodzą poziom niżej, do samego projektu aplikacji oraz systemów rekomendacyjnych. To może okazać się znacznie bardziej odczuwalne dla przeciętnego użytkownika niż kolejny regulamin na kilkadziesiąt stron.
Jest w tej historii pewna ironia. Przez ostatnich kilkanaście lat największe firmy technologiczne wydały gigantyczne pieniądze i zatrudniły armię projektantów, analityków i inżynierów, aby usuwać tarcie z cyfrowych produktów. Kliknięcie zastąpił gest. Kolejną stronę zastąpił nieskończony feed. Wybieranie następnego filmu zastąpił autoplay. manualne wyszukiwanie treści zastąpiła personalizacja. Wszystko miało być płynniejsze, szybsze i wygodniejsze. Teraz europejski regulator dochodzi do wniosku, iż w pewnych sytuacjach odrobina tarcia może być potrzebną funkcją, a nie wadą.
Jeżeli stanowisko Komisji Europejskiej przetrwa kolejne etapy legislacyjne i postępowania przeciwko największym platformom to branża technologiczna może zostać zmuszona do zakwestionowania jednej ze swoich najważniejszych obsesji: zaangażowanie użytkownika nie zawsze musi być maksymalizowane. Z optymizmem trzymam kciuki.
*Zdjęcie otwierające wygenerowane dzięki AI
