Miasta zarządzane przez algorytmy — przyszłość dzieje się teraz
Polskie miasta, które na poważnie opierają rozwój zarządzania na danych, oraz budują programy typu Open Data, hurtownie danych albo demokratyzują do nich dostęp wewnątrz własnej administracji, można policzyć na placach dwóch rąk, metropolie na świecie gnają do przodu i starają się wychodzić naprzeciw kolejnym wyzwaniom.
W Nowym Yorku dostrzeżono rosnące znaczenie danych w łańcuchu decyzyjnym, istnienia skomplikowanej sieci wpływów wszelkich programów komputerowych sterujących już wszystkimi usługami publicznymi. Zarządzający miastem doszli do wniosku, że kwestie te wymagają ustanowienia osobnych przepisów i ciała nadzorującego.
Przyglądając się metropoliom i dużym miastom na świecie, coraz jaskrawiej widać, że zarządzanie jakimikolwiek usługami publicznymi od dostarczania wody, ciepła, po sterowanie ruchem ulicznym i transportem publicznym, jest już w ogromnej mierze skomputeryzowane. Metody zarządzania data driven, rozwiązania oparte na algorytmach, platformach IT, urządzeniach typu sensory, czujniki ingerują już praktycznie w każdą dziedzinę miejskiego życia. Dzięki komputeryzacji i sztucznej inteligencji, można realnie i na dużą skalę zarządzać problemami. Niesie to jednak ze sobą nowe, nieznane dotąd wyzwania i to nie tylko związane z bezpieczeństwem. Również algorytmy mają błędy, przez które zdarzają się poszkodowani. Miasta w USA mają osobne prawodawstwo, które w takim NYC ingeruje w praktycznie każdą dziedzinę życia (o wiele bardziej niż w Polsce, z czego większość rodaków nie zdaje sobie sprawy). Nowy Jork właśnie uznał, że musi rozszerzyć prawodawstwo o monitorowanie algorytmów komputerowych.
Rada Miasta Nowego Jorku jednogłośnie uchwaliła dwa tygodnie temu akt prawny, który powołuje grupę zadaniową, która z kolei doradzi politykom, urzędnikom, pracownikom miejskim, w jaki sposób monitorować, analizować i oceniać miejskie programy komputerowe, algorytmy.
Uchwała Rady Miasta NYC Prawo głosi, że powołana grupa zbada, oceni i wyda rekomendacje, w jaki sposób informacje na temat automatycznych systemów decyzyjnych poszczególnych miejskich agencji mogą być udostępniane społeczeństwu, oraz w jaki sposób jednostki miejskie mają traktować przypadki, w których użytkownicy, mieszkańcy są w ten czy inny sposób poszkodowani przez zautomatyzowane systemy decyzyjne.
Jest powszechną praktyką, że miasta mają swoje organy nadzoru nad każdą dziedziną swojego funkcjonowania, jednak wspomniana uchwała po raz pierwszy reguluje rutynowe monitorowanie kodu komputerowego pod kątem ewentualnych naruszeń zasad etycznych.
Chociaż algorytmy nie ulegają ludzkim błędom poznawczym i działają w pełni obiektywnie, to są jednak projektowane przez ludzi i ściśle podlegają wpływowi programistów wraz z wszystkimi pozytywnymi i negatywnymi stronami tego zjawiska.
Dyrektor wykonawcza jednostki NYCLU, która wdrażać będzie uchwałę, Donna Lieberman zwraca uwagę również na ważną kwestię: “Ponieważ algorytmy stają się wszechobecne, uchwała ta, stwarza miastu sposobność do zmierzenia się z krytycznymi pytaniami, które padają i padać będą, oraz posłuży do opracowania polityk promujących przejrzystość i zapobiegających nadużyciom”.
W Nowym Jorku algorytmy decydują np. o przyznaniu licencji na prowadzenie działalności gospodarczej, obliczenia budżetów, obsługują wnioski z 311, np. zgłoszenie graffiti do usunięcia.
“Wadliwy algorytm może doprowadzić do tego, że ktoś zostanie pozbawiony wolności bez ważnego powodu lub nie otrzyma świadczeń” stwierdziła radczyni prawna NYCLU, Rashida Richardson. “Ta uchwała jest pierwszą w USA, która przyjęła tak szerokie pojęcie problemu i kładzie nacisk na problemy związane z informatyzacją zarządzania. Algorytmy, które przynoszą korzyści społeczeństwu, muszą podlegać publicznej kontroli i mechanizmowi zaradzania niedoskonałościom i błędom “.
Chylę czoła przed podejmowaniem takich działań. Zdaję sobie sprawę jak trudne zadanie stoi przed powołaną grupą zadaniową. Efekty ich pracy posłużą wszystkim metropoliom na świecie jako rodzaj benchmarku. Wiem, jakie będą mieli trudności w ustaleniu zarówno sposobu monitorowania algorytmów jak dróg zarządzania najbardziej wrażliwymi danymi i krytycznymi usługami.
