Miasto troskliwe, ale nie wszechwiedzące

Z Michałem Kuszewskim, inicjatorem powstania „Warszawskiego Kodeksu GenAI” oraz „Kierunków odpowiedzialnego wykorzystania generatywnej sztucznej inteligencji w Urzędzie m.st. Warszawy”, rozmawia Bogna Świątkowska

Bogna Świątkowska: Był pan inicjatorem powstania dwóch dokumentów opublikowanych w styczniu 2025 r. dotyczących odpowiedzialnego wykorzystywania generatywnej sztucznej inteligencji w kontekście miejskim, które do dziś pozostają pionierskie i wyjątkowe na mapie Polski. Nie zostały jednak przyjęte ani zarządzeniem prezydenta, ani uchwałą Rady Miasta. Czym więc właściwie są?

Michał Kuszewski: Ogłosiliśmy je jako kierunki odpowiedzialnego działania. Zależało nam, żeby pozostały otwarte i mogły szybko reagować na zmiany. Od początku wiedzieliśmy, że technologia będzie się rozwijać, a wraz z nią dokument będzie wymagał aktualizacji.

żródło: https://um.warszawa.pl/waw/kierunki-ai

BŚ: Skoro te dokumenty nie mają formalnej mocy, czy ktokolwiek ma obowiązek ich przestrzegać? I co faktycznie zmieniły w działaniu urzędu?

MK: Dokument nie jest aktem prawa miejscowego, a działał przez szkolenia, kryteria dopuszczania narzędzi i pracę grupy międzybiurowej. Najważniejszym rezultatem było uruchomienie wewnątrz urzędu wspólnego namysłu nad zupełnie nowym zagadnieniem. Musieliśmy je zrozumieć, wypracować własne stanowisko i zastanowić się, jak przekładać ogólne zasady na codzienną pracę. Dokument zainteresował też inne samorządy. Zwracały się do nas miasta z Polski i Europy, które przygotowywały podobne rozwiązania albo dopiero zastanawiały się od czego zacząć.

Miasta są w trudnym położeniu. Regulacje powstają na poziomie unijnym i państwowym, a ich wdrażanie trwa, natomiast samorząd już dziś styka się bezpośrednio z mieszkańcami, organizacjami i partnerami, którzy oczekują konkretnych odpowiedzi. Nie może więc czekać, aż wszystkie przepisy i procedury będą gotowe.

W Warszawie inicjatywa wyszła z urzędu i zmaterializowała się dzięki otwartości Wydziału Innowacji. Chcieliśmy podejść do AI odpowiedzialnie, a nie wdrażać ją na hurra. Administracja nie może działać jak wielka firma technologiczna: najpierw wypuścić rozwiązanie, a później naprawiać jego skutki. Pracuje przecież z niezwykle wrażliwą tkanką społeczną.

BŚ: Jeśli miasta mają większą swobodę niż administracja centralna, mogłyby tworzyć lokalne polityki i reagować szybciej niż ustawodawca na skokowy rozwój sztucznej inteligencji. Co stoi na przeszkodzie?

MK: Każde miasto wychodzi od innych doświadczeń i potrzeb. Jakiś czas temu rozmawiałem z przedstawicielami Poznania, który przygotowuje się do opracowania podobnego kodeksu. Poznań już intensywnie wykorzystuje rozwiązania oparte na AI, między innymi voiceboty do przekazywania komunikatów mieszkankom i mieszkańcom, ale jednocześnie zależy mu na przejrzystości tych działań.

Z mojego szybkiego przeglądu wynikało, że w Europie tylko kilka miast podjęło bardziej zdecydowane działania w tym obszarze. Każde miasto przyjęło inny model. Paryż postawił na konsultacje społeczne, Wiedeń na kompas wartości oparty na cyfrowym humanizmie, a Amsterdam na ograniczenie korzystania z zewnętrznych narzędzi i rozwój własnych rozwiązań. Pokazuje to, że wspólne europejskie przepisy nie prowadzą automatycznie do jednej miejskiej polityki.

żródło: https://um.warszawa.pl/waw/kierunki-ai

BŚ: Tempo działania i reagowania jest wyznaczane przez koncerny technologiczne spoza Europy, dysponujące ogromną przewagą kapitałową i technologiczną – czy to nie jest niepokojące?

MK: Mam wrażenie, że Europa nie jest w tej sytuacji całkiem bezbronna. Właśnie świadomość zagrożeń związanych ze sztuczną inteligencją doprowadziła do powstania AI Act. W urzędzie, zanim dopuścimy jakiekolwiek narzędzie, sprawdzamy między innymi, gdzie i w jaki sposób są przechowywane dane osobowe oraz czy pozostają na terenie Unii Europejskiej. Przez długi czas żadne z dostępnych rozwiązań nie spełniało tych wymagań. To spowolniło wdrożenia, ale jednocześnie skłoniło miejskie zespoły do szukania własnych, bezpieczniejszych rozwiązań.

BŚ: Jak to uniezależnianie się od narzędzi oferowanych przez największe firmy technologiczne wygląda w praktyce?

MK: Tutaj muszę od razu zastrzec, że odszedłem z urzędu z końcem czerwca 2026 roku, więc mogę opowiedzieć o stanie z tamtego momentu. Powstają niewielkie rozwiązania dostosowane do konkretnych zadań, rozwijane lokalnie albo działające w miejskiej infrastrukturze. Przykładem może być asystent Zarządu Dróg Miejskich, który ma pomagać w całodobowym udzielaniu informacji mieszkankom i mieszkańcom. Rozwijany był również bot Warszawa 19115, wspierający wyszukiwanie informacji, jednak zadbano by pozostała możliwość bezpośredniego połączenia z konsultantem.

Można również wykorzystywać modele otwarte, uruchamiane i dostosowywane lokalnie, bez przekazywania danych na zewnątrz. Takie rozwiązanie badał Zarząd Transportu Miejskiego, który chciał usprawnić obsługę dużej liczby zgłoszeń od mieszkanek i mieszkańców. System miał działać w lokalnej infrastrukturze, dzięki czemu dane pozostałyby pod kontrolą miasta i byłyby chronione zgodnie z RODO.

żródło: https://um.warszawa.pl/waw/kierunki-ai

BŚ: Etyka jest kluczowym elementem dokumentów opublikowanych przez Warszawę: określają one, w jaki sposób urzędnicy powinni posługiwać się narzędziami AI. Czy etyczne wykorzystanie AI przez urzędników nie jest tylko niewielkim fragmentem znacznie większego problemu?

MK: Oczywiście, że jest. Coraz więcej urządzeń i aplikacji nas śledzi i gromadzi nasze dane, choć przedstawia się to jako ułatwienie. Miasto stara się działać inaczej: pracować na danych zanonimizowanych i przestrzegać zasad RODO. Nie oznacza to, że naruszenie nigdy nie może się zdarzyć, ale istnieją reguły, które mają chronić mieszkanki i mieszkańców.

Warszawskie dokumenty miały stworzyć wspólną podstawę działania i pokazać, że miasto chce korzystać z AI odpowiedzialnie. Nie po to, żeby ograniczyć bezpośredni kontakt z mieszkańcami, lecz żeby automatyzować powtarzalne czynności i odzyskiwać czas na kontakt z człowiekiem.

BŚ: Z tego co pan mówi wynika, że mieszkaniec jest przedmiotem troski, ale czy jest też podmiotem, który ma prawa? Jak może dowiedzieć się, jakie dane komu udostępnia? Czy może dowiedzieć się czy w jego sprawie użyto AI? Co może zrobić, jeśli nie zgadza się ze sposobem wykorzystania technologii?

MK: Zacznijmy od tego, co już obowiązuje, bo mieszkaniec ma tu więcej narzędzi niż mu się wydaje. RODO chroni nas od 2018 roku i nie pyta, czy dane przetwarza człowiek, czy maszyna. Pyta po co, na jakiej podstawie i w jakim zakresie. Urząd musi to podać w klauzuli informacyjnej. Mieszkanka może też złożyć wniosek i dowiedzieć się, jakie dane na jej temat urząd posiada i komu je przekazał. Na taki wniosek trzeba odpowiedzieć.

Dalej jest art. 22 RODO. Rozstrzygnięcia wywołującego skutki prawne co do zasady nie można wydać w sposób wyłącznie automatyczny. Kodeks postępowania administracyjnego mówi to samo innym językiem. Pod pismem podpisuje się urzędnik i to on odpowiada za jego treść. Narzędzie może pomóc uporządkować, streścić, przygotować projekt. Odpowiedzialność zostaje po stronie człowieka. Mieszkaniec nigdy nie dostaje odpowiedzi od modelu.

Od 2 sierpnia działa art. 50 AI Act. Jeśli po drugiej stronie jest chatbot, mieszkaniec ma się o tym dowiedzieć przy pierwszej interakcji. Osobno oznaczane muszą być deepfake’i i teksty publikowane po to, by informować o sprawach interesu publicznego, chyba że sprawdził je człowiek i ktoś konkretny bierze za nie odpowiedzialność. Przepis nie każe stemplować każdego pisma, przy którym ktoś użył AI. Zakazuje udawać, że po drugiej stronie jest człowiek.

Zostaje wreszcie pytanie, co zrobić, kiedy mieszkaniec się z czymś nie zgadza. Zostaje skarga do PUODO, skarga w trybie administracyjnym, a od 28 października także skarga do nowej Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Te ścieżki istnieją niezależnie od tego, czy urząd użył AI, czy nie.

żródło: https://um.warszawa.pl/waw/kierunki-ai

BŚ: Prawo do cyfrowego miasta nie kończy się jednak na kontakcie z urzędem. Jak chronić mieszkańców przed śledzeniem przez telefony, aplikacje czy urządzenia działające w przestrzeni publicznej? Czy europejska ostrożność regulacyjna nie skazuje nas na technologiczne opóźnienie?

MK: Kiedy wychodzimy poza urząd, skala problemu rzeczywiście bardzo się rozszerza. Śledzą nas telefony, aplikacje, a także samochody mapujące miasta na potrzeby wielkich korporacji. Pojawiają się jednak europejskie alternatywy, takie jak francuski Le Chat czy fiński Jolla Phone – telefon oparty na Linuxie, projektowany z myślą o prywatności i ograniczeniu śledzenia.

Unijnym regulacjom często zarzuca się, że hamują rozwój technologii. Trwają prace nad pakietem Digital Omnibus, przedstawiany jako uproszczenie przepisów, ale w wersji, o której dziś się dyskutuje może z kolei osłabić część ochrony zapisanej w AI Act. Jak to się skończy, zobaczymy. Mimo to mam wrażenie, że europejskie działania idą w dobrym kierunku. Być może nie oferujemy dziś tylu technologicznych fajerwerków co państwa spoza Unii, ale regulacje przynoszą konkretne prawa. W Europie iPhone jest bardziej otwarty, ponieważ można instalować aplikacje także spoza sklepu Apple. Wzmacniane jest również prawo do naprawy urządzeń. Podobnie było wcześniej ze standardami dotyczącymi żywności.

Skupienie na etyce i odpowiedzialności może początkowo wyglądać jak spowolnienie. W dłuższej perspektywie daje nam jednak większą kontrolę nad technologią i możliwość korzystania z niej na własnych warunkach.

BŚ: Jak zatem rozumie pan prawo do cyfrowego miasta w praktyce? Jak powinno działać miasto, które wykorzystuje technologię, ale zaczyna od potrzeb mieszkańców?

MK: To trudne pytanie. Jestem zwolennikiem miasta niemal niewidocznego dla osób, które w nim mieszkają – takiego, z którego można po prostu korzystać. Wcześniej zajmowałem się partycypacją obywatelską, dlatego bezpośredni kontakt z mieszkankami i mieszkańcami zawsze był dla mnie bardzo ważny. Technologia powinna przede wszystkim ułatwiać to, co dziś jest nieczytelne, niezrozumiałe albo niepotrzebnie skomplikowane.

Kiedy badaliśmy dostępność narzędzi partycypacyjnych, okazało się, że problemem są już same ich nazwy. „Inicjatywa lokalna” jest świetnym instrumentem, ale dla wielu osób nie mówi nic konkretnego. Wspólnie z mieszkańcami, organizacjami pozarządowymi i pracownikami urzędu przygotowaliśmy więc publikację uporządkowaną według potrzeb: „chcesz coś zrobić w swojej okolicy” albo „szukasz wsparcia”. Dopiero później wskazywaliśmy odpowiednie narzędzie. To analogowy przykład, ale pokazuje zasadę, którą można zastosować także do nowych technologii: zaczynać od potrzeb mieszkańców, a nie od języka administracji czy możliwości systemu.

Kiedy odchodziłem, trwały prace nad chatbotem, który ma pomagać młodym osobom w kryzysie psychicznym szybko znaleźć dostępną pomoc, możliwie blisko miejsca zamieszkania. Centrum Aktywności Międzypokoleniowej testowało natomiast narzędzie wspierające konsultantki i konsultantów w wyszukiwaniu aktualnych informacji dla seniorek i seniorów. Kontakt pozostał bezpośredni – telefoniczny albo osobisty – a AI jedynie przyspieszała znalezienie właściwej odpowiedzi. Najbardziej interesują mnie właśnie takie niewielkie rozwiązania, odpowiadające na konkretną potrzebę.

żródło: https://um.warszawa.pl/waw/kierunki-ai

BŚ: Gdzie przebiega granica między sprawnym zarządzaniem miastem a kontrolowaniem jego mieszkańców?

MK: Niepokojące jest to, że nadzór wprowadza się pod hasłem naszego dobra i odwołuje do zasad, z którymi trudno się nie zgodzić. Jeżeli ktoś przechodzi na czerwonym świetle albo popełnia wykroczenie, powinien ponieść konsekwencje. Problem zaczyna się wtedy, gdy egzekwowanie reguł wymaga stałej obserwacji, a każdy krok konkretnej osoby może zostać zarejestrowany i odtworzony.

Nie oznacza to, że samo zbieranie danych musi być złe. Dzięki czujnikom można lepiej zarządzać zużyciem wody i energii albo wyłączać klimatyzację na pustym piętrze. Monitoring może również zwiększać bezpieczeństwo osoby starszej lub chorej – na przykład poinformować bliskich, że moja babcia upadła i potrzebuje pomocy. Nie chciałbym jednak, żeby bez wyraźnej potrzeby w ten sam sposób obserwowano mnie. O granicy decydują więc cel, proporcjonalność i zasady wykorzystania danych.

BŚ: Jaką ścieżkę powinny obrać polskie miasta, które chcą tworzyć własne polityki, strategie i dobre praktyki? Od czego powinny zacząć?

MK: Od testowania konkretnych rozwiązań na małą skalę i wymiany doświadczeń między miastami. Zakazywanie czy całkowite blokowanie narzędzi jest złą ścieżką, ponieważ prowadzi do zjawiska określanego jako shadow AI: jeśli pracownik nie może czegoś zrobić na służbowym komputerze, zrobi to na prywatnym telefonie, poza kontrolą urzędu.

Dlatego od początku mówiliśmy pracownikom: wiemy, że możecie chcieć korzystać z tych narzędzi, pokażemy więc, czego nie wolno do nich wprowadzać i dlaczego. Jasne reguły są skuteczniejsze niż sam zakaz.

Równie ważne jest wyjaśnienie, że technologia ma wspierać ludzi, a nie ich zastępować. Może przejąć część powtarzalnych i czasochłonnych czynności, żebyśmy mogli skupić się na tym, co wymaga wiedzy, relacji i odpowiedzialności. Jak w popularnym memie: chcielibyśmy, żeby AI zajęła się praniem i prasowaniem, zamiast tworzyć za nas obrazy. W mieście powinniśmy podobnie wybierać zadania, które naprawdę warto automatyzować.

BŚ: Powiedział pan, że jest zwolennikiem miasta niemal niewidocznego. Po czym mieszkaniec ma poznać, że technologia rzeczywiście mu służy?

MK: Po tym, że nie trzeba się zastanawiać, gdzie kliknąć, i że nie trzeba opowiadać swojej historii trzy razy w trzech okienkach. Technologia powinna ułatwiać to, co jest dziś nieczytelne, niezrozumiałe albo niepotrzebnie skomplikowane. Nie powinniśmy zaczynać od budowania jednego systemu, który obejmie całe miasto, lecz od rozwiązywania konkretnych problemów mieszkańców. AI może przejąć powtarzalne czynności po to, żeby odzyskać czas na kontakt człowieka z człowiekiem. Sprawdzianem nie jest liczba wdrożonych narzędzi, tylko liczba spraw, których mieszkaniec w ogóle nie musiał załatwiać.  Miasto powinno być niewidoczne dlatego, że nie stawia barier, a nie dlatego, że wszystko widzi.

Michał Kuszewski – architekt rozwiązań AI w Polskiej Grupie Lotniczej i niezależny ekspert ds. odpowiedzialnego zarządzania sztuczną inteligencją. Wcześniej pracował w Biurze Rozwoju Gospodarczego Urzędu m.st. Warszawy, gdzie zainicjował i koordynował opracowanie „Kierunków odpowiedzialnego wykorzystania generatywnej sztucznej inteligencji”. Łączy przygotowanie psychologiczne z doświadczeniem w projektowaniu UX, innowacji miejskich i administracji publicznej. W rozmowie wypowiada się we własnym imieniu.

Rozmowa ukazała się jako część #168 NN6T, temat numeru: Prawo do cyfrowego miasta, https://nn6t.pl/2026/06/30/nn6t-168-lipiec-wrzesien-2026/