5 min.
Część 2: Odpowiedzialność, ryzyko i „shadow code”
W drugiej części wywiadu Jarek Kuśmierek (Engineering Director Cloud Platform w Google Cloud) opowiada o odpowiedzialności za błędy generowane przez AI. Kto płaci najwyższą cenę za awarie? Jak mierzyć realny zwrot z inwestycji (ROI) w technologię i jak zachować unijną suwerenność cyfrową w ramach AI Act, nie rezygnując z globalnego wyścigu technologicznego?
theprotocol.it: Jeśli znacząca część kodu powstaje z pomocą AI, kto realnie bierze za niego odpowiedzialność? Developer, zespół, czy organizacja?
Jarek Kuśmierek: Podczas tworzenia zmian w kodzie, podstawową odpowiedzialność za jego jakość ponosi developer. To on definiuje zadanie dla AI i to na nim spoczywa obowiązek dokładnego przeanalizowania tego, co sztuczna inteligencja wygenerowała. Perspektywa zmienia się, gdy ta zmiana zostanie już włączona do wspólnego repozytorium , od tego momentu kod staje się częścią całego ekosystemu, a odpowiedzialność za niego przejmuje zespół i organizacja. Ważna jest tutaj zasada „Human-in-the-loop” – żadna linijka kodu nie powinna trafić do produkcji bez ludzkiej weryfikacji. Zmieniają się natomiast mechanizmy sprawowania tego nadzoru. W Google Cloud każdy agent AI posiada unikalną tożsamość, precyzyjnie zdefiniowane granice uprawnień oraz pełny zapis operacji (audit trail), co zapewnia pełną transparentność działań w ramach centralnego rejestru. Standardy te opieramy na metodologii Site Reliability Engineering (SRE) - dyscyplinie, którą sami stworzyliśmy i udostępniliśmy światu jako rynkowy standard operacyjny. W tym podejściu nie ma drogi na skróty: kod wygenerowany przez AI musi przejść przez te same rygorystyczne bramki jakości i testy bezpieczeństwa, co kod pisany przez człowieka, w tym szereg testów automatycznych, za które odpowiada szerszy zespół . Dopiero zachowanie takiego rygoru inżynieryjnego pozwala na bezpieczne wdrożenie rozwiązania w środowisku produkcyjnym.
theprotocol.it: Jakie nowe kompetencje stają się dziś kluczowe dla developerów pracujących z AI - czy są to bardziej umiejętności techniczne, czy miękkie (np. związane z krytycznym myśleniem)?
Jarek Kuśmierek: Kluczowe staje się krytyczne myślenie i umiejętność weryfikacji wyników dostarczanych przez AI pod kątem bezpieczeństwa i etyki, a także rozumienie jakie problem użytkownika rozwiązujemy i umiejętność przetłumaczenia tego na ogólny opis najlepszego rozwiązania problemu. Programiści muszą również opanować „sztukę weryfikacji” - umiejętność dostrzegania halucynacji AI oraz luk logicznych, które mogą wydawać się na pierwszy rzut oka poprawnym kodem. Oprócz biegłości technicznej, programiści muszą rozwijać kompetencje z zakresu projektowania doświadczeń użytkownika i empatii, aby tworzyć AI, które faktycznie pomaga ludziom i jest łatwe w użyciu. W naszej kulturze stawiamy na połączenie technicznego mistrzostwa z autentycznym przywództwem.
theprotocol.it: Czy regulacje takie jak AI Act mogą spowolnić rozwój technologii w Europie?
Jarek Kuśmierek: Regulacje nie muszą być barierą, jeśli są postrzegane jako ramy dla bezpiecznej innowacji. W Google Cloud wierzymy, że suwerenność cyfrowa to szansa na budowanie zaufania na rynku europejskim. Ważne jest uniknięcie „fałszywego wyboru” między autonomią a wzrostem – Europa może być liderem AI, korzystając z globalnych fundamentów przy jednoczesnym zachowaniu lokalnych standardów bezpieczeństwa i kontroli.
theprotocol.it: Z perspektywy dużej organizacji technologicznej - jakie są dziś największe ryzyka związane z wykorzystaniem AI w tworzeniu oprogramowania?
Jarek Kuśmierek: Największym ryzykiem jest brak pełnego zrozumienia generowanego kodu oraz potencjalne luki w bezpieczeństwie wprowadzane przez automatyzację. W Google Cloud adresujemy to poprzez dokładną kontrolę generowanego kodu (code review), automatyzację testów i wbudowane mechanizmy ochrony i wykorzystanie naszej unikalnej wiedzy o zagrożeniach (Mandiant, Wiz) bezpośrednio w narzędziach developerskich. Istnieje również ryzyko długu technicznego, jeśli szybkość tworzenia kodu przeważy nad dbałością o jego długofalową jakość.
theprotocol.it: Jakie są główne (o ile są?) różnice w podejściu i zastosowaniu AI w Europie i USA?
Jarek Kuśmierek: Na początku wspomniałbym, że zdecydowana większość aspektów jest taka sama. Jeśli jednak szukamy różnic, to USA często stawia na maksymalną szybkość i skalę innowacji, natomiast w Europie priorytetem jest suwerenność danych i zgodność z rygorystycznymi normami bezpieczeństwa. W Google Cloud wspieramy obydwa podejścia, oferując lokalne regiony chmurowe oraz dedykowane rozwiązania typu air-gapped dla najbardziej wrażliwych sektorów europejskiej gospodarki. Przykład z ubiegłego roku: w 2025 roku NATO i brytyjskie Ministerstwo Obrony wybrały Google Distributed Cloud, żeby uruchamiać AI w środowiskach air-gapped (czyli całkowicie odizolowanych od publicznego internetu) - bez kompromisu między innowacją a kontrolą.
theprotocol.it: Czy istnieje ryzyko, że zespoły zaczną wdrażać kod, którego tak naprawdę w pełni nie rozumieją?
Jarek Kuśmierek: Istnieje takie ryzyko, jeśli organizacja stawia szybkość ponad kulturę inżynieryjną. To zjawisko nazywamy „shadow code”, który działa, ale którego nikt nie potrafi naprawić, gdy coś pójdzie nie tak. W Google Cloud promujemy Technical Excellence - wierzymy, że AI powinno wspierać zrozumienie systemów poprzez ich analizę i wyjaśnienie, a nie tworzyć „czarne skrzynki”. Zrozumienie kodu pozostaje fundamentem odpowiedzialnego developmentu.
theprotocol.it: Jakie jest największe ryzyko vibe codingu?
Jarek Kuśmierek: Największym ryzykiem jest utrata precyzji i rygoru technicznego na rzecz efektownych, ale kruchych rozwiązań. Vibe coding bez solidnej architektury i bez odpowiedniego rygoru code reviews może prowadzić do powstawania systemów trudnych do skalowania i zabezpieczenia w krytycznych środowiskach korporacyjnych.
theprotocol.it: Dla kogo vibe coding jest dziś ułatwieniem, a dla kogo może być raczej utrudnieniem /zagrożeniem?
Jarek Kuśmierek: Jest to ogromne ułatwienie dla doświadczonych inżynierów, którzy mogą błyskawicznie realizować złożone wizje, oraz dla „nowych budowniczych” (new builders) wchodzących do świata IT. Zagrożeniem może być jednak dla osób, które polegają wyłącznie na AI bez zrozumienia fundamentów: dotyczy to zarówno samych niedoświadczonych pracowników, jak i liderów organizacji, którzy decydują się powierzyć strategiczne zadania osobom bez głębokiej wiedzy, licząc na to, że AI we wszystkim ich wyręczy. W środowiskach korporacyjnych błędy wynikające z braku precyzji mogą być bardzo kosztowne i trudne do usunięcia.
theprotocol.it: Jakie jest największe ryzyko (pod kątem bezpieczeństwa), związane z używaniem narzędzi AI do pisania kodu?
Jarek Kuśmierek: Jednym z największych zagrożeń jest nieumyślne wprowadzenie podatności lub wyciek danych poprzez wklejenie wrażliwych informacji do publicznych modeli AI. W Google Cloud eliminujemy te ryzyka, oferując prywatne, bezpieczne instancje AI, które chronią własność intelektualną firmy „by default”.
