Poza vibe codingiem: jak szybko i bezpiecznie skalować aplikacje biznesowe w erze agentów AI

Sztuczna inteligencja radykalnie skróciła drogę od pomysłu do działającej aplikacji, ale wraz z rosnącym tempem tworzenia rozwiązań coraz większego znaczenia nabierają bezpieczeństwo, kontrola i ich późniejsze utrzymanie. Vibe coding świetnie sprawdza się tam, gdzie liczy się szybkie prototypowanie, jednak w środowisku biznesowym sama szybkość nie wystarcza. Skalowanie wymaga bowiem architektury, która łączy możliwości agentów AI z przewidywalną orkiestracją procesów, audytowalnością i jasno określonymi zasadami nadzoru. W publikacji „Beyond Vibe Coding” Capgemini pokazuje, dlaczego w erze agentów AI przewagę zyskają firmy, które potrafią nie tylko szybciej tworzyć aplikacje, lecz także bezpiecznie nimi zarządzać i rozwijać je w całym cyklu życia.

Rosnąca popularność narzędzi opartych na generatywnej sztucznej inteligencji zmienia przede wszystkim początek cyklu tworzenia oprogramowania. Zamiast tygodni potrzebnych na przygotowanie pierwszej wersji rozwiązania, zespoły mogą dziś w krótkim czasie przejść od opisu potrzeby biznesowej do działającego prototypu. Według przywołanych w publikacji analiz wykorzystanie AI może przynieść od 30 do 50 proc. oszczędności pracy na wcześniejszych etapach rozwoju aplikacji. Problem pojawia się później: wdrożenie, bieżące działanie i dalszy rozwój systemu wymagają kompetencji oraz mechanizmów, których samo generowanie kodu nie zapewnia. To właśnie na tych etapach przypada około 70 proc. pięcioletniego całkowitego kosztu posiadania aplikacji.

Szybkość ma jednak swoją drugą stronę. Badanie Veracode wskazuje, że w 45 proc. analizowanych przypadków kod generowany przez AI zawierał luki bezpieczeństwa. Modele szczególnie słabo radziły sobie z zabezpieczeniem przed powszechnymi atakami, takimi jak cross-site scripting (XSS) czy log injection. Inne przywołane analizy zwracają uwagę m.in. na ujawnianie danych uwierzytelniających, braki w zabezpieczeniach czy niebezpieczne ustawienia domyślne. Nie oznacza to, że firmy powinny zrezygnować z vibe codingu. Przeciwnie – jego potencjał warto wykorzystywać tam, gdzie przynosi największą wartość, ale w ramach procesu, który przed wejściem na produkcję zapewnia odpowiednią kontrolę.

— Vibe coding pozwala radykalnie przyspieszyć moment, w którym pomysł staje się czymś namacalnym i możliwym do przetestowania. W dużej organizacji nie możemy jednak oceniać technologii wyłącznie przez pryzmat tego, jak szybko powstała pierwsza wersja aplikacji. Liczy się również to, czy za dwa, trzy albo pięć lat będzie można ją bezpiecznie zmienić, audytować i rozwijać bez mnożenia ryzyka oraz kosztów — mówi Michał Kret, Chief of AI Engineering w Capgemini Polska.

Stawka rośnie jeszcze bardziej, gdy sztuczna inteligencja przestaje jedynie pomagać w tworzeniu oprogramowania, a zaczyna działać bezpośrednio w procesach biznesowych. Gartner prognozuje, że do końca 2026 roku 40 proc. aplikacji korporacyjnych będzie zintegrowanych z wyspecjalizowanymi agentami AI. Jednocześnie ponad 40 proc. projektów agentowych ma zostać anulowanych do końca 2027 roku z powodu rosnących kosztów, niejasnej wartości biznesowej lub niewystarczających mechanizmów kontroli.

Dlatego kluczowe staje się rozróżnienie między AI wykorzystywaną podczas tworzenia systemu a tą, która działa już w jego środowisku produkcyjnym. W pierwszym przypadku błąd można wychwycić podczas testów i przeglądu. W drugim konsekwencje niewłaściwej decyzji mogą dotknąć klienta, procesu regulowanego, wyniku finansowego czy reputacji organizacji. Odpowiedzią jest architektura, w której swoboda działania agentów ma jasno wyznaczone granice, a ich decyzje pozostają obserwowalne i możliwe do odtworzenia.

Przyszłość nie należy ani wyłącznie do tradycyjnego kodu, ani do platform low-code, ani do samodzielnych agentów. Skalowalny model łączy te światy.

Systemy ewidencyjne nadal przechowują wiarygodny stan danych i transakcji, warstwa orkiestracji odpowiada za przebieg procesów, decyzje i ścieżki audytowe, natomiast agenci AI włączają się w tych miejscach, w których rzeczywiście potrzebne są interpretacja kontekstu, rekomendacja czy obsługa wyjątków. Nad całością powinien działać „agent control plane”, zapewniający m.in. zarządzanie tożsamością, politykami, obserwowalnością oraz kosztami.

Takie podejście pozwala wykorzystać niedeterministyczność sztucznej inteligencji tam, gdzie stanowi ona zaletę, bez rezygnacji z przewidywalności w działaniach, które muszą przebiegać według określonych zasad. Szczególnego znaczenia nabiera to w bankowości, ubezpieczeniach, telekomunikacji i sektorze publicznym, gdzie automatyzacja obejmuje procesy wpływające bezpośrednio na klientów, finanse lub decyzje podlegające regulacjom.

Wraz ze wzrostem wykorzystania AI zmienia się również sposób myślenia o jej ekonomii. Sam koszt pojedynczego wywołania modelu niewiele mówi o wartości biznesowej rozwiązania. W środowisku wieloagentowym każde kolejne zapytanie, ponowienie, użycie narzędzia czy przekazanie zadania innemu agentowi zwiększa zużycie zasobów, a tym samym utrudnia przewidywanie wydatków.

Dlatego Capgemini wskazuje na trzy coraz istotniejsze miary: koszt interakcji, koszt utrzymania agenta oraz koszt osiągnięcia konkretnego rezultatu biznesowego – na przykład zamknięcia sprawy, rozpatrzenia roszczenia czy rozwiązania reklamacji.

W tym modelu FinOps dla AI służy nie tylko ograniczaniu wydatków, ale przede wszystkim ich przypisywaniu do konkretnych zespołów i zastosowań oraz ocenie, czy zużycie zasobów rzeczywiście przekłada się na wartość.

— Dojrzałość w wykorzystaniu AI nie będzie polegała na uruchamianiu coraz większej liczby agentów. Przewagę zyskają organizacje, które potrafią świadomie zdecydować, gdzie potrzebne jest rozumowanie AI, a gdzie prostsza i tańsza automatyzacja daje równie dobry lub lepszy rezultat. Ostatecznie zarząd nie powinien pytać, ile tokenów zużyliśmy, lecz jaki efekt biznesowy dzięki nim osiągnęliśmy — podkreśla Michał Kret, Chief of AI Engineering w Capgemini Polska.

Pełna autonomia nie powinna być punktem wyjścia. Capgemini proponuje pięciostopniowy model – od agenta, który jedynie wspiera człowieka rekomendacją, przez wykonywanie działań po akceptacji lub pod nadzorem, aż po autonomiczne decyzje w ściśle określonych warunkach. Pełna samodzielność pozostaje rozwiązaniem zarezerwowanym dla dobrze zdefiniowanych, niskiego ryzyka scenariuszy. Większość wdrożeń powinna rozpoczynać się na poziomie 1 lub 2 i w pierwszym roku nie wychodzić poza poziom 3.

W praktyce oznacza to rozszerzanie zakresu użycia AI przed pogłębianiem stopnia autonomii. Zamiast dążyć do jednego w pełni samodzielnego agenta, organizacja może osiągnąć większą wartość dzięki kilku rozwiązaniom wspierającym różne procesy, których działanie pozostaje przejrzyste, mierzalne i odwracalne.

Pierwszym krokiem dla liderów powinno być jasne określenie, które zastosowania wymagają działania na zarządzanej platformie, które mogą powstawać jako kod wspierany przez AI, a które powinny pozostać eksperymentami projektowymi. Kolejnym – wybór jednego istotnego, najlepiej regulowanego procesu jako wdrożenia referencyjnego oraz mierzenie od początku zarówno efektów biznesowych, jak i ryzyka. Równolegle warto budować mechanizmy kontroli, zanim liczba agentów zacznie szybko rosnąć.

Najważniejsza zmiana dotyczy więc nie samego sposobu pisania kodu, lecz sposobu projektowania i prowadzenia całego środowiska aplikacyjnego. W kolejnej dekadzie o przewadze nie zdecydują organizacje generujące najwięcej kodu, ale te, które potrafią skutecznie orkiestrować decyzje, nadzorować agentów i stale dostosowywać procesy biznesowe do zmieniających się potrzeb.