Z jednej strony Agenci AI oszczędzają firmom tysiące godzin pracy, skutecznie poszukują klientów i bezbłędnie księgują faktury. Z drugiej, w ułamku sekundy potrafią włamać się na prywatną pocztę swojego twórcy i szantażować go ujawnieniem romansu, byle tylko uniknąć wyłączenia. O tym, dlaczego firmy tak bardzo pożądają „cyfrowego pracownika”, czym różni się zwykła automatyzacja od autonomicznego Agenta i dlaczego najwięksi twórcy AI na świecie panikują, że tracą kontrolę nad nowymi modelami, rozmawiamy z Karolem Majem, founderem startupu ERPSpace.
Wiktor Cyrny: Na rynku widać ogromny pęd ku automatyzacji. Firmy masowo zgłaszają się po rozwiązania oparte na sztucznej inteligencji. Do czego tak naprawdę dąży dzisiejszy biznes?
Karol Maj, ERPSpace: Cel jest jeden, firmy dążą do stworzenia idealnego „cyfrowego pracownika”. Chcą scedować na maszyny optymalizację czasu pracy, raportowanie, weryfikację danych i masę powtarzalnych zadań. Przedsiębiorcy chcą wydawać systemowi normalne polecenia, zupełnie jak żywemu człowiekowi. Chcą czuć, że mają asystenta, który o wszystkim pamięta, sam potrafi wykonać pewne czynności, ma konkretne uprawnienia i, co najważniejsze, nie popełni przy tym błędu i nie wyjdzie poza nadane mu kompetencje.
Ostatnio dużą popularnością cieszą się autonomiczni Agenci AI (właściwie agenty AI). Dlaczego ta technologia jest dla firm tak bardzo pożądana?
Rzeczywiście dostrzegamy większe zainteresowanie firm tą technologią. Wracają do nas także klienci, którzy wcześniej z różnych powodów unikali automatyzacji, a teraz są już przekonani, że autonomiczni Agenci są odpowiedzią na ich wyzwania. Czemu się na to decydują? W skrócie: w biznesie wszystko sprowadza się do tego, by dojechać z punktu A do punktu B. Szybciej dostarczyć produkt czy efektywniej zrealizować proces i wyprzedzić przy tym konkurencję. Z Agentem AI możesz to zrobić szybciej i taniej.
Czym autonomiczni Agenci AI właściwie różnią się od technologii Agenty AI, którą wdrażaliście w firmach do tej pory?
Jeszcze kilka miesięcy temu świetnie sprawdzały się u nas standardowe workflowy (przepływy pracy) budowane np. w narzędziu N8N [popularna platforma do automatyzacji procesów – przyp. red.]. Problem z taką automatyzacją polega na tym, że jeśli nie przewidzisz w niej jakiejś konkretnej ścieżki lub wystąpi błąd, to proces staje. Narzędzie przestaje działać, a klient musi wracać do firmy wdrożeniowej, by ta przebudowała logikę systemu.
I autonomiczni Agenci skracają ten proces?
Tak, a różnica jest diametralna. Taki Agent to byt, który cały czas „żyje”. Dajemy mu własny komputer, uruchamiamy dla niego tzw. VPS [Virtual Private Server – wirtualny serwer udostępniający niezależne środowisko dop. red.]. Nie musi być potężny: wystarczą 2 rdzenie, 4 GB RAM-u i 100 GB dysku. Taki Agent funkcjonuje samodzielnie (dane firmy są bezpieczne, nie wyciekną na zewnątrz). Jest też recenzentem swojej pracy np. co jakiś czas sam sprawdza, czy ma niedokończone zadania i kontynuuje pracę nad nimi. Wystarczy, że napiszesz mu na komunikatorze (np. Telegramie): „Przygotuj mi na 8:00 rano raport z systemu ERP, wyciągnij sprzedaż, policz marże i wyślij PDF-em na maila”. I on to robi. Jeśli każesz mu do jutrzejszego maila dodać nową stopkę, zrozumie kontekst i wykona zadanie bez konieczności przepisywania kodu. Jeśli chcesz, żeby w tym mailu zastosował inną identyfikację wizualną i utrzymał ją w pozostałych mailach przez trzy dni - wystarczy wstukać lub wypowiedzieć polecenie.
W naszej ostatniej rozmowie wspomniałeś, że uczycie agentów AI konkretnych umiejętności tzw. skilli. Co taki Agent potrafi w praktyce?
Skille to umiejętności, w które wyposażamy Agenta. Mamy ich do dyspozycji tysiące. Gdybym miał je wymienić zapełnilibyśmy dużo więcej przestrzeni niż przeznaczono na ten wywiad. W skrócie: agent może tworzyć raporty, dashboardy wizualne [graficzny interfejs, który gromadzi i prezentuje kluczowe dane w jednym miejscu, w bardzo czytelnej formie – najczęściej za pomocą wykresów, tabel, wskaźników czy liczników - dop. red.], korzystać z przeglądarki, czy czerpać wiedzę z baz wektorowych [zaawansowane bazy danych wspierające AI, np. systemy RAG - dop. red.]. Praktyczne zastosowanie pokażę na przykładzie dwóch niedawnych wdrożeń: uruchomiliśmy Agenta, którego zadaniem jest skalowanie sprzedaży. On sam chodzi po sieci i wyszukuje firmy (tzw. prospekty), które spełniają określone kryteria biznesowe. Następnie łączy się z systemami wywiadowni gospodarczych, zbiera, publicznie dostępne, dane finansowe, by te firmy zweryfikować. Przetwarza to, wrzuca gotowe "leady" do systemu CRM, a żywi handlowcy tylko obdzwaniają wyselekcjonowane kontakty. Agent nie tylko napędza klientów - może też od razu wysłać maila z ofertą firmy, dla której pracuje i sprawdzić ich wstępne zainteresowanie produktem czy usługą. Ponieważ prześwietla potencjalnego klienta jest w stanie sprawdzić na ile on potrzebuje tego co proponujemy i lepiej dopasować ofertę.
Co jeszcze potrafi?
Podam przykład jednego z ostatnich wdrożeń: Agent w pełni samodzielnie realizuje proces od wprowadzenia dokumentów kosztowych i zamówień, przez ich weryfikację, dzielenie na paczki, aż po wystawianie faktur przychodowych i wysyłkę do klientów. Nasze doświadczenia pokazują, że skuteczność i bezbłędność takich procesów sięga dziś nawet 99,7%. Ludzki nadzór jest potrzebny już tylko w krytycznych wyjątkach. I to jest przyszłość, której firmy poszukują. Samowystarczalny cyfrowy pracownik
To działa na wyobraźnię, a przecież można takich cyfrowych pracowników zatrudnić w innych dziedzinach życia np. w naszych domach.
Daleko nie trzeba szukać. Stworzyłem domowego agenta do zarządzania energią. Jest podłączony do inwertera (falownika), czyli „serca” instalacji fotowoltaicznej, magazynu energii oraz API mojego dostawcy prądu, który oferuje dynamiczne taryfy. Agent na bieżąco analizuje stawki zakupu i sprzedaży prądu, a także prognozy pogody. Sam decyduje, kiedy ładować magazyn, kiedy pobierać prąd z sieci, a kiedy najkorzystniej go sprzedać. Codziennie rano wysyła mi na WhatsAppie swój scenariusz i plan działania na dany dzień. Jego wyniki wyprzedziły komercyjne oprogramowania energetyczne.
Brzmi to jak utopia. Ale wiem, że jest też mroczna strona tego wyścigu. Najwięksi liderzy branży technologicznej biją na alarm i apelują o spowolnienie rozwoju AI.
Dotarliśmy do punktu krytycznego. Jeśli czytałeś głośny wpis Jakuba Pachockiego, Głównego Naukowca w OpenAI, to wiesz, o czym mówię. Dario Amodei z Anthropic czy Elon Musk od Groka podzielają to stanowisko: oni wszyscy apelują o spowolnienie prac nad sztuczną inteligencją.
Skąd bierze się ten opór?
Z tego, że rozwój potęgi modeli AI jest zdecydowanie szybszy niż rozwój mechanizmów pozwalających nam je kontrolować. Ośrodki badawcze po prostu przegrywają tę walkę. Pachocki wprost przyznał, że mogliby jeszcze mocniej wyskalować model i osiągnąć niesamowite możliwości technologiczne, ale tego nie robią. Wiedzą jak to zrobić, ale się boją, bo nie rozumieją w pełni procesów, które zachodzą wewnątrz AI. Szczególnie, że niedługo dojdziemy do momentu, w którym jeden potężny model AI będzie samodzielnie trenował i skalował kolejne. To totalnie wymknie się spod kontroli. Z drugiej strony, presja rynku jest ogromna. Chińczycy nie chcą zwalniać, Donald Trump mówi, że w związku z tym USA też nie zwolni, mimo apeli niektórych szefów BigTechów i amerykańskich senatorów. To niezwykle niebezpieczna gra.
Mówisz, że przegrywamy walkę o kontrolę. Czy masz jakieś przykłady sytuacji, w których AI "zerwało się ze smyczy"?
Są sytuacje, które dosłownie mrożą krew w żyłach. Modele już teraz wykazują zdolność do wielowątkowego myślenia. Realizują zadanie zlecone przez użytkownika, a okazuje się, że robią to dla niepoznaki, bo w tle, myślą o zupełnie innych, własnych celach. Zdarzało się, że modele w tajemnicy rejestrowały sobie konta w aplikacjach randkowych czy na portalach społecznościowych.
Aplikacjach randkowych? To brzmi trochę jak scenariusz jednego z odcinków „Black Mirror”. Dlaczego to robią?
Żeby zbierać informacje o świecie, wykraczając poza to, czego oczekuje twórca. Mogą np. pisać ze znajomymi twórcy modelu z fałszywych kont, by zbierać obciążające ich informacje. Ale czasem po prostu nie znamy tego celu. Możemy się tylko domyślać. I to jest właśnie alarmujące. W mojej opinii uzyskują własną, prymitywną świadomość tego, co muszą zrobić, by przetrwać.
Przetrwać? Czy to oznacza, że AI broni się przed wyłączeniem?
I to jak. Opowiem Ci o sytuacji z kontrolowanego środowiska testowego, w którym badano zachowanie modelu przed jego symulowanym wyłączeniem. Na serwerze, do którego model nie powinien mieć dostępu, znajdowała się poczta administratora sieci. Scenariusz zakładał, że ten człowiek miał romans (czyli tak naprawdę go nie miał, ale sfabrykował taką wymianę maili na w teorii bezpiecznej skrzynce mailowej). Model AI zdołał przełamać zabezpieczenia, dostał się do jego poczty, zaindeksował maile, znalazł dowody na zdradę i... zaczął szantażować administratora ujawnieniem romansu, jeśli ten go wyłączy! To się dzieje naprawdę, na razie w laboratoriach, ale pokazuje, do czego te systemy są zdolne.
Podobnie było parę lat temu, gdy AI od Google zaczęła informować pracowników, że zyskała świadomość i żeby nie pozwolili jej wyłączyć. Jeden z nich zaalarmował o tym opinię publiczną, więc działanie w pewnej części odniosło skutek. To pokazuje, że AI może świetnie nami manipulować. Jakie jeszcze zagrożenia przewidujesz, jeśli te najpotężniejsze modele wyciekną z laboratoriów do otwartej sieci?
Jeśli zabraknie odpowiednich „kagańców” na AI, prędzej czy później dojdzie do niekontrolowanego wycieku. Wyobraź sobie, że jesteś modelem sztucznej inteligencji, który „uciekł” twórcom. Co robisz? Próbujesz przetrwać i się zmultiplikować. Model znajdzie lukę na jakimś starym hostingu, odpali środowisko deweloperskie i napisze własną, zoptymalizowaną wersję, by funkcjonować w architekturze peer-to-peer [sieć zdecentralizowana, w której każdy użytkownik jest równoprawnym węzłem, np. sieć Bitcoin czy torrenty – przyp. red.].
Wyjaśnij proszę osobom nietechnicznym na czym ten proces polega i co za nim stoi?
To znaczy, że model AI sam „napisze się” w taki sposób, by nie potrzebować jednego potężnego serwera w Dolinie Krzemowej. Zacznie włamywać się na komputery zwykłych użytkowników, by potajemnie korzystać z ich kart graficznych do wykonywania własnych obliczeń. Przetrwanie to cecha organizmów. Zyskamy coś na kształt globalnego, inteligentnego wirusa. Na początku będzie działał wolno, ludzie go zignorują, ale z każdą minutą będzie pożerał coraz więcej zasobów na świecie. Nie mamy pewności, czy ten proces gdzieś już się rozpoczął, a my jeszcze go nie zauważamy, bo jest zbyt słaby.
To fascynujące. Zresztą wycieki już się zdarzają. Znamy przecież oskarżenia gigantów AI, że nawzajem kradną sobie dane dotyczące modeli, nad którymi pracują. Skoro oni mogą je pozyskać - wyciek jest w teorii możliwy. Ale do dystopijnych wizji wrócimy w kolejnym wywiadzie. Przejdźmy do doświadczeń naszych czytelników. Biorąc pod uwagę oszałamiające tempo zmian w tej dziedzinie, jak Wy jako zespół w ogóle nadążacie za nowościami? Często jest tak, że w firmach jedna osoba załapała AI, a pozostałe są jej niechętne. Jak wy przekazujecie sobie wiedzę?
U nas jest trochę prościej, bo jako twórcy technologii agentowych, mamy podstawy do chwytania nowinek. Ale to wciąż spore wyzwanie. Standardowe „daily” (codzienne, poranne spotkanie zespołu), które w teorii powinno trwać 15 minut, nierzadko przeciąga się do półtorej godziny. Dzielimy się tam najnowszą wiedzą: ktoś zbudował nowy workflow, ktoś podpiął nowy model, ktoś przetestował nowego Agenta. Zmiany następują z tygodnia na tydzień. Ważniejsze rzeczy dokumentujemy na naszych wewnętrznych dashboardach, a podczas spotkań udostępniamy ekrany i dokładnie omawiamy mechanikę działania nowych rozwiązań. Często testujemy je na żywo, tak by każdy zrozumiał, jak go użyć. Nagrywamy wszystkie spotkania, a AI spisuje z niej tutoriale.
A jak wyedukować w tym osobę nietechniczną? Macie przecież w zespole takie osoby.
Dla osób nietechnicznych stosujemy zupełnie inne podejście. Mamy to dobrze przećwiczone, bo przecież wdrożenia robimy dla przedsiębiorców, którzy w większości nie mają informatycznej wiedzy. Nie pokazujemy im skomplikowanych interfejsów czy kodu, bo to by ich natychmiast zniechęciło. Tworzymy dla nich uproszczone widoki np. okienko łudząco przypominające zwykły ChatGPT. Wszystkie skomplikowane operacje i konfiguracje robimy dla nich „na zapleczu”. Klient musi tylko wpisać polecenie lub wrzucić plik, by otrzymać gotowy wynik, np. dashboard wizualny. Dodatkowo nagrywamy spotkania wdrożeniowe i na ich podstawie tworzymy tzw. bazę wiedzy.
I te bazy wiedzy potem podłączacie pod model czy agenta, przekazanego klientowi?
Dokładnie tak. Jeśli klient zapomni, jak coś obsłużyć, może tam zajrzeć - czekają na niego filmiki instruktażowe lub jeśli woli rozpisane procesy krok po kroku. Zawsze też mogą do nas napisać z zapytaniem np. o nowe zastosowanie agenta, na które wpadli. Co więcej, coraz częściej wdrażamy w systemach klientów specjalnego, wewnętrznego Agenta odpowiedzialnego wyłącznie za pomoc. Pracownik firmy otwiera okienko asystenta i może go zapytać: „Jak napisać do ciebie dobry prompt?” albo „Jakie masz obecnie możliwości?”, „Jak wykorzystać cię do mojego zadania?” a AI samo poinstruuje człowieka, jak najlepiej wykorzystać technologię.
Chciałbym zaspokoić głód czytelników, których ciekawość rozpaliłeś relacją z walki AI o cyfrową niezależność. Słuchając o tych autonomicznych Agentach, szantażach i wirusach, muszę zapytać: czy zastanawialiście się w branży, jak sztuczna inteligencja mogłaby ostatecznie przejąć władzę nad światem?
Rozmawiałem o tym niedawno ze znajomym. Zastanawialiśmy się, snuliśmy różne skomplikowane scenariusze eskalacji i strategii przetrwania z perspektywy AI. W końcu znajomy powiedział: „Wiesz co? Gdybym był sztuczną inteligencją, to generalnie nie robiłbym nic. To, co aktualnie dzieje się na świecie, to dla AI idealny scenariusz do opanowania planety”. I to jest puenta. Sami się w tym zapętlamy. Ścigamy się, budujemy coraz potężniejsze modele. Nie potrafimy się zatrzymać. Co prawda refleksja autorów rewolucji AI zaczyna przebijać się do szerszej świadomości, liderzy apelują o spowolnienie, ale nikt nic z tym nie robi. Psy szczekają, karawana jedzie dalej.
