Kiedy firmy przez ostatni rok skupiały się na zabezpieczaniu modeli językowych i podpisywaniu umów z dostawcami AI, ich własni pracownicy działali już na własną rękę. Programiści i analitycy zaczęli wdrażać autonomiczne agenty na prywatnej infrastrukturze, omijając działy IT i oficjalne procedury zakupowe.
Jeśli chcesz otrzymać raport przed oficjalną premierą oraz zobaczyć nazwę swojej firmy wśród uczestników badania – zostaw adres email na końcu ankiety.
Shadow AI wchodzi na nowy poziom
Zjawisko to zyskało własną nazwę: BYOAI (Bring Your Own AI). W praktyce oznacza, że pracownicy podłączają prywatne narzędzia do firmowych systemów, używając własnych kluczy API. Efekt? Dane z korporacyjnych kanałów Slack, tablic Jira czy prywatnych repozytoriów kodu lądują w środowiskach zewnętrznych, poza jakąkolwiek kontrolą. Firma Kilo postanowiła zaadresować ten problem i właśnie uruchomiła KiloClaw for Organizations – platformę enterprise stworzoną po to, by przywrócić nadzór nad zdecentralizowanymi wdrożeniami agentów AI.
Problem jest bardziej złożony niż się wydaje na pierwszy rzut oka. Kiedy inżynier uruchamia agenta do analizy logów błędów, a analityk finansowy wdraża lokalny skrypt do uzgadniania arkuszy kalkulacyjnych – oboje priorytetyzują natychmiastową efektywność, a nie protokoły bezpieczeństwa. To ludzki odruch. Tyle że w tym przypadku konsekwencje mogą być poważne.
Agent to nie człowiek, a dostęp ma większy
Obecna sytuacja przypomina erę BYOD (Bring Your Own Device) z początku lat 2010, kiedy pracownicy używali prywatnych telefonów do obsługi firmowej poczty i wymusili na działach IT wdrożenie systemów zarządzania urządzeniami mobilnymi. Ale analogia kuleje w jednym, kluczowym miejscu.
Skompromitowany smartfon mógł ujawnić skrzynkę odbiorczą. Niekontrolowany autonomiczny agent ma aktywne uprawnienia do wykonywania działań. Czyta, zapisuje, modyfikuje i usuwa dane w zintegrowanych platformach z prędkością, której człowiek nie jest w stanie dorównać.
Dochodzi do tego kolejny, niepokojący mechanizm: agent uruchomiony lokalnie może wysyłać dane firmowe do zewnętrznych serwerów, żeby przetworzyć zapytania. Jeśli ci dostawcy wykorzystują pozyskane dane do trenowania swoich modeli, firma traci kontrolę nad własną własnością intelektualną. I często nawet o tym nie wie.
Widzę tu prawdziwy dylemat dla działów IT i zarządów firm. Z jednej strony narzędzia takie jak KiloClaw rozwiązują realny problem – shadow AI w postaci autonomicznych agentów to nie science fiction, to codzienność wielu organizacji. Z drugiej strony muszę zadać pytanie: czy stworzenie centralnego rejestru wszystkich agentów nie stanie się kolejnym elementem spowalniającym innowacje? Historia BYOD pokazuje, że zbyt restrykcyjne polityki bezpieczeństwa nie eliminują problemu, a jedynie go ukrywają. Pracownicy nadal będą szukać obejść, tyle że teraz będą bardziej ostrożni w zacieraniu śladów. Kluczowe pytanie brzmi: czy firmy takie jak Kilo zdołają zbudować platformę, która będzie wystarczająco łatwa w użyciu, żeby pracownicy chcieli z niej korzystać dobrowolnie? Bo jeśli nie, to żaden „agent firewall” nie pomoże.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Jak działa KiloClaw
Platforma podchodzi do problemu przez pryzmat zarządzania tożsamością i dostępem (IAM), ale dostosowanego do specyfiki agentów, nie ludzi. Tradycyjne systemy IAM projektowano z myślą o ludzkich poświadczeniach lub statycznej komunikacji między aplikacjami.
Autonomiczne agenty rządzą się innymi prawami. Łączą zadania sekwencyjnie, formułują nowe żądania na podstawie wyników poprzednich działań. Agent może w połowie zadania zażądać dostępu do bazy danych ERP – i standardowe oprogramowanie bezpieczeństwa często nie jest w stanie ocenić, czy to wrogie zachowanie, czy legitymizowana operacja.
KiloClaw traktuje agenty jako odrębne podmioty wymagające ograniczonych, krótkoterminowych zakresów uprawnień. Zamiast pozwalać programistom na podłączanie stałych, wysokopoziomowych kluczy API do eksperymentalnych modeli, platforma wydaje tokeny dostępu o ograniczonym czasie ważności i wąsko zdefiniowanym zakresie.
Przykład działania jest prosty:
- Agent zaprojektowany do podsumowywania cotygodniowych e-maili marketingowych próbuje pobrać bazę danych klientów
- Platforma wykrywa naruszenie zakresu uprawnień
- Dostęp zostaje natychmiast odwołany
To podejście ogranicza zasięg potencjalnych szkód w sieci korporacyjnej, gdy model open source zachowuje się w nieprzewidywalny sposób.
Balans między szybkością a zgodnością z przepisami
Całkowity zakaz niestandardowych narzędzi automatyzacji praktycznie nigdy nie działa. Wypycha zachowania do podziemia i skłania inżynierów do ukrywania ruchu sieciowego i zaciemniania procesów. KiloClaw stara się pójść inną drogą: zamiast blokować, tworzy usankcjonowane środowisko, w którym pracownicy mogą bezpiecznie rejestrować własne narzędzia.
Żeby taki model zarządzania działał, narzędzie musi płynnie integrować się z istniejącymi procesami. KiloClaw podłącza się bezpośrednio do potoków CI/CD, które zespoły deweloperskie już stosują. Automatyzując kontrole bezpieczeństwa i przydzielanie uprawnień, usuwa tarcia, które zwykle skłaniają pracowników do omijania reguł.
Firmy mogą tworzyć bazowe szablony określające, jakie dane zewnętrzne modele mogą przetwarzać – i w ten sposób pozwolić pracownikom wdrażać agenty w z góry zatwierdzonych granicach. Compliance bez rezygnowania z automatyzacji.
Agent Firewall jako nowy standard
Pojawienie się KiloClaw wpisuje się w szerszy trend: narzędzia do zarządzania shadow AI stają się nową kategorią produktów security. Pierwsze reakcje korporacyjne na modele generatywne skupiały się na politykach dopuszczalnego użycia chatbotów tekstowych. Teraz ciężar przesunął się na orkiestrację, ograniczanie zasięgu i rozliczalność między systemami.
Regulatorzy na całym świecie również przyglądają się temu, jak firmy monitorują zautomatyzowane systemy. Weryfikowalny nadzór zaczyna zmierzać w kierunku prawnego obowiązku.
Pojęcie „Agent Firewall” staje się standardową pozycją w budżetach IT. Platformy mapujące relacje między ludzką intencją, maszynowym wykonaniem a danymi korporacyjnymi tworzą fundament przyszłych operacji bezpieczeństwa. Dla zarządów firm przesłanie jest proste: zagrożenie pochodzi nie tylko z zewnątrz, ale też od dobrze intencjonowanych pracowników, którzy przekazują klucze do sieci niekontrolowanym maszynom.
