Bitget i SlowMist ostrzegają: AI już zawiera transakcje i to może być ryzykowne

Bitget, największa na świecie giełda typu Universal Exchange (UEX), nawiązała współpracę z firmą SlowMist zajmującą się bezpieczeństwem sieci blockchain w celu publikacji wspólnego raportu analizującego zagrożenia pojawiające się w związku z rozpoczęciem autonomicznego wykonywania transakcji przez systemy sztucznej inteligencji. W miarę jak handel wkracza w tę „agentową” fazę, w której systemy wykraczają poza analizę i przechodzą do działania, wyłania się nowa kategoria ryzyka, której tradycyjne modele bezpieczeństwa nie były w stanie uwzględnić.

W raporcie podkreślono zasadniczą zmianę, zgodnie z którą w momencie, gdy sztuczna inteligencja przestaje pełnić rolę doradczą, a przejmuje funkcje wykonawcze, błędy i nadużycia nie są już odosobnionymi zdarzeniami. Mogą one wywołać natychmiastowe i nieodwracalne skutki finansowe. Na rynkach kryptowalut, gdzie transakcje są rozliczane natychmiastowo, zainfekowany lub źle skonfigurowany agent może działać szybciej, niż pozwala na to interwencja człowieka.

„Sztuczna inteligencja nie ogranicza się już tylko do analizowania rynków, ale aktywnie w nich uczestniczy” – powiedziała Gracy Chen, dyrektor generalna Bitget. „To całkowicie zmienia charakter ryzyka. Nie chodzi już o to, jak inteligentne są te systemy, ale o to, w jakim stopniu można im pozwolić na bezpieczne działanie”.

Zgodnie z raportem, systemy oparte na agentach AI wprowadzają nowe powierzchnie ataku na wielu poziomach — od danych wejściowych modeli po ścieżki wykonawcze. Ataki typu prompt injection mogą wpływać na proces decyzyjny, złośliwe wtyczki mogą zmieniać zachowanie systemu, a zbyt szerokie uprawnienia API mogą narażać kapitał na niezamierzone działania. Ryzyko to potęguje fakt, że autonomiczni agenci AI działają nieprzerwanie, bez bezpośredniego nadzoru użytkownika.

Zamiast traktować te kwestie jako odosobnione luki w zabezpieczeniach, w raporcie uznano je za problemy o charakterze systemowym. W erze sztucznej inteligencji bezpieczeństwo musi wykraczać poza zabezpieczenia na poziomie aplikacji i obejmować architekturę interakcji systemów AI z kapitałem.

Podejście Bitget odzwierciedla tę zmianę. Platforma rozgranicza sztuczną inteligencję, realizację zleceń i autoryzację aktywów na odrębne warstwy, zmniejszając prawdopodobieństwo, że pojedynczy punkt awarii może wywołać niezamierzone transakcje. Uprawnienia są zbudowane wokół zasady minimalnych uprawnień, a przed sfinalizowaniem realizacji wprowadzono procesy symulacji i weryfikacji transakcji. Kontrole te mają na celu zapewnienie, że nawet gdy agenci AI działają autonomicznie, ich zakres pozostaje zdefiniowany i ograniczony.

Analiza przeprowadzona przez SlowMist potwierdza potrzebę wprowadzenia modelu bezpieczeństwa opartego na zamkniętej pętli, w którym ryzyko jest eliminowane przed, w trakcie i po wykonaniu operacji. Ciągłe monitorowanie, ograniczone uprawnienia oraz weryfikowalne przepływy transakcji stanowią podstawę tej struktury, dzięki czemu bezpieczeństwo przestaje być procesem reaktywnym, a staje się integralną częścią projektu systemu.

Wyniki wskazują na ogólną tendencję, w której agenci AI stają się coraz bardziej zintegrowani z handlem, zarządzaniem aktywami i aktywnością w łańcuchu bloków; granica między intencją użytkownika a realizacją przez system staje się coraz bardziej abstrakcyjna. W tym środowisku niezawodność nie jest już określana wyłącznie przez wydajność, ale przez to, jak dobrze systemy potrafią działać w kontrolowanych granicach.

W ramach modelu UEX platformy Bitget, w którym współistnieją aktywa kryptograficzne, instrumenty pochodne oraz tokenizowane instrumenty tradycyjne, zmiana ta ma szersze implikacje. W miarę jak działalność finansowa staje się coraz bardziej zautomatyzowana i wzajemnie powiązana, infrastruktura musi być zaprojektowana nie tylko z myślą o szybkości i dostępności, ale także o zabezpieczeniach i wytrzymałości. Wspólny raport stanowi punkt odniesienia dla platform, programistów i użytkowników poruszających się w tym obszarze, podkreślając, że kolejny etap innowacji finansowych będzie zależał w równym stopniu od bezpiecznej realizacji transakcji, jak i od inteligentnych systemów.

Aby zapoznać się z pełną treścią raportu, kliknij tutaj.