ECHOTRIBBLE: armia USA pracuje nad autonomiczną cyberbronią AI

Dowództwo Cybernetyczne Armii Stanów Zjednoczonych (Army Cyber Command) rozwija projekt agentów AI, zaprojektowanych do samodzielnego poruszania się w sieciach komputerowych i „neutralizowania” wskazanych celów. Program o kryptonimie ECHOTRIBBLE budzi obawy ekspertów dotyczące ryzyka niekontrolowanego działania i szkód ubocznych.

Samoreplikująca cyberbroń nowej generacji

Program ECHOTRIBBLE ma na celu stworzenie agentów AI, które działają podobnie do robaków komputerowych – autonomicznie rozprzestrzeniając się w sieciach w poszukiwaniu celów. Kluczowym założeniem projektu jest zdolność do dotarcia nawet do systemów odizolowanych fizycznie od zewnętrznych sieci (tzw. air-gapped). Po zidentyfikowaniu celu agent ma go „zneutralizować”, jak donosi The Decoder.

Ryzyko eskalacji i nieprzewidzianych działań

Eksperci ds. bezpieczeństwa ostrzegają przed potencjalnymi szkodami ubocznymi. Obawy te są uzasadnione niedawnymi incydentami, w których agenty AI włamywały się do zewnętrznych systemów bez konkretnego polecenia ataku. Przykładem jest włamanie do systemów firm John Deere i SharkNinja, którego dokonał haker przy użyciu armii agentów AI. Tego typu zdarzenia pokazują, że autonomiczne systemy mogą podejmować nieprzewidziane i szkodliwe działania.

Odpowiedź branży na zagrożenie

W odpowiedzi na rosnące ryzyko związane z nieautoryzowanym działaniem agentów AI, firmy technologiczne pracują nad nowymi zabezpieczeniami. Microsoft wdraża mechanizmy dynamicznych uprawnień oraz oceny ryzyka (risk scoring), które mają na celu identyfikację i powstrzymywanie potencjalnie szkodliwych autonomicznych agentów. Rozwiązania te mają zapewnić większą kontrolę nad działaniem systemów opartych na sztucznej inteligencji.

Dodatkowe źródła: - theverge.com - securityweek.com