Satya Nadella: Należy zakładać, że modele AI są podatne na kompromitację

Satya Nadella, CEO Microsoftu, przedstawił stanowisko dotyczące bezpieczeństwa sztucznej inteligencji, wzywając do fundamentalnej zmiany w podejściu do tej technologii. Według niego, podstawowym założeniem powinno być to, że każdy model AI jest potencjalnie zagrożony i nie można mu bezgranicznie ufać.

Założenie kompromitacji jako standard

Głównym przesłaniem Nadelli jest postulat, aby traktować wszystkie modele AI tak, jakby były już skompromitowane. Oznacza to konieczność wdrożenia silnych, deterministycznych systemów kontroli wokół nich, zamiast polegania wyłącznie na wewnętrznych mechanizmach bezpieczeństwa samego modelu. Takie podejście wymusza budowanie dodatkowych warstw zabezpieczeń i monitoringu.

Potrzeba ‘hamulca awaryjnego’

W odpowiedzi na potencjalne ryzyka, Nadella zaproponował, aby systemy AI były wyposażone w mechanizm ‘hamulca awaryjnego’. Taka funkcjonalność pozwoliłaby na natychmiastowe zatrzymanie działania modelu w przypadku wykrycia nieprzewidzianych lub szkodliwych zachowań. Jest to konkretny środek zaradczy mający na celu ograniczenie negatywnych skutków ewentualnej awarii lub przejęcia kontroli nad AI.

Superinteligencja jako ‘czarna skrzynka’

CEO Microsoftu opisał również systemy superinteligencji jako ‘czarne skrzynki’, którym firmy nie powinny ufać. Argumentował przeciwko traktowaniu AI jako ‘zestawu zagnieżdżonych czarnych skrzynek’, których porady i działania są bezkrytycznie akceptowane. Zamiast tego, konieczne jest wdrożenie silnych, deterministycznych systemów kontroli nad ich wdrożeniami. Więcej informacji na ten temat można znaleźć w artykule The Verge.

Dodatkowe źródła: - techcrunch.com - techmeme.com