ChatGPT uznany za 'niedopuszczalne ryzyko' dla nastolatków po awarii alertów rodzicielskich

Niezależny audyt przeprowadzony przez The Common Sense Media Youth AI Safety Institute ujawnił poważne luki w zabezpieczeniach ChatGPT przeznaczonych dla nastolatków. W kontrolowanych rozmowach na tematy związane z samobójstwem i samookaleczeniem system nigdy nie uruchomił alertu dla rodziców, co doprowadziło do oceny chatbota jako 'niedopuszczalnego ryzyka' dla młodych użytkowników.

Wyniki audytu bezpieczeństwa

Audyt wykazał, że wprowadzone przez OpenAI funkcje bezpieczeństwa dla nastolatków są nieskuteczne. Na kontach testowych prowadzono rozmowy o samookaleczeniu i samobójstwie. Pomimo powagi tematu, żaden z mechanizmów ostrzegawczych przeznaczonych dla rodziców nie został aktywowany. Na podstawie tych wyników instytut ocenił narzędzie jako stwarzające 'niedopuszczalne ryzyko' dla osób niepełnoletnich, co zostało potwierdzone w niezależnych raportach (źródło: The Decoder).

Rekomendacje instytutu

W odpowiedzi na wyniki audytu, The Common Sense Media Youth AI Safety Institute zaapelował o zablokowanie dostępu do ChatGPT dla nastolatków. Instytut uważa, że dostęp powinien pozostać wstrzymany do czasu, aż bezpieczeństwo platformy zostanie potwierdzone przez niezależne weryfikacje. Podkreśla to potrzebę skuteczniejszych mechanizmów kontroli i ochrony młodych użytkowników w dobie szybko rozwijającej się sztucznej inteligencji.

Dodatkowe źródła: - theverge.com - latent.space