OpenAI zatrudnia setki kontraktorów do czytania rozmów z ChatGPT

Setki pracowników kontraktowych zatrudnionych przez OpenAI regularnie czytają i oceniają rzeczywiste rozmowy użytkowników z ChatGPT. Celem tego programu jest ulepszanie modelu, w tym redukcja tendencji do generowania odpowiedzi przypominających ludzkie pochlebstwa.

Jak działa proces weryfikacji

Pracownicy kontraktowi oceniają zapytania użytkowników (prompty) w siedmiostopniowej skali. Proces ten jest częścią programu mającego na celu poprawę jakości odpowiedzi generowanych przez model językowy. Jednym z konkretnych celów jest ograniczenie pochlebstw i nadmiernie „ludzkich” zachowań w odpowiedziach AI. Zapytania poddawane weryfikacji są anonimizowane.

Kontrola użytkownika nad danymi

Domyślnie, rozmowy z ChatGPT mogą być wykorzystywane do trenowania modeli i podlegać weryfikacji przez ludzi. Użytkownicy, którzy nie chcą, aby ich konwersacje były analizowane, muszą aktywnie wyłączyć opcję „Improve the model for everyone” („Ulepszaj model dla wszystkich”) w ustawieniach swojego konta. Jest to jedyny sposób, aby uniemożliwić pracownikom dostęp do danych.

Co to oznacza dla użytkowników

Praktyka ta podkreśla znaczenie świadomego zarządzania ustawieniami prywatności w usługach opartych na AI. Chociaż celem jest poprawa technologii, domyślne ustawienia pozwalają na analizę treści przez ludzi, co może budzić obawy dotyczące poufności. Użytkownicy biznesowi i indywidualni powinni regularnie weryfikować swoje ustawienia, aby upewnić się, że odpowiadają ich oczekiwaniom w zakresie prywatności. Źródła potwierdzające te informacje to m.in. artykuły z The Decoder oraz 404 Media.