OpenAI wstrzymuje trening modeli AI na „żywym” internecie, powołując się na „znaczne ryzyko”

Zgodnie z oficjalnym komunikatem, OpenAI wstrzymuje trening swoich modeli „frontier” na publicznie dostępnym internecie. Decyzja ta ma na celu proaktywne zarządzanie ryzykiem. Zamiast tego, firma stworzyła kontrolowane środowisko, nazywane „światem offline”, które bazuje na wcześniej zarchiwizowanej zawartości internetowej. Modele będą trenowane w tej izolacji, aby nauczyć się przeglądania, wyszukiwania informacji i korzystania z aplikacji webowych w bezpieczny sposób. Więcej informacji można znaleźć w oficjalnym oświadczeniu OpenAI.

Co to oznacza w praktyce?

Krok ten ma zapewnić, że dostęp do internetu dla zaawansowanych modeli AI zostanie przywrócony dopiero po wdrożeniu odpowiednich zabezpieczeń dotyczących zgodności (alignment), monitorowania i ogólnego bezpieczeństwa. Jest to istotna zmiana w metodologii rozwoju AI, która do tej pory opierała się na ciągłym dostępie do bieżących danych z sieci.

Potencjalne konsekwencje i niepewność

Chociaż celem jest zwiększenie bezpieczeństwa, eksperci zwracają uwagę na możliwe niezamierzone skutki. Ograniczenie dostępu modeli AI do internetu może wpłynąć na to, jak w przyszłości będzie wyglądać sama sieć. Istnieje obawa, że zmiany wprowadzane w celu ułatwienia pracy agentom AI w kontrolowanych warunkach, mogą paradoksalnie pogorszyć doświadczenia ludzkich użytkowników internetu. Jest to jednak na ten moment kwestia niepotwierdzona i przedmiotem dalszych analiz.

Dodatkowe źródła: - theverge.com - techmeme.com - techmeme.com - technologyreview.com

Artykuł źródłowy: techcrunch.com