Kolejny badacz opuszcza Google Deepmind, twierdząc, że budowa superinteligencji jest „z natury nieodpowiedzialna”

Przed rezygnacją Robert O'Callahan odgrywał istotną rolę w zespole Deepmind, pracując nad narzędziami do projektowania chipów. Jego praca bezpośrednio przyczyniała się do tworzenia wydajniejszego i tańszego sprzętu, co jest fundamentalnym czynnikiem umożliwiającym gwałtowny rozwój modeli sztucznej inteligencji. Optymalizacja procesorów pozwala na trenowanie coraz większych i bardziej złożonych systemów AI przy niższych kosztach, co czyni jego późniejsze ostrzeżenia szczególnie znaczącymi. Jego odejście podkreśla wewnętrzny konflikt, z jakim mierzą się niektórzy badacze, którzy z jednej strony tworzą przełomowe technologie, a z drugiej obawiają się ich długoterminowych konsekwencji.

Ostrzeżenie przed "nieodpowiedzialnym" pośpiechem

Głównym powodem rezygnacji O'Callahana są obawy dotyczące bezpieczeństwa. W swoim oświadczeniu stwierdził, że próba zbudowania superinteligentnej AI w najbliższej przyszłości jest „z natury nieodpowiedzialna”. Sugeruje również, że nie jest odosobniony w swoich poglądach. Według niego, wielu kolegów z Google Deepmind podziela podobne obawy, jednak rzadko decydują się na ich publiczne wyrażenie. To pokazuje, że w wiodących laboratoriach AI istnieje wewnętrzna debata na temat ryzyka, która nie zawsze jest widoczna na zewnątrz. Jego stanowisko jest częścią szerszej dyskusji w branży na temat potrzeby wdrożenia solidniejszych zabezpieczeń i protokołów etycznych zanim rozwój AI wymknie się spod kontroli.

Trend odejść z Google DeepMind

Rezygnacja O'Callahana nie jest odosobnionym przypadkiem. W ostatnim czasie obserwuje się szerszy trend odejść doświadczonych badaczy z Google DeepMind. Jak wskazują źródła branżowe, wielu z nich zakłada własne startupy, które często koncentrują się na poszukiwaniu alternatyw dla dominujących obecnie dużych modeli językowych (LLM). Ta fala odejść może sygnalizować rosnące zróżnicowanie poglądów na temat najlepszej drogi rozwoju AI oraz potencjalne niezadowolenie z kierunku obranego przez największych graczy technologicznych. Stanowi to wyzwanie dla firmy, ale jednocześnie wzbogaca ekosystem AI o nowe, niezależne inicjatywy. Więcej informacji można znaleźć w artykule na portalu the-decoder.com.

Dodatkowe źródła: - technologyreview.com - techmeme.com