Ovaj tjedan OpenAI napustio je jedan od njegovih suosnivača Ilya Sutskever koji se, nakon skoro desetljeća rada ovoj AI kompaniji, odlučio okrenuti novom, ali još uvijek tajnom projektu. No Sutskever nije jedini zaposlenik koji je napustio OpenAI-a, već je sidro iz tvrtke digao i Jan Leike, koji je nakon ostavke na platformi X podijelio neka svoja razmišljanja oko svoje sada već bivše kompanije i smjera u kojem se razvija.
A taj smjer, čini se, nije baš pozitivan i na njegove riječi treba gledati i kao na upozorenje oko budućnosti razvoja umjetne inteligencije, barem što se tiče OpenAI-a. Naime, Leike smatra kako je u OpenAI-u sigurnost, koja je od velike važnosti kada je u pitanju razvoj ove revolucionarne tehnologije nevjerojatnog potencijala, pala u drugi plan. Kada se priključio Altmanovoj kompaniji, on je to napravio jer je smatrao kako je to najbolje mjesto za istraživanje i razvoj umjetne inteligencije. No s vremenom su se stvari oko ove kompanije prilično promijenila, uključujući i njihove prioritete.
But over the past years, safety culture and processes have taken a backseat to shiny products.
— Jan Leike (@janleike) May 17, 2024
Ne slažem se s vodstvom OpenAI-a oko glavnih prioriteta kompanije već neko vrijeme, sve dok na kraju nismo došli do točke pucanja, napisao je na platformi X. A glavni razlog neslaganja, prenose na AP-u njegove izjave, odnosi se na činjenicu što je Altman fokus stavio na “sjajne proizvode”, umjesto na sigurnost. Zbog promjene fokusa kompanije ranije ove godine protiv Altmana i OpenAI-a tužbu je podigao i Elon Musk, pri čemu on naglasak nije stavio na sigurnost, već tvrdi kako se Altman, umjesto razvoja proizvoda od kojih će čovječanstvo imati koristi, odlučio na komercijalizaciju i proizvode koji će kompaniji donijeti što veći profit.
Što se Leikea tiče, on smatra kako bi ekipa u OpenAI-u trebala više raditi na razvoju sljedeće generaciji AI modela, uključujući i na stvari poput sigurnosti i analize utjecaja takve tehnologije na društvo. OpenAI mora postati AI kompanija usmjerena prvenstveno na sigurnost, naglasio je i dodao kako je razvoj strojeva koji su pametniji od ljudi iznimno opasan pothvat pa bi kompanija trebala imati veliku odgovornost u ime cijelog čovječanstva. Leike je u OpenAI-u bio zadužen za odjel za proučavanje rizika od umjetne inteligencije, no taj je odjel raspušten, a njegovi zaposlenici premješteni su u druge odjele unutar tvrtke.
Na njegove objave na platformi X komentar je ostavio i njegov bivši šef, izvršni direktor OpenAI-a Sam Altman koji je rekao kako prema njemu ima veliko poštovanje i žao mu je da odlazi. Komentirao je i Leikeova upozorenja naglasivši kako je on u pravu te da, kada je sigurnost u pitanju, moraju napraviti više i posvećeni su tom cilju. Također, napisao je kako će naknadno napisati veću objavu o tome.
Izvor: AP News
