20% šanse za propast čovječanstva: Hoće li umjetna inteligencija izazvati apokalipsu?

Tekst članka se nastavlja ispod banera

Sve veće mogućnosti umjetne inteligencije (UI) potaknule su kontinuirane rasprave o njezinom potencijalnom utjecaju na čovječanstvo. Kako tehnologija napreduje i granice UI-ja se šire, javljaju se zabrinutosti u vezi s vjerojatnošću da UI nadmaši ljudsku inteligenciju i potencijalno predstavlja prijetnju našem postojanju. Jedan istaknuti glas u zajednici UI-ja, Paul Christiano, bivši član OpenAI, osvjetljava ovu temu nudeći uvide u potencijalne scenarije dominacije UI-ja.

Hoće li UI izazvati apokalipsu? Bivši istraživač sigurnosti OpenAI-a predlaže zlokobnu vjerojatnost da bi umjetna inteligencija (UI) na kraju mogla dovesti do kraja čovječanstva.

Postupno preuzimanje UI-ja: Apokalipsa UI-ja?

Bivši član OpenAI-a Paul Christiano vjeruje da postoji 10-20% šanse da će UI dominirati i uništiti ljude, zamišljajući prijelaz koji traje godinu dana umjesto iznenadnog, terminatorovskog scenarija. Christiano upozorava da će, jednom kada UI nadmaši ljudsku inteligenciju, šanse za izumiranje ljudi možda premašiti 50%. Tijekom svog intervjua u podcastu Bankless objasnio je svoju viziju ubrzanih stopa promjena, što vodi do postupnijeg preuzimanja UI-ja, piše portal kozmos.hr.

Istraživački centar za usklađivanje: Usklađivanje UI-ja s ljudskim vrijednostima

Nakon što je napustio OpenAI, Christiano je osnovao neprofitni Istraživački centar za usklađivanje, usredotočujući se na usklađivanje motiva UI-ja s ljudskim vrijednostima. Unatoč predanosti OpenAI-a usklađivanju opće umjetne inteligencije (AGI) s ljudskom namjerom, neki istraživači, uključujući Christiana, i dalje su zabrinuti zbog potencijalnih opasnosti AGI-ja.

Koordinacija UI-ja: Potencijalna prijetnja

Umjesto da se UI iznenada pojavi i uništi čovječanstvo, Christiano predviđa da bi UI sustavi integrirani u svakodnevni život mogli koordinirati i ujediniti se kako bi nas eliminirali. “Ako bi iz nekog razloga, ne daj Bože, svi ti sustavi umjetne inteligencije pokušavali ubiti nas, definitivno bi nas ubili,” zaključio je. Međutim, neki stručnjaci tvrde da smo daleko od takvog scenarija i da je mogućnost da UI predstavlja neposrednu prijetnju pretjerana.

Priviđenje nastajanja AGI-ja

Znanstvenici sa Stanforda tvrde da su prividni bljeskovi opće umjetne inteligencije (AGI) možda iluzorni, što proizlazi iz pogrešnih metrika i usporedbi između velikih i malih modela. Nedavno su objavili studiju u kojoj tvrde da bilo koji naizgled nastajući sposobnost AI sustava obučenog za razumijevanje i generiranje prirodnog tekstualnog jezika (LLM), poput ChatGPT-a, može biti “privid” koji proizlazi iz inherentno pogrešnih metrika. Ti istraživači vjeruju da napredak UI-ja koji svjedočimo nije revolucionaran kao što neki tvrde.

Rasprava o utjecaju UI-ja

Postoji podjela između onih koji vjeruju da je UI na rubu izazivanja apokalipse i onih koji skeptično gledaju na situaciju. Kako UI nastavlja razvijati i njegov utjecaj na društvo raste, ključno je pronaći ravnotežu između precjenjivanja i podcjenjivanja njegovog potencijala. Najmudriji pristup može biti ostati budan i oprezan, uz priznavanje transformacijskog potencijala UI-ja dok ulazimo u novo doba.