Ljudi koji rade na razvoju najnaprednijih sistema veštačke inteligencije „iskreno su uplašeni“ brzinom kojom tehnologija napreduje i mogućnošću da bi AI jednog dana mogao da izmakne ljudskoj kontroli, tvrdi Džejkob Kokson, 27-godišnji bivši istraživač kompanija Anthropic i OpenAI.
Kokson je nedavno napustio Anthropic, a pažnju javnosti privukao je objavom u kojoj je objasnio razloge svoje ostavke. U razgovoru za BBC rekao je da smatra da bi nastavak razvoja veštačke inteligencije sadašnjim tempom mogao da predstavlja egzistencijalnu opasnost za čovečanstvo.
„Verujem da, ako ne usporimo pri sadašnjoj brzini napretka, postoji velika šansa da bismo svi mogli da umremo u bliskoj budućnosti.“
Prema njegovim rečima, ovakvi strahovi nisu karakteristični samo za kritičare AI industrije, već postoje i među ljudima koji svakodnevno rade na razvoju tih sistema.
„Ljudi koji rade u tim kompanijama potpuno su ozbiljni kada traže regulaciju, jer se osećaju zarobljenim u trci. I plaše se ishoda te trke“, rekao je Kokson za BBC.
Tvrdi i da pojedini zaposleni u industriji razmišljaju čak o kupovini zemljišta na udaljenim lokacijama, u strahu od eventualne nestabilnosti koju bi mogao da izazove nekontrolisani razvoj veštačke inteligencije.
„Svakodnevno razmišljaju o tome dok rade na ovoj tehnologiji“, naveo je.
Scenario koji bi mogao da postane realnost za samo godinu dana
Jedan od scenarija koji Kokson smatra mogućim jeste razvoj velikog broja autonomnih AI agenata koji bi međusobno sarađivali poput superkompjutera.
Takvi sistemi bi, prema njegovoj proceni, mogli da postanu dovoljno sposobni da preuzmu kontrolu nad pojedinim delovima interneta, a on smatra da bi se takva mogućnost mogla pojaviti za svega šest meseci do godinu dana.
Njegova upozorenja dolaze u trenutku kada i izvršni direktor Anthropica Dario Amodei javno govori o potrebi za usporavanjem razvoja najmoćnijih AI modela.
„Moramo da usporimo tempo kojim poboljšavamo sposobnosti AI modela. Napredak će i dalje izgledati brz, ali vreme koje dobijemo moramo mudro da iskoristimo“, napisao je Amodei, prenosi Gardijan.
On je upozorio i na mogućnost takozvanog rekurzivnog samousavršavanja, odnosno scenarija u kojem bi AI sistemi mogli da učestvuju u sopstvenom unapređivanju.
Ako takav proces ne bude pod kontrolom, smatra Amodei, AI bi mogao da postane sposobniji nego što ljudi mogu da ga razumeju i kontrolišu.
Amodei zato predlaže angažovanje nezavisnih evaluatorâ koji bi imali širok pristup sistemima kompanija i mogli da proveravaju njihove bezbednosne mere i ponašanje.
Njegov stav podržao je i direktor OpenAI-ja Sam Altman.
„Slažem se sa Dariom da moramo da usporimo razvoj na samoj granici mogućnosti. Nezavisni evaluatori sa pristupom sličnim zaposlenima odlična su ideja i mi ćemo uraditi isto“, poručio je Altman, prenosi Gardijan.
Vlasnik kompanije xAI Ilon Mask bio je još kraći: „Dario je u pravu.“
„AI bi mogao da ubije sve ljude“
Kokson nije jedini istraživač Anthropica koji javno upozorava na mogućnost katastrofalnog ishoda.
Naučnik te kompanije Evan Hubinger podržao ga je na društvenoj mreži X i izneo još dramatičniju procenu.
„Mi zaista iskreno verujemo da bi AI mogao da ubije sve ljude. Lično mislim da je verovatnoća za to veća od 10 odsto u narednoj deceniji“, napisao je Hubinger, prenosi BBC.
Kokson je bio još direktniji kada je objavio razloge svog odlaska iz Anthropica.
On je tada tvrdio da Anthropic i OpenAI jure ka stvaranju superinteligencije koja bi bila sposobna da sama sebe unapređuje, ocenjujući da se time „kockaju našim životima“.
Prema njegovim rečima, ljudi koji razvijaju ovu tehnologiju zaista veruju da bi ona mogla da dovede do smrti čovečanstva do kraja ove decenije.
Anthropic, međutim, odbacuje tvrdnju da neodgovorno pristupa potencijalnim rizicima.
Kompanija je za BBC saopštila da je od početka otvoreno govorila da će AI doneti „ogromne koristi, ali i rizike bez presedana“, uz tvrdnju da njeni modeli imaju neke od najstrožih bezbednosnih mehanizama u industriji.
Deo Silicijumske doline upozorenja smatra „besmislicom“
Ipak, oko ovakvih prognoza ne postoji stručni konsenzus.
Direktor platforme Hugging Face Kleman Delang kritikovao je pridavanje tolikog značaja Koksonovim procenama, dok je direktor Nvidije Džensen Huang ranije mogućnost da bi AI mogao da dovede do kraja čovečanstva opisao kao „potpunu besmislicu“, navodi BBC.
Postoji i druga vrsta kritike – da velike AI kompanije mogu imati poslovni interes da svoje sisteme predstavljaju kao izuzetno moćne i opasne, ali i da bi kroz strožu regulaciju mogle da otežaju ulazak novih konkurenata na tržište.
Kokson, međutim, naglašava da nije protiv razvoja veštačke inteligencije.
Naprotiv, veruje da AI može pomoći u lečenju bolesti, ubrzati naučna otkrića i dramatično poboljšati kvalitet života.
Njegov problem je, kako kaže, brzina kojom se trenutno odvija tehnološka trka.
Strah je da bi razvoj sposobnosti AI sistema mogao napredovati brže od bezbednosnih mehanizama koji treba da ih kontrolišu.
„Ne može samo Amerika da uspori“
Kokson zato smatra da eventualno usporavanje razvoja najmoćnijih AI sistema ne može biti ograničeno samo na američke kompanije.
Ako bi jedna kompanija ili država usporila, dok druge nastave istim tempom, trka bi se samo nastavila.
Zbog toga, prema njegovom mišljenju, bilo kakva ozbiljna kontrola morala bi da bude međunarodno koordinisana, uključujući i Kinu.
U suprotnom, upozorava, trka između kompanija mogla bi da preraste u još opasniju međunarodnu trku za veštačkom superinteligencijom.
