Kompanija Anthropic, jedna od vodećih svetskih laboratorija za razvoj veštačke inteligencije i tvorac AI asistenta Claude, pozvala je najveće tehnološke kompanije i vlade da uspostave međunarodni mehanizam koji bi omogućio privremeno usporavanje ili zaustavljanje razvoja najnaprednijih AI sistema ukoliko oni postanu previše rizični.
U opširnom blogu objavljenom početkom juna, kompanija upozorava da sposobnosti najsavremenijih modela rastu tolikom brzinom da bi u budućnosti mogli da razvijaju svoje sopstvene naslednike, odnosno naprednije verzije sebe, uz minimalno ili bez ljudskog učešća. Anthropic smatra da bi svet zbog toga trebalo da ima mogućnost da, ukoliko rizici postanu preveliki, privremeno uspori ili pauzira razvoj najnaprednijih AI sistema.
Strah od samostalnog unapređivanja AI
Kompanija navodi da se AI modeli ubrzano približavaju onome što istraživači nazivaju „rekurzivnim samounapređivanjem“ (recursive self-improvement) – situaciji u kojoj bi sistemi mogli sami da dizajniraju i razvijaju nove, sposobnije verzije sebe.
Anthropic ističe da se to još nije dogodilo, ali upozorava da se razvoj kreće u tom pravcu i da bi, ukoliko se takva sposobnost pojavi, bilo znatno teže nadzirati ponašanje ovakvih sistema.
Ne traže jednostranu zabranu
Za razliku od pojedinih ranijih poziva na potpuno zaustavljanje razvoja veštačke inteligencije, Anthropic ne predlaže da jedna kompanija ili jedna država sama prekine razvoj.
Predlog podrazumeva koordinisanu akciju vodećih AI kompanija i država, uz mogućnost provere da svi zaista poštuju dogovor, kako nijedan učesnik ne bi stekao tehnološku prednost tajnim nastavkom razvoja.
Posebna zabrinutost zbog sajber bezbednosti i bioloških rizika
Kompanija navodi da sve sposobniji AI sistemi mogu predstavljati rizik i u oblastima poput sajber bezbednosti i biološke sigurnosti, zbog čega smatra da razvoj bez odgovarajućih zaštitnih mehanizama nije održiv.
Hoće li konkurencija pristati?
Iako je poziv Anthropic-a izazvao veliku pažnju, ostaje otvoreno pitanje da li će najveći konkurenti prihvatiti ovakav predlog.
Na tržištu veštačke inteligencije trenutno traje intenzivna trka u kojoj kompanije poput OpenAI-ja, Google-a i drugih ulažu milijarde dolara u razvoj sve moćnijih modela i infrastrukture. Upravo zbog toga brojni analitičari smatraju da bi postizanje međunarodnog dogovora moglo biti izuzetno teško.
Ipak, Anthropic poručuje da bi svet trebalo da ima spreman mehanizam za privremeno usporavanje razvoja ukoliko procena rizika pokaže da tehnologija napreduje brže nego što društvo može bezbedno da je kontroliše.
