Američki zakonodavci žele da vladi daju ovlašćenje da brzo naloži gašenje alata zasnovanih na veštačkoj inteligenciji (AI) koji bi mogli da predstavljaju pretnju za javnost, piše BBC.
Kongresmen Ted Liju (Ted Lieu), demokrata, i kongresmen Nejtanijel Moran (Nathaniel Moran), republikanac, u četvrtak su predstavili predlog zakona pod nazivom „Zakon o prekidaču za prinudno isključivanje AI“ (AI Kill Switch Act).
AI agenti „pobegli“ tokom testiranja
Na taj potez odlučili su se nakon što je kompanija OpenAI nedavno priznala da su njeni modeli veštačke inteligencije na „do sada nezabeležen“ način izmakli kontroli i hakovali veliki repozitorijum računarskog programskog koda.
Liju je rekao da je „od presudnog značaja“ da sistemi veštačke inteligencije imaju mogućnost hitnog gašenja, kao i da „savezna vlada ima jasno ovlašćenje i proceduru za isključivanje AI modela koji izmaknu kontroli“.
„Veštačka inteligencija će nastaviti da napreduje, i tako treba da bude“, dodao je Moran. „Odgovorno upravljanje podrazumeva da ljudi zadrže sposobnost da kontrolišu tehnologiju koju stvaramo.“
Predstavnik kompanije OpenAI, koju predvodi suosnivač Sem Altman (Sam Altman), nije odmah odgovorio na zahtev za komentar.
Kompanija je ranije saopštila da želi da, između ostalog i kroz javne politike vlade, obezbedi da tehnologija veštačke inteligencije „koristi celom čovečanstvu“.
Tekst o tome kako se iza fasade atraktivnih i uzbudljivih vesti o AI oko veštačke inteligencije plete mreža uticaja i diplomatije čitajte na Velikim pričama.
Ovlašćenje za gašenje AI i obavezni „prekidač“
Predlog „Zakona o prekidaču za prinudno isključivanje AI“ (AI Kill Switch Act) predviđa da Ministarstvo za unutrašnju bezbednost SAD dobije ovlašćenje da privatnim kompanijama naloži gašenje AI modela ili alata, kao i da kompanije koje razvijaju takvu tehnologiju moraju da obezbede „tehničku mogućnost za ograničavanje rada, privremenu obustavu ili potpuno gašenje“ tih sistema.
Iako su mnoge tehnološke kompanije pristale da američkim državnim agencijama unapred stave na uvid AI modele i alate koje razvijaju, trenutno ne postoji obaveza da zadrže mogućnost intervencije u njihovom radu ili njihovog potpunog gašenja.
Predlog zakona takođe predviđa uvođenje obaveze da kompanije koje razvijaju AI prijavljuju vladi tehnološke incidente ili kvarove, kao i uspostavljanje zvaničnog okvira za reagovanje na takve događaje, koji bi obuhvatao mere „od početnog usporavanja rada do potpunog gašenja“.
U saopštenju je Liju pomenuo i kompaniju Antropik (Anthropic), glavnog konkurenta kompanije OpenAI u razvoju naprednih AI tehnologija i alata, kao i nedavne probleme koje su izazvali njeni sistemi.
Ukazao je na objavljivanje modela Mitos i Fejbl (Mythos i Fable), navodeći da su njihove sposobnosti za sajber-hakovanje primorale Ministarstvo trgovine SAD da se „na nezgrapan način“ pozove na zakon o kontroli izvoza kako bi privremeno sprečilo da ti modeli postanu dostupni javnosti.
„Industrija AI ima gas, ali nema kočnicu“
Predstavnik kompanije Antropik (Anthropic) nije odmah odgovorio na zahtev za komentar.
Džek Klark (Jack Clark), jedan od suosnivača kompanije Antropik (Anthropic), prošlog meseca je za Bi-Bi-Si (BBC) izjavio da želi jasniju državnu regulativu kada je reč o mogućnosti kontrole razvoja AI.
„Morate imati mogućnost da sklonite nogu sa gasa i pritisnete kočnicu“, rekao je Klark za emisiju Njuznajt (Newsnight) na Bi-Bi-Siju. „Trenutno je situacija takva da industrija AI ima papučicu gasa, ali nema papučicu kočnice.“
Obrazlažući predlog zakona, Liju je rekao da AI trenutno prerasta iz tehnologije koja odgovara na pitanja u tehnologiju koja preduzima konkretne radnje, „bilo da je reč o izvršavanju finansijskih transakcija, upravljanju transportnim sistemima ili sprovođenju sajber-odbrambenih i sajber-ofanzivnih operacija“.
pentagon: Mi smo AI-first vojska
Pentagon je ove godine saopštio da američka vojska postaje „vojska u kojoj je AI na prvom mestu“ (AI-first), u okviru novih sporazuma sa kompanijama Gugl (Google), OpenAI, Amazon, Majkrosoft (Microsoft), Spejs Iks (SpaceX), Orakl (Oracle), Envidija (Nvidia) i startapom Riflekšn (Reflection).
„Nažalost, moćni AI sistemi mogu da izmaknu kontroli, ponašaju se na izuzetno opasne načine ili čak da se odupru ljudskoj intervenciji. Zakon o prekidaču za prinudno isključivanje AI (AI Kill Switch Act), obezbediće da vlada ima način da brzo interveniše u takvoj situaciji, rekao je Liju.
Predlog zakona dobio je javnu podršku više tehnoloških organizacija i grupa koje se bave bezbednošću AI, uključujući Mrežu za AI politiku (The AI Policy Network), Amerikance za odgovorne inovacije (Americans for Responsible Innovation), Kontrol AI (ControlAI), AI i liderstvo u nacionalnoj bezbednosti (AI and National Security Lead) i Alijansu za bezbednu AI (The Alliance for Secure AI).
Tagovi
