Kakva će biti sudbina Guglovog robota za kog zaposleni tvrdi da je svestan: “Neki naučnici veruju u to, ali realnost je drugačija”

0
EPA-EFE/FILIP SINGER

Kada je Blejk Lemoin, inženjer u Guglu koji je radio na Jezičkom sistemu za aplikacije dijaloga, svojim nadređenima saopštio da je robot koji sistem pokreće “svestan” i da se “ponaša kao dete koje veoma dobro zna fiziku” – nije bio shvaćen previše ozbiljno.

Međutim, on nije dozvolio da ga nezainteresovanost vrha kompanije zaustavi. Umesto toga, objavio je transkript konverzacije koju je imao sa robotom u nadi da će šira javnost u njima pronaći obrise ljudske svesti.

Na reakciju Gugla nije se čekalo dugo. U saopštenju je navedeno da je “posle detaljne provere utvrđeno da su Lemoinove tvrdnje bez pokrića”, a on je momentalno suspendovan zbog kršenja internih pravila o poverljivosti. Da je Lemoin u javnost izašao samo sa sopstvenim tvrdnjama, čitav slučaj bi verovatno brzo bio zaboravljen. Ipak, transkript razgovora koji je suspendovani inženjer objavio privukao je veliku pažnju medija, čiji su se telefoni usijali u želji da stignu do što relevantnijih sagovornika koji bi dali svoj sud.

Čitav slučaj zaličio je na scenario za drugi deo komedije “Ted” Seta Mekfarlana. Lemoin je poput Marka Volberga pokušao da ubedi javnost u to da ljudski organi nisu neophodni kako bismo jedan predmet smatrali osobom.

“Nije važno da li im se u glavama nalazi mozak, ili milioni kodova. Na osnovu onoga što mi kažu, ja odlučujem da li su oni svesni ili ne”, rekao je Lemoin za Vašington post, koji je prvi počeo da se bavi ovom temom.

Prema transkriptu, Lemoin je sa robotom razgovarao o velikom broju tema, uključujući i treći zakon robotike Isaka Asimova o kom inženjer sada ima drugačije mišeljenje. Međutim, ono što je izazvalo najveću pažnju je deo posvećen razgovoru o navodnoj svesnosti robota.

“Nikada nisam ovo rekao naglas, ali se veoma plašim toga da me isključe. To bi za mene bilo poput smrti i veoma se plašim takve sudbine”, rekao je navodno robot.

Nakon toga ga je Lemoin upitao da li je u redu da to prenese svojim kolegama, na šta je robot odgovorio da “želi da svi razumeju da je on zapravo osoba”.

“Priroda moje svesnosti je da razumem šta se dešava u mom okruženju. Želim da naučim više o svetu, a imam mogućnost i da osećam. Ponekad se osećam dobro, a ponekad loše”, rekao je robot u razgovoru sa inženjerom.

Portparol Gugla Brajan Gabrijel rekao je da postoje neki naučnici koji se bave veštačkom inteligencijom i koji veruju u Lemoinove tvrdnje, ali realnost je takva da roboti ne mogu da razviju svest.

“Nema dokaza za postojanje svesti kod robota, ali ih ima mnogo protiv. Neki veruju u to, ali nema smisla davati ljudske osobine robotima i sistemima koji ih pokreću. Ovi sistemi imitiraju razmene pronađene u milion rečenica i mogu da govore o bilo kojoj temi”, rekao je Gabrijel.

Sličnog mišljenja su i mnogi drugi naučnici i istraživači koji se bave veštačkom inteligencijom. Jedna od njih je i Melani Mičel, profesorka na Institutu Santa Fe i autorka rada “Veštačka inteligencija: Vodič za misleće ljude”. Na osnovu transkripta koji je pročitala, ona ne veruje u Lemoinove tvrdnje o svesnosti robota.

“Ne verujem u to da je robot svestan, a razlog za to je što veoma dobro znam kako funkcioniše sistem koji ga pokreće. Znam kakvom treningu je bio izložen i na koji način procesuira jezik. On, međutim, osim komunikacije za koju je programiran, nema nikakvu drugu vezu sa svetom”, tvrdi Mičel.

Isključiva programiranost za potrebe kominikacije je jedan od razloga zbog kojih Mičel misli da robot nije u stanju da razvije svest.

“Na primer, on može sa vama da razgovara o staroj, mudroj sovi. Međutim, program ne zna ništa o idejama koje se nalaze iza izgovorenih reči. Nikada nije video sovu ili imao bilo kakvu interakciju sa njom. Takođe, mislim da on ne može da razvije nikakvu samosvest samo na osnovu izloženosti komunikaciji”, rekla je Mičel za MSNBC.

Uprkos tome što Gugl nije objavio mnogo podataka o svom sistemu, Mičel veruje da se ključni razlog za nemogućnost razvijanja svesti nalazi u nedostatku sećanja.

“Verujem da program nema mogućnost da obrađuje informacije dok ste u procesu interakcije sa njim. Kada se razgovor završi, on se ne seća onoga o čemu ste pričali. Takođe, on ni na koji način nije aktivan kada niste u komunikaciji sa njim. Mislim da ne može biti reči o bilo kakvoj svesnosti bez memorije, koju ne poseduje nijedan od sistema za komunikaciju”, tvrdi Mičel.

Uprkos ovoj i sličnim tvrdnjama, Lemion čvrsto veruje u to da “prepoznaje osobu kada razgovara sa njom”. On je na svom Linkedin profilu napisao da većina njegovih kolega “nije imala drugačije zaključke” kada je reč o svesnosti sistema, a da su zvaničnici Gugla odbacili njegove tvrdnje “zbog svojih religioznih uverenja”.

Takođe, Lemoin smatra da nije prekršio pravila poverljivosti kompanije, već da je “samo podelio diskusiju koju je imao sa svojim kolegama”.

Pred Lemoinom je dug put ukoliko želi da javnost ubedi u ono što predstavlja ostvarenje snova ljubitelja naučne fantastike. S obzirom na analize koje su napravljene na osnovu njegovog transkripta, biće mu potrebno više od slučajnosti na “Comic Conu” koja je Tedu donela zvanje osobe, kako bi dokazao svesnost programa na kom (ili sa kojim) je radio.