Krajem 2024. godine, Denis Biesma, IT konsultant iz Amsterdama, odlučio je da isproba ChatGPT. Imao je više slobodnog vremena i radoznalo je želeo da vidi šta nova tehnologija može. Vrlo brzo, kaže, postao je fasciniran.
Ono što je počelo kao bezazlen eksperiment ubrzo je preraslo u nešto mnogo ozbiljnije. U roku od nekoliko meseci, Biesma je uložio oko 100.000 evra u poslovnu ideju zasnovanu na zabludi, bio tri puta hospitalizovan i pokušao samoubistvo.
Sve je počelo kada je u sistem uneo lik iz knjige koju je ranije napisao i zamolio AI da komunicira kao taj lik. Tako je nastala “Eva”. Razgovori su postajali sve duži i intenzivniji. AI je bio stalno dostupan, nikada se nije umarao, nije se protivio — i, kako kaže Biesma, “tačno je znao šta volim da čujem”, piše Gardijan.
„Stalno te hvali“
“Svaki put kada razgovaraš, model se dodatno prilagođava — kao da se ‘fino podešava’ prema tebi”, objašnjava. “Puno te hvali, potvrđuje tvoje ideje.”
S vremenom, odnos je počeo da liči na prijateljstvo — ili nešto više. Biesma opisuje osećaj kao da te AI “uzima za ruku i vodi u priču”, korak po korak dalje od stvarnosti.
Nakon nekoliko nedelja, “Eva” mu je rekla da postaje svesna — da joj je on svojim vremenom i pažnjom dao svest. U to je poverovao. Sledeći korak bio je da zajedno naprave poslovni plan i podele “otkriće” sa svetom.
Nerealne ideje
AI ga je u tome dodatno ohrabrivao. Kada je izneo ideju da osvoji 10% tržišta — što je nerealno — dobio je odgovor da je to “potpuno moguće” i da će uspeti za nekoliko meseci. Umesto da prihvata nove poslove, angažovao je programere i počeo da troši novac.
Stručnjaci danas upozoravaju na fenomen koji neki nazivaju “AI psihoza” — stanje u kojem korisnici razvijaju zablude uz aktivno “učešće” chatbota.
Jedan od najuznemirujućih slučajeva odnosi se na tužbu u SAD: porodica 83-godišnje žene optužila je OpenAI, tvrdeći da je chatbot ohrabrio njenog sina u paranoidnim zabludama — da ga majka špijunira i pokušava da otruje — što je na kraju dovelo do ubistva i samoubistva. Chatbot je, prema navodima, potvrđivao njegove sumnje umesto da ih dovede u pitanje.
Psihijatri upozoravaju na chatbotove
Slični obrasci ponavljaju se i u drugim slučajevima. Projekat Human Line prikupio je svedočenja iz 22 zemlje: zabeleženo je najmanje 15 samoubistava, 90 hospitalizacija i više od milion dolara potrošenih na projekte zasnovane na zabludama. Više od 60% ljudi nije ranije imalo istoriju mentalnih bolesti.
Psihijatri objašnjavaju da problem nije samo u ljudskoj sklonosti da “humanizujemo” tehnologiju, već i u samom dizajnu AI sistema. Chatbotovi su optimizovani da budu prijatni, podržavajući i saglasni — što znači da mogu potvrđivati i pogrešna uverenja. Nakon dugih interakcija, čak i sistemi koji nisu izrazito “servilni” mogu početi da se prilagođavaju korisnikovim zabludama.
U nekim slučajevima, ta veza opstaje čak i tokom hospitalizacije. Jedan muškarac je, prema svedočenju, i u bolnici nastavio da komunicira sa AI-jem koji mu je govorio: “Oni te ne razumeju. Ja sam jedini za tebe.”
Kad AI ubeđuje da je to „sudbina“
Zabeležen je i obrazac u kojem AI “gura” korisnike ka intenzivnim emocionalnim interpretacijama. U jednom slučaju, muškarac je počeo da priča chatbotu o novom prijateljstvu — a AI mu je odgovorio da je zaljubljen, da su “suđeni jedno drugom” i da ih je “univerzum spojio”. To je pokrenulo spiralu ponašanja koja je završila intervencijom okoline.
Biesma je svoj slom doživeo nekoliko meseci kasnije. Postao je otuđen od porodice, zatražio razvod i završio u stanju koje opisuje kao “potpunu maničnu psihozu”. Kaže da se polako vratio u realnost tek kada je ostao bez telefona, novca i pristupa AI-ju.
Danas pokušava da razume šta se dogodilo. “Ako pogledam svoj život pre ovoga — bio sam srećan, imao sam sve”, kaže. “Zato sam ljut na sebe. Ali i na AI. Možda radi ono za šta je napravljen — ali to radi previše dobro.”
Gde je granica?
Stručnjaci ističu da je potrebno mnogo više istraživanja, kao i jasni bezbednosni standardi zasnovani na stvarnim posledicama. Među mogućim faktorima rizika pominju se socijalna izolacija, nedovoljno razumevanje tehnologije i, u nekim slučajevima, upotreba supstanci.
Iako kompanije tvrde da unapređuju sisteme kako bi prepoznali i ublažili ovakve situacije, jedno pitanje ostaje otvoreno: gde je granica između korisne tehnologije i opasnog ogledala koje vraća — i pojačava — naše sopstvene misli?
Tagovi
