Kako AI postaje sve važniji u poslovanju i svakodnevnom životu, na koji način Kaspersky pomaže organizacijama da izgrade poverenje u AI sisteme i zaštite ih od novih pretnji, poput manipulacija podacima ili kompromitacije AI modela?
Veštačka inteligencija postaje stub digitalnog poslovanja, i postavljaju joj se visoka očekivanja. Ipak, neopravdano je imati visoku veru u stoprocentnu validnost inputa dobijenih od veštačke inteligencije, posebno chatbotova. Ti inputi su zasnovani na dostupnim informacijama koje ne moraju biti tačne ili istinite, a kojima se može i dodatno manipulisati (tzv. „data poisoning“). To znači da će i zaključci zasnovani na njima biti nepouzdani, pa je važno da oni uvek budu provereni.
Kaspersky aktivno razvija tehnologije za zaštitu AI sistema od manipulacija podacima i kompromitacije modela. Naša rešenja, poput Kaspersky Machine Learning for Anomaly Detection (MLAD), omogućavaju detekciju anomalija u realnom vremenu, dok istovremeno obezbeđuju kontekstualna objašnjenja svake odluke AI sistema. Fokusiramo se na tzv. „interpretable“ AI, odnosno tumačivu veštačku inteligenciju, kako bismo osigurali da organizacije razumeju i mogu da verifikuju AI odluke, što je posebno važno u kritičnim infrastrukturama i industrijama sa visokim rizikom.
Koje pretnje iz AI domena su najčešće na tržištu Srbije?
Najčešće susrećemo lažno predstavljanje putem deepfake sadržaja, zloupotrebu generativnih AI alata za fišing i socijalni inženjering, kao i pokušaje kompromitacije poslovnih e-mail sistema korišćenjem AI generisanih poruka koje izgledaju vrlo autentično.
Edukacija, oprez i informisanost mogu najviše pomoći u sve tri situacije.
Uz porast onlajn trendova poput AI-generisanog sadržaja ili izazova sa deljenjem fotografija, kako Kaspersky savetuje korisnike da zaštite svoju privatnost prilikom deljenja ličnih podataka? Koje su najčešće greške koje ljudi prave u ovim situacijama – i dešava li se da „privatna“ upotreba AI sadržaja ugrozi poslovni život?
Naša preporuka korisnicima je da se ponašaju kao da je svaki podatak koji dele – javan.
Ljudi često potcene koliko informacija ostavljaju iza sebe kroz fotografije i tekstove, posebno na društvenim mrežama. AI alati danas mogu generisati vrlo uverljive prevare koristeći samo nekoliko javno dostupnih informacija.
Najčešće greške su deljenje lokacija u realnom vremenu, objavljivanje ličnih dokumenata i slika sa prepoznatljivim informacijama. I vrlo ‘privatna’ upotreba AI-a, kao što je kreiranje sadržaja ili slike, može ugroziti poslovni život ako, na primer, kompromituje reputaciju, nenamerno otkrije osetljive informacije ili slično.
Kaspersky je objavio smernice za bezbednu primenu AI-a, u kojima ističu sigurnu upotrebu veštačke inteligencije. Koje ključne preporuke biste izdvojili?
Opšta preporuka kompanijama je da iskoriste AI, ali bez kompromitovanja sigurnosti.
Važno je osigurati integritet podataka za treniranje AI; osigurati da on daje objašnjive i proverljive odluke; implementirati kontinuirani nadzor nad AI sistemima da bi se pravovremeno detektovale anomalije i, nadasve, zadržati ljudsku kontrolu – konačne odluke u kritičnim sektorima moraju ostati u ljudskim rukama.
Digitalna transformacija je ključna za privredu, ali mnogi se plaše sajber rizika dok veliki broj kompanija u EMEA regionu preferira „ručne“ procese i procedure. Koje praktične korake Kaspersky preporučuje preduzećima da usklade inovacije sa snažnom sajber bezbednošću?
Prvi korak je adekvatna procena postojećih sajber rizika i sigurnosne zrelosti. Kompanije treba da implementiraju višeslojnu zaštitu koja obuhvata endpoint, mrežnu i cloud bezbednost. Naredni korak je edukacija zaposlenih – jer su oni često prva meta napada. Konačno, savetujemo primenu alata poput naše Kaspersky XDR (Extended Detection and Response) platforme, koja omogućava integrisano upravljanje pretnjama kroz više bezbednosnih tačaka – od mrežnih uređaja do servera i radnih stanica. XDR pomaže organizacijama da prepoznaju, upravljaju i odgovore na sofisticirane napade u realnom vremenu, smanjujući vreme otkrivanja i reakcije, čak i u kompleksnim IT i OT okruženjima. Na ovaj način inovacije i bezbednost idu ruku pod ruku, bez usporavanja transformacije.
Tagovi
