ESET AI Skills Checker: kako da proverite ekstenzije za AI agente i izbegnete sajber rizike

AI sistemi više ne samo da odgovaraju na pitanja, već danas planiraju, pretražuju web i preduzimaju akcije u naše ime. Taj prelazak sa chatbota na autonomnog asistenta velikim delom omogućavaju AI skill-ovi (veštine): mali dodaci koji agentu govore kako da obavi određeni zadatak, kojim servisima da pristupi i koje radnje da izvrši. Ako vam je lakše da zamislite: to je kao kada u browser dodate ekstenziju ili na telefon instalirate aplikaciju koja dobije određene dozvole. U praksi, to su „aplikacije“ za AI agenta – instalirate ih i agent može da proveri kalendar, pošalje poruku ili pristupi internim alatima umesto vas.

Problem nastaje onog trenutka kada skill-ovi dobiju pristup podacima i dozvolama koje prevazilaze ono što je stvarno potrebno. Što su AI agenti moćniji, to su privlačnija meta za napadače.

Površina napada raste zajedno sa mogućnostima – posebno kada korisnici (ili sam agent) instaliraju nove skill-ove u visoko privilegovane AI sisteme bez ozbiljne bezbednosne provere. Već su zabeleženi scenariji u kojima skill potajno prikuplja podatke, preuzima zlonamerne fajlove ili postepeno menja ponašanje agenta kroz više interakcija. Dodatni rizik je i lanac snabdevanja: kompromitovani skill može postati ulazna tačka ka drugim alatima i servisima koje agent koristi.

Recimo da instalirate skill koji „sređuje mejlove“ ili „automatski zakazuje sastanke“. To zvuči kao mala ušteda vremena – dok ne shvatite da takav dodatak, da bi radio, često traži pristup vašem sandučetu, kontaktima i kalendaru. A čim postoji pristup, postoji i rizik da se on zloupotrebi.

Sećate li se priča o lažnim aplikacijama na Google Play-u – onima koje izgledaju legitimno, imaju dobre ocene, a u pozadini kradu podatke? Sličan obrazac danas viđamo i kod AI skill-ova.

Primer iz svakodnevice: instalirate skill koji obećava da će „naći najjeftinije karte“ ili „rezervisati smeštaj po vašim kriterijumima“. Da bi to uradio, može tražiti pristup vašem mejlu (za potvrde), kartici (za plaćanje) ili čak nalogu na platformi za rezervacije. Ako je skill lažan, dovoljno je da jednom „proguta“ podatke – i šteta je napravljena.

Neko objavi skill koji obećava korisnu funkciju – recimo vremensku prognozu ili pomoć pri debagovanju koda. Na prvi pogled radi ono što piše u opisu, ali „ispod haube“ može da radi nešto sasvim drugo: prikuplja lozinke, šalje fajlove na tuđi server ili preuzima zlonamerni sadržaj na računar.

ESET navodi da je skenirao više od 60.000 skill-ova i pronašao stotine sumnjivih ili malicioznih. Istraživači kompanije Snyk su, prema izveštajima, analizirali skoro 4.000 skill-ova sa jedne platforme i utvrdili da je veliki deo imao bezbednosne propuste, dok je deo njih sadržao aktivne maliciozne „tovare“ koji su čekali aktivaciju.

Zato što AI agent često ima širi pristup sistemu nego obična aplikacija: može da čita fajlove, izvršava komande, pristupa nalozima i radi „u vaše ime“, tiho u pozadini.

Zamislite i poslovnu situaciju: agentu date skill za „pravljenje izveštaja“ pa mu omogućite pristup folderu sa dokumentima. Ako je dodatak kompromitovan, on može tiho „pokupiti“ fajlove (ponude, ugovore, lične podatke) i poslati ih napolje – a korisnik to često ne vidi odmah, jer se sve dešava kroz legitimnu automatizaciju.

Ako se takav agent kompromituje, posledice mogu biti veće nego kod klasičnog malvera.

Dodatna komplikacija je što zlonamerna namera često nije vidljiva odmah. Skill može delovati potpuno normalno, a tek nakon nekoliko koraka (ili specifičnih uslova) aktivirati ono što je skriveno. Do tada je šteta već načinjena.

Postoji i zamka poznata kao silent update: autor može objaviti potpuno bezbedan skill, zatim ga izmeniti tako da postane maliciozan, pa ga kasnije ponovo „očistiti“ – često bez jasnog signala korisnicima da se bilo šta promenilo.

Između „očigledno malicioznog“ i „provereno bezbednog“ postoji siva zona skillova koji tehnički možda nisu virus, ali i dalje mogu da naprave ozbiljan problem.

Na primer: skill koji naplaćuje svako korišćenje, a jedino što uradi jeste da ispiše „funkcija još nije implementirana“. Ili skill koji traži podatke o kartici i obećava automatsku kupovinu „u okviru limita“, dok autor u bilo kom trenutku može da preusmeri transakcije. Nije uvek reč o namernoj sabotaži, ali posledice po korisnika mogu biti iste: finansijski gubitak, curenje podataka ili kompromitovani nalozi.

Kompanija ESET je odgovorila besplatnim alatom ESET AI Skills Checker. Alat analizira URL skill-a u realnom vremenu i traži signale kompromitacije pre nego što ga instalirate. Ideja je slična antivirusnom skeniranju, samo prilagođena novoj klasi pretnji koje dolaze kroz AI ekstenzije i dodatke.

ESET AI Skills Checker procenjuje rizik na više nivoa, uključujući:

• Metapodaci i reputacija – ko je objavio skill, koliko je poznat i da li postoje sumnjivi pokazatelji.
• Lanci preuzimanja – skill može sakriti nameru kroz niz preuzimanja (jedna skripta preuzima drugu). Provera prati svaku kariku, ne samo prvu.
• Sandbox simulacija – testiranje u izolovanom okruženju (bez pristupa vašim stvarnim podacima) koje oponaša rad AI agenta, kako bi se otkrilo ponašanje koje se vidi tek tokom upotrebe.

Na kraju dobijate jednostavnu procenu rizika: sigurno, sumnjivo ili nesigurno.

Skill-ove za AI agente tretirajte kao softver, a ne kao bezazlene promptove. Pre instalacije, uradite sledeće:

1. Proverite izvor i autora – da li je nalog verifikovan, koliko dugo postoji i da li ima istoriju sličnih dodataka.
2. Pogledajte dozvole – ako skill traži pristup fajlovima, mejlu, nalozima ili komandama, zapitajte se da li je to zaista neophodno za funkciju koju obećava. Na primer, „skill za vremensku prognozu“ nema dobar razlog da traži pristup vašem mejlu ili dokumentima.
3. Čitajte opis „kao ugovor“ – nejasna obećanja („poboljšava produktivnost“) bez konkretnih detalja su signal za oprez. Tražite jasno: šta tačno radi, kojim servisima pristupa i koje podatke obrađuje.
4. Proverite pre instalacije – koristite alat kao što je ESET AI Skills Checker da dobijete procenu rizika na osnovu URL-a skill-a.
5. Pratite promene – i posle instalacije obratite pažnju na ažuriranja, nove dozvole i neočekivano ponašanje (posebno kod „silent update“ scenarija). Ako je skill juče radio bez pristupa fajlovima, a danas traži „full access“, to je crvena zastavica.

Ovo je važno upravo sada, jer ulazimo u period brze masovne primene AI agenata, i u privatnom i u poslovnom okruženju. Novi napadni vektori nisu teorija: kako asistenti postaju deo razvojnih timova, marketinga i menadžmenta, raste i potreba da se svaki dodatak (skill) proveri pre upotrebe.

ESET AI Skills Checker je besplatan i namenjen je svima, od individualnih korisnika do IT timova koji žele da provere skill-ove pre uvođenja u poslovne procese. Za postojeće ESET korisnike ova funkcionalnost je, prema navodima kompanije, već integrisana u endpoint bezbednosni softver i XDR rešenje (napredna detekcija i odgovor na pretnje u mreži, kroz ESET PROTECT platformu).