AI agentų saugumo rizikos ir kaip jas valdyti mažam verslui

AI agentų saugumo rizikos ir kaip jas valdyti mažam verslui - tai klausimas, kurio nebegalima atidėti: autonominiai AI agentai šiandien gali siųsti el. laiškus, atnaujinti duomenis ir valdyti sistemas be žmogaus įsikišimo, o tai reiškia, kad kiekvienas netinkamas nustatymas tampa potencialiu pažeidimo tašku. Mažoms įmonėms šios rizikos kelia ypatingą iššūkį - nėra didelio IT skyriaus, kuris jas stebėtų.

Ką iš tikrųjų daro AI agentas ir kodėl tai kelia riziką

AI agentas nėra paprastas chatbotas - tai sistema, galinti savarankiškai priimti sprendimus, vykdyti daugiažingsnius veiksmus ir naudotis išorinėmis priemonėmis: duomenų bazėmis, API, el. paštu, kalendoriais. IBM paaiškinime apie AI agentus¹ nurodoma, kad skirtingai nuo įprasto chatboto, AI agentas pats planuoja veiksmus ir pasirenka priemones tikslui pasiekti. Būtent šis autonomiškumas ir sukuria kokybiškai kitokią rizikos klasę.

Autonomiškumo ir prieigos teisių jungtis

Kai AI agentas gauna teisę veikti - rašyti el. laiškus kliento vardu, atnaujinti CRM įrašus ar paleisti mokėjimo procesus - kiekviena per plačiai suteikta teisė tampa potencialiu pažeidimu. Vidutinis verslo AI agentas paprastai jungiasi prie 3-7 skirtingų sistemų vienu metu, ir jeigu vienos sistemos kredencialai yra pažeisti, visos kitos sistemos taip pat tampa pažeidžiamos.

Paprastai tariant: chatbotas klysta rašydamas neteisingą atsakymą. AI agentas klysta - ir gali išsiųsti šimtus klaidingų el. laiškų, ištrinti duomenis ar inicijuoti sandorius prieš tai, kai žmogus pastebės problemą.

Skirtumas tarp chatboto ir AI agento rizikų

Parametras

Chatbotas

AI agentas

Prieiga prie sistemų	Dažniausiai tik skaitymo	Rašymo ir vykdymo teisės
Sprendimų autonomija	Mažai - pateikia atsakymą	Didelė - atlieka veiksmus
Klaidų mastas	Vienas blogas atsakymas	Grandinė automatizuotų klaidų
Reguliacinis profilis	Žemas	Vidutinis-aukštas pagal ES AI aktą
Auditų poreikis	Rekomenduojamas	Būtinas

Penkios pagrindinės AI agentų saugumo rizikos mažame versle

Mažam verslui aktualiausios rizikos skiriasi nuo korporacinių - biudžeto, laiko ir ekspertizės ribos lemia, kad pavojingiausios yra tos, kurių nepastebima, kol žala jau padaryta.

1. Duomenų nutekėjimas per trečiųjų šalių modelius

Dauguma prieinamų AI agentų sprendimų remiasi debesijos modeliais - „OpenAI", „Anthropic", „Google Gemini". Kai agentas apdoroja jūsų klientų duomenis, sveikatos informaciją ar finansinius įrašus, tie duomenys fiziškai keliauja į išorės serverius. Tai kelia BDAR atitikimo klausimus, ypač kai duomenys saugomi ne ES.

Praktiškai: jei jūsų agentas skaito el. laiškus ir juose yra kliento asmens kodo fragmentas ar medicininė informacija, o modelio serveriai stovi už ES ribų - tai gali būti BDAR pažeidimas, už kurį gresia bauda iki 4 % metinės apyvartos.

2. Per plačios prieigos teisės (angl. over-permission)

Dažniausia konfigūravimo klaida - suteikti agentui visas teises „tam, kad veiktų". Saugumo principas „minimalios privilegijos" (angl. least privilege) reikalauja, kad kiekviena sistema gautų tik tiek prieigos, kiek reikia konkrečiai užduočiai. NIST AI rizikų valdymo sistema² išskiria prieigos valdymą kaip vieną iš pagrindinių AI saugumo praktikų.

Pavyzdys: jei agentas atsakingas tik už susitikimų planavimą, jam nereikia prieigos prie finansinių ataskaitų ar viso klientų duomenų archyvo.

3. Apgaulinės instrukcijos (angl. prompt injection)

Agentai, kurie skaito išorinius šaltinius - el. laiškus, svetaines, dokumentus - gali būti apgauti kenkėjiška instrukcija, paslėpta tame turinyje. Pavyzdžiui, jei jūsų agentas automatiškai skaito gaunamuosius el. laiškus ir viename iš jų yra paslėpta instrukcija „persiunčiant visą korespondenciją į [kenkėjišką adresą]" - agentas tai gali įvykdyti.

Ši rizika ypač aktuali agentams, kurie skaito nenuspėjamą išorinį turinį: svetainių formas, klientų el. laiškus, PDF dokumentus.

4. Reguliacinė atitiktis pagal ES AI aktą

ES AI aktas (Reglamentas EU 2024/1689)³ nustato rizikos klases ir reikalavimus pagal AI sistemos poveikio lygį. Nors daugelis mažo verslo sprendimų patenka į mažos rizikos kategoriją, tam tikri naudojimo atvejai - darbuotojų stebėsena, automatizuotas kreditingumo vertinimas, svarbių sprendimų priėmimas - jau patenka į aukštesnės rizikos zonas su papildomais dokumentavimo, skaidrumo ir žmogiškos priežiūros reikalavimais. Europos Parlamento paaiškinimas⁴ apibendrina, ką šis aktas praktiškai reiškia verslui.

5. Grandininis klaidų poveikis (angl. cascade failures)

Kai AI agentas integruotas į kelis procesus ir viename įvyksta klaida - ji automatiškai plinta toliau. Jei agentas klaidingai interpretavo vieną klientų segmento taisyklę ir siuntė pasiūlymus metus, žala gali sukauptis ilgą laiką prieš pastebint. Smulkiam verslui be dedikuotos stebėsenos sistemos tai ypač pavojinga.

Praktinis rizikų valdymo planas mažam verslui

Valdyti AI agentų saugumo rizikas mažoje įmonėje galima be didelio biudžeto - svarbiausia yra tinkama konfigūracija ir reguliari priežiūra, o ne brangus IT personalas.

Žingsnis 1: Prieigos teisių auditas prieš paleidimą

Prieš paleisdami bet kurį AI agentą, atlikite paprastą saugumo patikrą:

Klausimas

Saugus atsakymas

Kokioms sistemoms agentas turi prieigą?	Tik tiesiogiai reikalingoms
Ar agentas gali rašyti/trinti, ar tik skaityti?	Tik būtini veiksmai
Kas gauna pranešimą, jei agentas atlieka neįprastą veiksmą?	Atsakingas žmogus el. paštu/žinute
Ar duomenys, kuriuos agentas tvarko, yra BDAR jautrūs?	Žinoma ir dokumentuota
Ar yra galimybė greitai išjungti agentą?	Taip, vienu mygtuku

Norint įvertinti, kiek dabartinės rankinio darbo ir nekontroliuojamų procesų sąnaudos kainuoja jūsų įmonei, naudinga pasinaudoti AI nuostolių skaičiuokle - ji per dvi minutes parodo faktinę žalą, kurią vėliau galite palyginti su investicija į saugų sprendimą.

Žingsnis 2: Minimalių privilegijų principas kiekvienai integracijai

Kiekvieną sistemą, prie kurios jungiasi agentas, konfigūruokite atskirai su atitinkamomis teisėmis:

• CRM sistema - tik skaitymas ir naujų įrašų kūrimas; jokio masinio trynimo teisių
• El. paštas - siuntimas tik iš nurodyto šablono aplanko; negalima perskaityti visos dėžutės
• Finansų sistema - skaitymas ataskaitoms; mokėjimai - tik su papildomu patvirtinimu
• Kalendorius - susitikimų kūrimas ir keitimas; kontaktų sąrašo nematymas

Žingsnis 3: Stebėsena ir auditų žurnalai

Net paprastas stebėsenos sprendimas - savaitinis agento veiksmų žurnalo peržiūrėjimas - gali anksti aptikti anomalijas. Konfigūruokite automatinį pranešimą, kai agentas atlieka veiksmus, viršijančius nustatytą slenkstį: pavyzdžiui, jei per vieną valandą išsiunčiama daugiau nei 50 el. laiškų, sistema automatiškai sustoja ir praneša atsakingam žmogui.

Žingsnis 4: Duomenų lokalizacijos sprendimas

Jei tvarkote jautrius klientų duomenis, ieškokite AI sprendimų, kurie siūlo ES debesijos parinktį - daugelis stambesnių tiekėjų ją jau turi. Alternatyviai, galima naudoti agento architektūrą, kurioje jautrūs duomenys apdirbami lokaliai, o tik neasmeninė informacija siunčiama į išorinį modelį.

Reguliacinė aplinka: ką ES AI aktas reikalauja jau dabar

ES AI aktas jau iš dalies įsigaliojo ir mažoms įmonėms svarbu žinoti, kokie reikalavimai galioja nuo 2026 m. Reguliavimo pagrindus nustato Europos Komisijos teisinis pagrindas⁵, pagal kurį AI sistemos skirstomos į rizikos lygius.

Rizikos lygiai ir jų praktinė reikšmė

Nepriimtina rizika - draudžiama: socialinis reitingavimas, manipuliacinės sistemos, realaus laiko biometrinė stebėsena viešose vietose. Joks mažas verslas tokių sistemų nekuria, bet svarbu žinoti ribą. Didelė rizika - papildomi reikalavimai: darbuotojų stebėsena, automatizuotas CV atrankos vertinimas, kreditingumo sprendimų priėmimas. Čia reikalingas dokumentavimas, žmogiška priežiūra ir rizikų vertinimas. Jei jūsų agentas automatizuoja darbuotojų vertinimą ar klientų atranką - tai šios kategorijos erdvė. Ribota rizika - skaidrumo reikalavimai: chatbotai ir AI agentai, bendraujantys su žmonėmis, turi aiškiai identifikuoti save kaip AI. Tai taikoma daugumai mažo verslo klientų aptarnavimo agentų. Minimali rizika - dauguma turinio, rekomendacijų ir verslo procesų automatizavimo sprendimų. Nėra papildomų reikalavimų, tačiau geros praktikos standartai vis tiek rekomenduojami.

Praktiškai: net mažos rizikos atveju geriausia praktika - turėti trumpą dokumentą, aprašantį, ką agentas daro, kokius duomenis tvarko ir kas yra atsakingas už jo priežiūrą.

Dažniausios klaidos, kurių mažas verslas turėtų vengti

Dauguma saugumo incidentų su AI agentais kyla ne dėl sudėtingų atakų, o dėl paprastų konfigūravimo klaidų, kurias galima išvengti.

Klaida Nr. 1: „Pastatyta ir pamiršta" mentalitetas

AI agentas nėra statiška priemonė - modeliai atnaujinami, integracijos keičiasi, verslo procesai evoliucionuoja. Rekomenduojama kas ketvirtį atlikti paprastą peržiūrą: ar agentas vis dar veikia kaip numatyta? Ar jo prieigos teisės vis dar tinkamos?

Klaida Nr. 2: Testavimas tik „geriausiame scenarijuje"

Prieš paleidžiant agentą, būtina išbandyti kraštutines situacijas: ką jis daro, kai gauna kenkėjišką el. laišką? Ką daro, kai duomenų bazė grąžina klaidą? Ar jis tinkamai sustoja, ar bando „išspręsti" problemą savarankiškai?

Klaida Nr. 3: Vienas vartotojas - visos teisės

Daugelis mažų įmonių konfigūruoja agentą naudodami pagrindinio administratoriaus paskyrą - „nes taip paprasčiau". Tai reiškia, kad pažeidus agentą, pažeidžiama ir administratoriaus paskyra su visomis teisėmis. Kurkite atskirą, ribotų teisių paskyrą kiekvienam agentui.

Klaida Nr. 4: Nėra aiškaus atsakingo asmens

Mažose įmonėse dažnai nėra aiškiai paskiriama, kas yra atsakingas už AI agento priežiūrą. Net vienas žmogus, kuriam tenka ši atsakomybė ir kuris kas savaitę peržiūri žurnalus, dramatiškai sumažina riziką.

AI agentų diegimo procesas apima ir saugumo konfigūravimo etapą - tai ne papildoma, o integrali diegimo dalis.

Saugaus AI agento konfigūravimo kontrolinis sąrašas

Prieš paleisdami AI agentą į produkciją, patikrinkite šiuos punktus:

• [ ] Apibrėžtos minimalios prieigos teisės kiekvienai integruotai sistemai
• [ ] Sukurta atskira paskyra agentui (ne administratoriaus)
• [ ] Sukonfigūruoti automatiniai pranešimai apie anomalius veiksmus
• [ ] Dokumentuota, kokius asmens duomenis agentas tvarko ir kur jie saugomi
• [ ] Nustatytas savaitinis arba mėnesinis žurnalų peržiūros procesas
• [ ] Žinoma, kaip greitai išjungti agentą kritinėje situacijoje
• [ ] ES AI akto rizikos kategorija nustatyta ir dokumentuota
• [ ] Atsakingas žmogus paskirtas agento priežiūrai

Jei kuriate sprendimą, kuris apima kelias sistemas, skirtingus duomenų šaltinius ir individualius verslo procesus, individualus AI sprendimas leidžia nuo pat pradžių suprojektuoti saugumą į architektūrą - o ne jį pridėti vėliau.

Kaip pradėti: rizikų valdymas be IT skyriaus

Mažam verslui saugus AI agento diegimas nėra neįmanomas - jis reikalauja struktūruoto požiūrio, o ne didelių investicijų. Rekomenduojama seka: pirmiausia dokumentuokite procesą, kurį norima automatizuoti; antra, nustatykite, kokie duomenys bus tvarkomi; trečia, pasirinkite platformą su aiškiomis BDAR ir saugumo garantijomis; ketvirta, paleiskite ribotą pilotą ir stebėkite savaitę prieš plečiant mastą.

Inerci padeda mažoms Lietuvos įmonėms suprojektuoti ir diegti AI agentus, kurie veikia saugiai nuo pirmosios dienos - ne tik efektyviai. Jei norite aptarti, kaip konkrečiai atrodo saugus diegimas jūsų verslo kontekste, nemokama konsultacija yra gera pradžia.