Uzņēmumiem steidzami jāpievērš vadības jautājumiem, kamēr autonomie mākslīgie intelekti pārņem iniciatīvu

Iedomājieties programmatūru, kas ne tikai izpilda jūsu komandas, bet arī patstāvīgi izvirza mērķus, veic pētījumus, pieņem lēmumus un pat mācās no savām kļūdām. Šī nav zinātniskās fantastikas aina, bet arvien plašāk izplatīta realitāte, ko dzin uz priekšu tā sauktie aģentiskie jeb autonomie mākslā intelekta (MI) aģenti. Tomēr, kā brīdina vadošo tehnoloģiju uzņēmumu Accenture un Okta vadītāji, šīs pārsteidzošās iespējas nāk ar milzīgu atbildību – uzņēmumu vadītāji riskē atstāties iekšā straujā tehnoloģiju attīstībā, jo vadības un drošības stratēģijas viņiem nespēj sekot līdzi.

Kas ir aģentiskais MI un kāpēc tas maina visu?

Atšķirībā no tradicionālajiem MI modeļiem, kas reaģē uz konkrētiem cilvēka dotiem uzdevumiem (piemēram, ģenerēt tekstu vai analizēt datus), aģentiskie MI sistēmas darbojas kā autonomi aģenti. Tie spēj saprast sarežģītu mērķi, sadalīt to apakšuzdevumos, patstāvīgi izvēlēties rīkus (piemēram, piekļūt datubāzei, sūtīt e-pastus, izpildīt kodu) un iteratīvi strādāt līdz rezultātam. Iedomājieties pārdošanas aģentu, kas nepārtraukti meklē tirgus nišas, veic tirgus analīzi, sastāda pārskatus un ieteikumus bez cilvēka iejaukšanās. Vai finanšu auditoru, kas patstāvīgi pārbauda tūkstošiem darījumu, meklējot anomālijas.

Šī autonomija sola revolucionāru produktivitātes pieaugumu, izmaksu samazināšanu un jaunu inovāciju vilni. Taču tieši šī patstāvība rada unikālus riskus. Ja tradicionāls MI var dot neprecīzu atbildi, tad autonomam aģentam var būt spēja patstāvīgi veikt darbības ar reālām sekām: nosūtīt konfidenciālu informāciju, slēgt nevajadzīgu darījumu vai izmainīt sistēmas konfigurāciju.

Brīdinājums no praktiķiem: “Vadība nokavē vilcienu”

Accenture tehnoloģiju grupas vadītājs, Maikls Biltzs, un Okta drošības stratēģiju direktors, Ričards Hedžs, skaidri norāda, ka uzņēmumu vadība un IT drošības komandas bieži vien atpaliek. “Tehnoloģija attīstās eksponenciāli, bet organizatoriskie procesi, politikas un vadības ietvari – lineāri,” norāda Biltzs. Problēma ir sistēmiska: biznesa vienības, kārdinātas ar iespējām, iegulda un izvieto autonomos aģentus, nereti apejot centrālās IT un drošības nodaļas, lai “ātrāk sasniegtu rezultātus”.

Hedžs papildina, ka tradicionālie piekļuves kontroles un identitātes pārvaldības modeļi šeit vairs neder. “Autonomam MI aģentam var būt piešķirtas tiesības, kas pārsniedz jebkura darbinieka privilēģijas. Viņš var pārvietoties pa visu sistēmu, piekļūt jutīgiem datiem, mijiedarboties ar citām lietotnēm. Ja šīs spējas nav stingri ierobežotas un uzraudzītas, viena neliela kļūda vai novirzīšana var izraisīt katastrofālus zaudējumus.”

Pamatriski, kurus uzņēmumiem nekavējoties jārisina

1. Ētikas un pieņemšanas lēmumu miglains stars

Autonomais aģents, pieņemot lēmumus, var atspoguļot un pat pastiprināt neobjektivitātes, kas slēpjas viņa apmācības datos. Kurš būs atbildīgs par šāda aģenta ētiski apstrīdamu lēmumu? Vai uzņēmums ir gatavs pilnībā uzticēties algoritmam, piemēram, personāla atlases vai kredītspējas novērtēšanas procesos? Nepārdomāta ieviešana var kaitēt uzņēmuma reputācijai un radīt juridiskas problēmas.

2. Drošības plaisa: pārāk daudz varas, pārāk maz uzraudzības

Aģents, kas var brīvi pārvietoties pa uzņēmuma sistēmām, ir potenciāls “slēptais durvju atslēgu” nesankcionētai piekļuvei. Ja aģenta identitāti un darbības nevar nepārprotami izsekot, piesaistīt un auditēt (princips “kas, ko un kad darīja?”), izzūd jebkura atbildības un drošības sajūta. Tas ir ideāls vides uzbrucējiem, lai izmantotu aģentu kā trojas zirgu.

3. Neparedzamas sekas un kaskādes efektu briesmas

Autonomas sistēmas var rīkoties neprognozējamos veidos, it īpaši, ja tās mijiedarbojas viena ar otru vai ar sarežģītu vidi. Viena aģenta kļūda var izraisīt ķēdes reakciju, kas ietekmēs kritisku biznesa procesu. Bez skaidriem “avārijas slēdžiem” un iejaukšanās mehānismiem šādas situācijas var ātri nenovēršami pasliktināties.

Kā veidot nākotnes drošu autonomā MI vadības ietvari?

Eksperti no Accenture un Okta uzsver, ka proaktīva pieeja ir atslēga. Šeit ir pamatprincipi, kas jāiekļauj jebkurā stratēģijā:

Vadība no pirmās līnijas: izveidojiet centrālu MI ētikas un drošības padomi

Šim starpnozaru padomē jāpārstāv augstākā vadība, juristi, IT drošība, datu zinātnieki un biznesa vienības. Tā noteiks vispārējus standartus, apstiprinās lietojumus ar augstu risku un būs atbildīga par pastāvīgu politikas atjaunināšanu. MI izvietošana nedrīkst būt tikai tehnisks jautājums, tam ir jābūt stratēģiskam biznesa lēmumam.

Ieviesiet “cilvēku kontroles cilpu” un stingrus piekļuves ierobežojumus

Katram autonomajam aģentam jābūt skaidri definētām robežām. Kurās sistēmās viņš drīkst darboties? Kādus datus drīkst lasīt vai modificēt? Kādus lēmumus (piemēram, finanšu darījumus virs noteikta limita) obligāti jāiesniedz cilvēkam apstiprināšanai? Identitātes pārvaldības risinājumiem (kā Okta) ir kritiska loma, lai piešķirtu aģentiem minimāli nepieciešamās privilēģijas un nepārtraukti uzraudzītu to darbību.

Pieprasiet pilnīgu caurredzamību un audita iespēju

Visai aģenta darbībai – no lēmuma pieņemšanas loģikas līdz katram darbībam datu vidē – jābūt detalizēti reģistrētai nemaināmā žurnālā. Tas ir būtiski gan drošības incidentu izmeklēšanai, gan normatīvo prasību (piemēram, GDPR) ievērošanai, gan sistēmas uzvedības nepārtrauktai uzlabošanai.

Investējiet komandā un nepārtrauktā izglītībā

Jāapgūst jaunas prasmes: ne tikai MI inženierija, bet arī MI riska pārvaldība, ētika un normatīvā atbilstība. Visiem darbiniekiem, kas sadarbojas ar autonomajiem sistēmām, jāsaprot to iespējas un ierobežojumi.

Aģentiskā mākslīgā intelekta era ir neizbēgama, un tā jau ir klāt. Uzņēmumi, kas šobrīd iegulda laiku un resursus spēcīga, elastīga un ētiska vadības ietvara izveidē, ne tikai pasargās savu biznesu no katastrofālām sekām, bet arī iegūs lielāku uzticēšanos no klientiem, partneriem un regulatoriem. Tieši šie uzņēmumi spēs pilnībā izmantot autonomā MI pārsteidzošo potenciālu – droši, atbildīgi un konkurētspējīgi. Jautājums nav, vai jūsu organizācija izmantos šīs tehnoloģijas, bet gan vai tā to darīs pārdomāti un kontrolēti. Laiks rīkoties ir tagad, pirms vilciens ir aizbraucis.

Avots: https://aibusiness.com/agentic-ai/enterprises-should-prioritize-governance-amid-agentic-ai-boom