Pievienojieties RSAC vadības paneļa sesijai 24. martā — “Mākslīgā intelekta aģenti ir klāt!” Vai esat tam gatavs?”.

Microsoft ceļvedis mākslīgā intelekta lieluzņēmuma aizsardzības nodrošināšanā

Darba sākšana ar mākslīgā intelekta lietojumprogrammām

Mākslīgais intelekts (AI) transformē uzņēmējdarbības operācijas, atklājot brīvu vietu inovācijām un vienlaikus iepazīstinot ar jauniem riskiem. No ēnu mākslīgā intelekta (patērētāju līmeņa rīki, kas pieņemti bez uzraudzības) līdz uzvedņu injekcijas uzbrukumiem — un attiecīgu regulu izstrādei, piemēram, ES mākslīgā intelekta akts — organizācijām jārisina šie izaicinājumi, lai droši izmantotu mākslīgā intelekta iespējas.

Šajā ceļvedī ir aplūkoti ar mākslīgo intelektu saistītie riski: datu noplūde, jauni apdraudējumi, atbilstības nodrošināšanas izaicinājumi, kā arī unikālie aģentu mākslīgā intelekta riski. Šeit sniegtas arī norādes un ieteikumi praktiski veicamām darbībām, pamatojoties uz mākslīgā intelekta apgūšanas struktūru. Lai gūtu dziļākus ieskatus un informāciju par praktisku rīcību lejupielādējiet ceļvedi.

Mākslīgais intelekts ir rīks, kas maina spēles noteikumus, taču tam ir jābūt drošam. Sāksim darbu!

80 % vadītāju norāda, ka vislielākās bažas rada datu noplūdes iespējamība. ¹Ēnu mākslīgā intelekta rīki, kas tiek izmantoti bez IT apstiprinājuma, var atklāt sensitīvu informāciju, palielinot datu drošības pārkāpumu riskus.
88% organizāciju uztrauc ļaunprātīgas mākslīgā intelekta sistēmu manipulācijas iespējas.²Uzbrukumi, piemēram, uzvedņu injekcijas, izmanto mākslīgā intelekta sistēmu ievainojamību, izceļot nepieciešamību ieviest proaktīvus aizsardzības pasākumus.
52% vadītāju atzīst neskaidrību mākslīgo intelektu regulējošo noteikumu nozarē.³Atbilstības nodrošināšana tādiem regulējumiem kā, piemēram, ES mākslīgā intelekta akts ir būtiska, lai veicinātu uzticamību un saglabātu inovāciju dinamiku.

Aģentu mākslīgais intelekts: galvenie riski un to risinājumi

Aģentu mākslīgais intelekts piedāvā transformējošu potenciālu, taču tā autonomija rada unikālus drošības izaicinājumus, kuriem nepieciešama proaktīva risku pārvaldība. Tālāk aprakstīti galvenie riski un stratēģijas, kas pielāgotas to risināšanai:

Halucinācijas un neparedzēti rezultāti

Aģentu mākslīgā intelekta sistēmas var sniegt neprecīzus, novecojušus vai nesaskaņotus rezultātus, kas var radīt darbības traucējumus vai veicināt sliktu lēmumu pieņemšanu.

Lai mazinātu šos riskus, organizācijām jāīsteno stingri uzraudzības procesi, lai pārliecinātos par mākslīgā intelekta radīto rezultātu precizitāti un atbilstību. Regulāra apmācības datu atjaunināšana nodrošina atbilstību aktuālajai informācijai, savukārt sarežģītu gadījumu eskalācijas ceļi iespējo cilvēka iejaukšanos procesā, kad tas nepieciešams. Cilvēku uzraudzība joprojām ir būtisks faktors, kas palīdz uzturēt mākslīgā intelekta vadīto operāciju uzticamību un uzticību tām.

Pārmērīga paļaušanās uz mākslīgā intelekta lēmumiem

Akla uzticēšanās aģentu mākslīgā intelekta sistēmām var radīt ievainojamības situācijās, kad lietotāji rīkojas, pamatojoties un kļūdainiem rezultātiem, nepārbaudot tos.

Organizācijām ir jāizstrādā politikas, kas paredz nepieciešamību pēc cilvēka veiktas pārskatīšanas, pieņemot augsta riska mākslīgā intelekta ietekmētus lēmumus. Darbinieku apmācība par mākslīgā intelekta ierobežojumiem veicina apzinātu skepsi, samazinot kļūdu pieļaušanas iespējamību. Apvienojot mākslīgā intelekta ieskatus ar cilvēka spriedumu, īstenojot vairākslāņu lēmumu pieņemšanas procesus, tiek stiprināta vispārējā noturība un novērsta pārmērīga atkarība.

Jauni uzbrukumu vektori

Aģentu mākslīgā intelekta autonomija un pielāgojamība rada uzbrucējiem iespējas izmantot ievainojamības, radot gan operatīvus, gan sistēmiskus riskus.

Operatīvie riski ietver manipulācijas ar mākslīgā intelekta sistēmām, lai veiktu kaitīgas darbības, piemēram, neautorizētas darbības vai pikšķerēšanas mēģinājumus. Organizācijas var mazināt šos riskus, ieviešot jaudīgus drošības pasākumus, tostarp reāllaika anomāliju noteikšanu, šifrēšanu un stingru piekļuves kontroli.

Sistēmiskie riski rodas, kad kompromitēti aģenti traucē savstarpēji savienotu sistēmu darbību, izraisot kaskadētas kļūmes. Drošības mehānismi, redundances protokoli un regulāri auditi – saskaņojot tos ar kiberdrošības standartiem, piemēram, NIST – palīdz mazināt šos draudus un stiprināt aizsardzību pret pretinieku uzbrukumiem.

Atbildība un saistības

Aģentu mākslīgais intelekts nereti darbojas bez tiešas cilvēka uzraudzības, raisot sarežģītus jautājumus par atbildību un saistībām, kad runa ir par kļūdām un neveiksmēm.

Organizācijām jādefinē skaidri atbildības protokoli, kas nosaka ar mākslīgā intelekta darbības rezultātiem saistītās lomas un pienākumus. Caurspīdīga mākslīgā intelekta lēmumu pieņemšanas procesu dokumentācija sniedz atbalstu kļūdu identificēšanā un atbildības noteikšanā. Sadarbība ar juridiskajām komandām nodrošina atbilstību regulu prasībām, savukārt ētisko mākslīgā intelekta pārvaldības standartu pieņemšana veido uzticību un samazina reputācijas riskus.

Darba sākšana ar pakāpenisku pieeju

Ieviešot jaunas mākslīgā intelekta inovācijas, piemēram, aģentus, organizācijām ir jāizveido stabila struktūra kuras pamatā ir nulles uzticēšanās principi – “nekad neuzticies, vienmēr pārbaudi”. Šāda pieeja palīdz nodrošināt ikvienas mijiedarbības autentificēšanu, autorizēšanu un nepārtrauktu uzraudzību. Lai arī nulles uzticamības sasniegšanai nepieciešams laiks, pakāpeniskas stratēģijas ieviešana ļauj nodrošināt stabilu progresu un veido pārliecību par drošu mākslīgā intelekta integrēšanu.

Microsoft mākslīgā intelekta ieviešanas ietvars balstās uz trim galvenajām fāzēm: mākslīgā intelekta uzraudzība, mākslīgā intelekta pārvaldība un mākslīgā intelekta drošības nodrošināšana.

Pievēršoties šīm jomām, organizācijas var izveidot pamatus atbildīgai mākslīgā intelekta izmantošanai, vienlaikus mazinot kritiskos riskus.

Lai gūtu panākumus, piešķiriet prioritāti cilvēkiem, apmācot darbiniekus atpazīt mākslīgā intelekta riskus un droši izmantot apstiprinātus rīkus. Sekmējiet sadarbību starp IT, drošības un uzņēmējdarbības komandām, lai nodrošinātu vienotu pieeju. Veiciniet caurspīdīgumu, atklāti stāstot par savām mākslīgā intelekta drošības iniciatīvām, lai veicinātu uzticību un demonstrētu līderību.

Izvēloties pareizu stratēģiju, kuras pamatā ir nulles uzticamības principi, jūs varat mazināt riskus, atklāt inovācijas un pārliecinoši orientēties mainīgajā mākslīgā intelekta ainavā.

Lejupielādēt ceļvedi

Grāmatas vāks ar tekstu "Microsoft drošības stratēģijas mākslīgā intelekta atbilstībai" un ilustrāciju, kurā vīrietis un sieviete skatās klēpjdatorā.

5 minūtes