Prisijunkite prie RSAC vadovų diskusijos kovo 24 d. „Dirbtinio intelekto agentai jau čia! Ar jūs pasiruošę?“.

„Microsoft“ vadovas, kaip apsaugoti dirbtiniu intelektu pagrįstą organizaciją

Darbo su DI programomis pradžia

Dirbtinis intelektas (DI) transformuoja verslo operacijas – skatina inovacijas, tačiau kartu sukelia ir naujų rizikų. Nuo šešėlinio DI (be priežiūros naudojamų vartotojų lygio įrankių) iki atakų įterpiant raginimus bei besikeičiančių reglamentų, tokių kaip ES DI aktas – organizacijos turi spręsti šiuos iššūkius, kad galėtų saugiai naudoti DI.

Šiame vadove aptariamos su DI susijusios rizikos: duomenų nutekėjimas, kylančios grėsmės ir atitikties iššūkiai, taip pat išskirtinės agentinio DI rizikos. Jame taip pat pateikiamos gairės ir praktiniai veiksmai, pagrįsti DI diegimo sistema. Norėdami gauti išsamesnių įžvalgų ir sužinoti apie praktinius veiksmus, atsisiųskite vadovą.

DI keičia žaidimo taisykles – tačiau tik tuo atveju, jei pavyks užtikrinti jo saugumą. Pradėkime.

80 % vadovų duomenų nutekėjimą įvardija kaip vieną didžiausių problemų. ¹Šešėliniai DI įrankiai, naudojami be IT patvirtinimo, gali atskleisti slaptą informaciją ir padidinti saugumo pažeidimų riziką.
88 % organizacijų nerimauja dėl piktavalių, manipuliuojančių DI sistemomis.²Atakos, tokios kaip raginimų įterpimas, išnaudoja DI sistemų pažeidžiamumus, o tai atskleidžia aktyvios gynybos poreikį.
52 % vadovų pripažįsta, kad nėra tikri, kaip laikytis DI reglamentų.³Norint skatinti pasitikėjimą ir išlaikyti inovacijų pagreitį, būtina užtikrinti atitiktį tokioms sistemoms kaip ES DI aktas.

Agentinis DI: pagrindinės rizikos ir kaip jas suvaldyti

Agentinis DI suteikia transformuojančių galimybių, tačiau dėl jo autonomiškumo kyla išskirtinių saugumo iššūkių, reikalaujančių aktyvių rizikos valdymo veiksmų. Žemiau pateikiamos pagrindinės rizikos ir strategijos, pritaikytos joms spręsti:

Halucinacijos ir nepageidaujami rezultatai

Agentinės DI sistemos gali generuoti netikslius, pasenusius ar nesuderintus rezultatus, kas gali sukelti operacinius sutrikimus arba prastus sprendimus.

Norint sumažinti šias rizikas, organizacijos turėtų įgyvendinti griežtas stebėjimo sistemas, kad peržiūrėtų DI generuotus rezultatus dėl tikslumo ir aktualumo. Reguliarus mokymo duomenų atnaujinimas užtikrina atitiktį dabartinei informacijai, o sudėtingų atvejų eskalavimo keliai leidžia žmogaus įsikišimą, kai to reikia. Žmogiškasis priežiūra išlieka esminė, siekiant išlaikyti patikimumą ir pasitikėjimą DI valdomose operacijose.

Per didelis pasitikėjimas DI sprendimais

Aklas pasitikėjimas agentiniais DI sistemomis gali sukelti pažeidžiamumų, kai naudotojai veikia remdamiesi klaidingais rezultatais be patvirtinimo.

Organizacijos turėtų sukurti taisykles, kurios verstų dirbtinį intelektą naudoti žmogaus peržiūrą svarbiais klausimais. Mokymas darbuotojų apie AI ribas skatina informuotą skeptiškumą, mažindamas klaidų tikimybę. Kombinuojant DI įžvalgas su žmogaus sprendimais per sluoksniuotas sprendimų priėmimo procesus stiprinama bendra atsparumas ir užkertamas kelias per dideliam priklausomumui.

Nauji atakų vektoriai

Agentinio DI autonomija ir prisitaikymas sukuria galimybes užpuolikams išnaudoti pažeidžiamumus, įnešdami tiek operacines, tiek sistemines rizikas.

Operacinės rizikos apima DI sistemų manipuliavimą, kad būtų atliekami žalingi veiksmai, tokie kaip neautorizuoti uždaviniai ar sukčiavimo bandymai. Organizacijos gali sumažinti šias rizikas, įgyvendindamos tvirtas saugumo priemones, įskaitant realaus laiko anomalijų aptikimą, šifravimą ir griežtus prieigos kontrolės.

Sistemines rizikas sukelia, kai pažeisti agentai sutrikdo tarpusavyje susijusias sistemas, sukeldami kaskadines nesėkmes. Apsaugos mechanizmai, atsargumo protokolai ir reguliarios audito procedūros—suderintos su kibernetinio saugumo sistemomis, tokiomis kaip NIST—padeda sumažinti šiuos pavojus ir sustiprinti gynybą prieš priešiškas atakas.

Atsakomybė ir pareiga

Agentinis DI dažnai veikia be tiesioginės žmogaus priežiūros, keliančios sudėtingus klausimus apie atsakomybę ir kaltę dėl klaidų ar nesėkmių.

Organizacijos turėtų apibrėžti aiškias atsakomybės sistemas, nurodančias vaidmenis ir atsakomybes dėl dirbtinio intelekto (DI) rezultatų. Sklandi DI sprendimų priėmimo procesų dokumentacija padeda nustatyti klaidas ir priskirti atsakomybę. Bendradarbiavimas su teisininkų komandomis užtikrina atitiktį reglamentams, o etinių standartų laikymasis DI valdyme kuria pasitikėjimą ir mažina reputacijos riziką.

Pradėkite diegti etapais

Atsirandant tokioms naujoms DI inovacijoms kaip agentai, organizacijos turi sukurti tvirtą pagrindą, pagrįstą nulinio pasitikėjimo principais – „niekada nepasitikėk, visada tikrink“. Šis požiūris padeda užtikrinti, kad kiekviena sąveika būtų autentifikuota, autorizuota ir nuolat stebima. Nors nulinio pasitikėjimo modelio įgyvendinimas užtrunka, palaipsniui taikoma strategija leidžia užtikrinti nuoseklią pažangą ir didina pasitikėjimą saugiai integruojant DI.

„Microsoft“ DI diegimo sistemoje didžiausias dėmesys skiriamas trims pagrindiniams etapams: DI valdymui, DI priežiūrai ir DI saugumui.

Sprendžiant šias sritis, organizacijos gali paruošti pagrindą atsakingam DI naudojimui, tuo pačiu sumažindamos kritines rizikas.

Norint pasiekti sėkmę, prioritetą teikite žmonėms, mokydami darbuotojus atpažinti DI rizikas ir saugiai naudoti patvirtintas priemones. Skatinkite bendradarbiavimą tarp IT, saugos ir verslo komandų, kad užtikrintumėte vieningą požiūrį. Skatinkite skaidrumą, atvirai bendraudami apie savo DI saugumo iniciatyvas, kad sukurtumėte pasitikėjimą ir parodytumėte lyderystę.

Turėdami tinkamą strategiją, pagrįstą nulinio pasitikėjimo principais, galite sumažinti rizikas, atverti kelią inovacijoms ir užtikrintai orientuotis nuolat kintančioje DI aplinkoje.

Atsisiųsti vadovą

Knygos viršelis su užrašu „Microsoft“ saugos strategijos DI atitikčiai užtikrinti“ ir iliustracija, kurioje matyti į nešiojamąjį kompiuterį žiūrintys vyras ir moteris.

5 minutės