Prisijunkite prie RSAC vadovų diskusijos kovo 24 d. „Dirbtinio intelekto agentai jau čia! Ar jūs pasiruošę?“.

„Microsoft“ vadovas, kaip užtikrinti saugumą dirbtiniu intelektu pagrįstoje įmonėje: duomenų valdymas ir saugumas

Apžvalga

Organizacijoms sparčiai diegiant dirbtinį intelektą, duomenų valdymas ir saugumas tampa neatskiriamais įmonės atsparumo pagrindais. „Frontier Firms“ – įmonėms, kurios plečia DI grindžiamos transformacijos ribas – gebėjimas suteikti DI sistemoms galimybę analizuoti ir apdoroti didžiulius duomenų kiekius reikalauja precedento neturinčio bendradarbiavimo tarp informacijos vadovų (CIO), informacijos saugumo vadovų (CISO) ir jų duomenų valdymo kolegų. Be bendros atsakomybės ir suderinto įgyvendinimo tokios rizikos kaip duomenų nutekėjimas, perteklinis dalijimasis duomenimis ir netinkamas DI naudojimas gali sparčiai didėti.

Šis vadovas remiasi ankstesnėmis temomis iš „Kaip užtikrinti saugumą DI pagrįstose įmonėse“ serijos, padėdamas saugiai diegti DI ir maksimaliai išnaudoti investicijas.

Valdymo spraga

Kai kuriose organizacijose DI diegimas vyksta greičiau nei tradicinės valdymo struktūros spėja prisitaikyti. Remiantis „Microsoft“ Duomenų saugumo indeksu, tik 47 % organizacijų iš įvairių sektorių praneša, kad įgyvendina specifines generuojamojo DI saugumo priemones,¹ tai atveria galimybę organizacijoms užtikrinti aiškumą, būtiną saugiam dirbtinio intelekto diegimui. Dar svarbiau, pagal „Microsoft“ užsakymu „Hypothesis Group“ atliktą tarptautinį apklausą, kurioje dalyvavo daugiau nei 1 700 duomenų saugumo specialistų, jau 29 % darbuotojų naudoja nesankcionuotus DI agentus darbo užduotims atlikti.² Dėl to organizacijos susiduria su naujais iššūkiais duomenų tvarkymo, saugumo matomumo ir atitikties srityse – ypač kai generauojamojo dirbtinio intelekto priemonės sąveikauja su jautriais ar nestruktūrizuotais duomenimis.

Tuo pačiu verslo lyderiai reaguoja: vis daugiau organizacijų diegia specializuotas generuojamojo dirbtinio intelekto kontrolės priemones ir spartina investicijas į technines bei operacines saugumo priemones. Žinia aiški – DI inovacijos negali klestėti be valdymo ir saugumo priemonių, kurios jas palaiko ir užtikrina jų apsaugą.

Vieningas atsakomybės modelis: klasifikuoti, žymėti, saugoti, valdyti

Veiksmingas duomenų valdymas reikalauja aiškiai apibrėžtos atsakomybės tarp CIO, CISO, duomenų vadovo (CDO) ir privatumo vadovo (CPO) pareigybių. Tačiau daugelyje organizacijų atsakomybė išlieka fragmentiška. Norint užpildyti šią spragą, rekomenduojame bendrą modelį: klasifikuoti, žymėti, saugoti ir valdyti.

1. Klasifikavimas: stebėjimo ir atsakomybės nustatymas

Valdymo veiklos ciklas prasideda nuo aiškaus supratimo, ką turite. Organizacijos turi užtikrinti visišką struktūrizuotų, nestruktūrizuotų ir DI generuojamų duomenų stebėjimą, įskaitant galimybę stebėti atsirandančius DI agentus. Klasifikavimui reikalinga:

Aiški, intuityvi schema, susieta su verslo rizika
Paskirti duomenų savininkai ir prižiūrėtojai verslo padaliniuose
Nuolatinis inventorizavimas, remiamas CIO inicijuotos nustatymo pastangos

Klasifikacija sudaro pagrindą visiems tolimesniems veiksmams.

2. Žyma: valdymo įgyvendinimas

Jei klasifikacija apibrėžia tikslą, tai žymėjimas užtikrina jo įgyvendinimą. Konfidencialumo lygio žymos užtikrina politikos taikymą praktikoje, informuoja saugumo sistemas, prieigos kontrolės mechanizmus ir net tai, kaip darbuotojai sąveikauja su DI agentų pateikiamais rezultatais.

Pagrindiniai elementai:

Diegiant technologijas, kurios užtikrina žymėjimo taikymą ir leidžia žymoms aktyviai inicijuoti saugumo bei duomenų praradimo prevencijos (DLP) politiką
Rizika pagrįsta ženklinimo strategija, atspindinti poveikį verslui
Darbuotojų mokymai, kurie aiškiai nurodo, kada ir kaip taikyti žymas

3. Apsauga: saugos įgyvendinimas

Apsauga – tai momentas, kai strategijos tampa veiksmingomis apsaugos gairėmis. Į tai įeina:

Strategijos įgyvendinimas naudojant prieigos kontrolės priemones, pvz., vaidmenimis pagrįstą prieigos valdymą (RBAC), prieigą reikiamu laiku ir duomenų praradimo prevenciją
Neaktyvių ir aktyvių duomenų šifravimas
Automatizuotas stebėjimas, skirtas užkirsti kelią per dideliam duomenų dalijimuisi ir politikos pažeidimams
Struktūruoti incidentų valdymo planai, atitinkantys privatumo reglamentus

Šios kontrolės užtikrina slaptų duomenų apsaugą net ir tada, kai DI įrankiai juos apdoroja dideliu mastu.

4. Valdymas: viso duomenų gyvavimo ciklo priežiūra

Valdymas yra nuolatinis procesas. Organizacijos privalo užtikrinti:

Duomenų saugojimo ir naikinimo strategijas, suderintas su minimalizavimo principais
Nuolatinis stebėjimas, skirtas aptikti duomenų pokyčius, neteisingą žymėjimą ir prieigos anomalijas
Automatizuotas pakartotinis duomenų nuosavybės teisės patvirtinimas
DI agentų matomumas ir valdymas IT, kūrimo, plėtros bei saugumo komandose

Gyvavimo ciklo valdymas mažina atakos pažeidžiamą sritį ir užtikrina ilgalaikį duomenų naudojimo bei verslo vertės suderinimą.

Horizontas: kaip valdyti darbuotojus ir DI agentus

Kai DI agentai pradeda vykdyti vis sudėtingesnius darbo procesus, valdymo modeliai turi toliau vystytis. „Frontier Firms“ pristato agentų vadovo koncepciją – naują vaidmenį, pagal kurį kiekvienas darbuotojas prisiima atsakomybę už savo pasitelktus skaitmeninius darbuotojus.

Šis pokytis kelia naujus reikalavimus technologijų lyderiams:

IT vadovams:

Sukurti išorinę DI ekosistemą, kurioje verslo padaliniai galėtų saugiai kurti ir diegti agentus naudodami patvirtintas šablonus, prižiūrimus DI kompetencijos centro.

Informacijos saugumo vadovams:

Išplėsti nulinio pasitikėjimo principą ne tik žmonėms, bet ir autonominiams agentams. Tai reiškia:

Sukurti visų agentų ir jų tapatybių atsargas
Užtikrinti mažiausiai privilegijų turinčią prieigą, suderintą su kiekvieno agento užduotimi, privilegijų turinčią prieigą, suderintą su kiekvieno agento užduotimi
Agentų elgsenos stebėjimas ir pažeidimo prielaida, kai agentai naudojasi neskelbtinais duomenimis

Pasirengimas autonominei įmonei priklauso nuo šių naujų kontrolės priemonių derinimo su žmogaus atsakomybe.

Jūsų pirmosios 180 dienų: bendras CIO ir CISO veiksmų planas

Veiklos ciklas prasideda nuo struktūrizuoto veiksmų plano, padedančio IT ir saugumo vadovams įgyvendinti DI valdymą įmonės lygiu:

Pirmoji savaitė: pagrindinis suderinimas

Apibrėžti bendrą duomenų klasifikavimo schemą.
Susieti kritinius išteklius ir tęstinumo reikalavimus.
Suderinti standartus DI agentų kūrimui ir patikrinimui.

Pirmos 90 dienų: aptikimas ir kontrolės susiejimas

Identifikuoti DI naudojimo atvejus ir susijusius duomenų šaltinius.
Atlikti DLP ir kontrolės spragų analizę.
Sukurti bendrą rizikų registrą ir prioritetizuoti bandomuosius naudojimo atvejus.

Pirmosios 180 dienų: įgyvendinimas ir patikrinimas

Įdiegti naujus žymėjimus ir politiką bandomosiose verslo padalinių grupėse.
Pradėti naudoti automatizuotą DLP didelės rizikos scenarijams.
Įsteigti mėnesinę valdymo tarybą, kuri nuolat tobulintų kontrolės priemones.

Šis veiksmų planas padeda organizacijoms transformuoti duomenų valdymą iš vien tik atitikties funkcijos į strateginį DI inovacijų skatinimo veiksnį.

Kuriame įmonę, pasiruošusią dirbti su AI

Kelias link DI grindžiamos ateities prasideda nuo tvaraus, bendrai kuriamo duomenų valdymo ir duomenų saugumo pagrindo. Suderinusios CIO ir CISO atsakomybę, sukūrusios bendrą gyvavimo ciklo modelį ir pasiruošusios hibridinei žmonių ir agentų komandai, organizacijos gali padėti patikimiau ir saugiau išnaudoti visą DI potencialą.

Dabar pats laikas kurti šį pagrindą.

Atsisiųskite gaires

Grupė žmonių, sėdinčių ant sofos, ir tekstas su užrašu „NEW Cyber Pulse An AI Security Report“.

„Cyber Pulse“: DI saugos ataskaita

Įžvalgos apie DI agentų augimą ir atsakingą bei saugų jų diegimą pasitelkiant stebėseną, valdymą ir saugą.

Knygos viršelis su tekstu „Microsoft Security Strategies for Governing AI“ ir iliustracija, kurioje pavaizduotas vyras žaliais marškiniais, sėdintis prie stalo su kompiuteriu.

Dirbtinio intelekto valdymo strategijos

Praktiniai veiksmai, kaip kurti pasitikėjimą, sumažinti rizikas ir išlaidas bei skatinti inovacijas

Baltų linijų piešinys, kuriame mėlyname fone pavaizduotas popierius voke su užrašu New.

Gauti CISO suvestinę

Būkite žingsniu priekyje sužinodami ekspertų įžvalgas, sektoriaus tendencijas ir saugos tyrimus šioje kas antrą mėnesį siunčiamoje el. laiškų serijoje.

[1]
„Microsoft“ duomenų saugumo indeksas 2026: duomenų apsaugos ir DI inovacijų suvienijimas, „Microsoft“ sauga, 2026 m.
[2]
2025 m. liepos mėn. tarptautinė apklausa, kurioje dalyvavo daugiau nei 1 700 duomenų saugumo specialistų, kurią „Microsoft“ užsakymu atliko „Hypothesis Group“.