This is the Trace Id: 085d888b14c1c5b99bd36810595059d8

Pridružite se izvršnoj panel-sesiji RSAC-a 24. ožujka pod nazivom „Agenti umjetne inteligencije su tu” Jeste li spremni za?”.

Odmah se registrirajte

Microsoftov vodič za zaštitu poduzeća pogonjenog umjetnom inteligencijom: upravljanje podacima i sigurnost

Preuzmi vodič
Podijeli
Muškarac u odijelu stoji ispred plave pozadine.

Pregled

Kako tvrtke ili ustanove ubrzano usvajaju umjetnu inteligenciju u velikom opsegu, upravljanje podacima i sigurnost postaju sve više isprepleteni kao ključni stupovi otpornosti poduzeća. Za tvrtke predvodnice – poduzeća koja predvode AI transformaciju – sposobnost da AI sustavi analiziraju velike količine podataka zahtijeva dosad neviđenu suradnju između glavnih direktora za informatiku (CIO-vi), glavnih direktora za informacijsku sigurnost (CISO-vi) i njihovih kolega za podatke. Bez zajedničkog vlasništva i objedinjene provedbe, rizici poput curenja podataka, prekomjernog dijeljenja i neusklađene upotrebe umjetne inteligencije rastu eksponencijalno.

Ovaj vodič nadovezuje se na prethodne teme iz serije Osiguravanje poduzeća pogonjenog umjetnom inteligencijom kako bi vam pomogao da sigurno prihvatite AI i maksimalno iskoristite svoje ulaganje.

Nedostatak u upravljanju

U nekim tvrtkama ili ustanovama umjetna se inteligencija prihvaća brže nego što tradicionalne strukture upravljanja mogu pratiti. Prema Microsoftovom Indeksu sigurnosti podataka, samo 47 % tvrtki ili ustanova u različitim djelatnostima izvještava da provodi specifične sigurnosne kontrole za generativnu umjetnu inteligenciju,1 što ukazuje na priliku za tvrtke ili ustanove da steknu jasnu vidljivost potrebnu za sigurno prihvaćanje umjetne inteligencije. Još važnije, prema multinacionalnoj anketi među više od 1700 stručnjaka za sigurnost podataka koju je Microsoft naručio od agencije Hypothesis Group, već 29 % zaposlenika upotrebljava neslužbene agente umjetne inteligencije za radne zadatke.2 To donosi nove izazove u upravljanju podacima, vidljivosti sigurnosti i usklađenosti – osobito kada alati generativnog AI-ja rade s povjerljivim ili nestrukturiranim podacima.

Istovremeno, poslovni lideri reagiraju: sve više tvrtki ili ustanova uvodi specijalizirane kontrole za generativnu umjetnu inteligenciju i ubrzava ulaganja u tehničke i operativne mjere zaštite. Poruka je jasna: inovacije u umjetnoj inteligenciji ne mogu napredovati bez upravljanja koje ih podržava i štiti.

Objedinjeni model vlasništva: klasificiranje, označavanje, zaštita i upravljanje

Učinkovito upravljanje podacima zahtijeva jasnu podjelu odgovornosti među ulogama CIO-a, CISO-a, glavnog službenika za podatke (CDO) i glavnog službenika za zaštitu privatnosti (CPO). Ipak, u mnogim tvrtkama ili ustanovama vlasništvo ostaje fragmentirano. Kako bismo premostili ovaj jaz, preporučujemo zajednički model: klasificiranje, označavanje, zaštita i upravljanje.

Povezanost upravljanja koja prikazuje četiri faze – klasifikaciju, označavanje, zaštitu i upravljanje.
Povezanost upravljanja

1. Klasificiranje: uspostavljanje vidljivosti i vlasništva

Put upravljanja započinje jasnim razumijevanjem onoga što posjedujete. Tvrtke ili ustanove moraju uspostaviti potpunu vidljivost nad strukturiranim i nestrukturiranim podacima te podacima generiranim umjetnom inteligencijom – uključujući mogućnost praćenja novih agenata umjetne inteligencije. Klasifikacija zahtijeva:

  • Jasnu i intuitivnu shemu povezanu s poslovnim rizicima
  • Imenovane vlasnike podataka i upravitelje unutar poslovnih jedinica
  • Kontinuiranu inventarizaciju uz podršku CIO-ovih inicijativa za otkrivanje podataka

Klasifikacija postavlja temelje za sve daljnje korake.

2. Označavanje: omogućavanje provedbe upravljanja

Dok klasifikacija definira namjeru, označavanje osigurava njezinu provedbu. Oznake povjerljivosti povezuju pravilnike s njihovom stvarnom primjenom, usmjeravajući sigurnosne sustave, kontrole pristupa, pa čak i način na koji zaposlenici upotrebljavaju rezultate agenata umjetne inteligencije.

Ključni elementi uključuju:

  • Implementaciju tehnologije koja osigurava provođenje označavanja, pri čemu oznake aktivno pokreću sigurnosne pravilnike i pravilnike za sprječavanje gubitka podataka (DLP)
  • Strategiju označavanja temeljenu na procjeni rizika koja odražava poslovni utjecaj
  • Obuku zaposlenika koja jasno definira kada i kako primjenjivati oznake

3. Zaštita: operacionalizacija sigurnosti

Zaštita je faza u kojoj pravilnici postaju učinkovite zaštitne mjere. To obuhvaća:

  • Provođenje pravilnika putem kontrola pristupa kao što su kontrole pristupa utemeljene na ulogama (RBAC), pristup točno na vrijeme (JIT) i DLP
  • Šifriranje za aktivne i neaktivne podatke
  • Automatizirani nadzor za sprječavanje prekomjernog dijeljenja i kršenja pravilnika
  • Strukturirane planove odgovora na incidente usklađene s propisima o zaštiti privatnosti

Ove kontrole jamče zaštitu povjerljivih podataka, čak i kada AI alati pristupaju velikim količinama podataka i obrađuju ih.

4. Upravljanje: kontrola cijelog životnog ciklusa podataka

Upravljanje je kontinuirani proces. Tvrtke ili ustanove moraju osigurati:

  • Pravilnike o zadržavanju i brisanju podataka usklađene s načelima minimizacije
  • Neprekidni nadzor za otkrivanje odstupanja podataka, pogrešnog označavanja i anomalija u pristupu
  • Automatiziranu recertifikaciju vlasništva nad podacima
  • Vidljivost i upravljanje agentima umjetne inteligencije unutar IT, razvojnih i sigurnosnih timova

Upravljanje životnim ciklusom smanjuje površinu napada i osigurava dugoročnu usklađenost između upotrebe podataka i poslovne vrijednosti.

Horizont: upravljanje radnom snagom sastavljenom od ljudi i agenata umjetne inteligencije

Kako agenti umjetne inteligencije preuzimaju sve složenije tijekove rada, upravljanje mora ponovo evoluirati. Tvrtke predvodnice uvode koncept šefa agenta – novu ulogu koja svakom zaposleniku dodjeljuje odgovornost za digitalne radnike koje angažira.

Ova promjena donosi nove obveze za tehnološko vodstvo:

Za CIO-e:

Izgradite federirani AI ekosustav u kojem poslovne jedinice mogu sigurno razvijati i implementirati agente koristeći se odobrenim predlošcima, pod nadzorom AI centra izvrsnosti.

Za CISO-e:

Proširite model „svi su nepouzdani” izvan ljudskih korisnika kako biste uključili i autonomne agente. To podrazumijeva:
 

  • Izradu inventara svih agenata i njihovih identiteta
  • Provođenje pristupa uz najnižu razinu ovlasti, usklađenog s radnim zadacima svakog agenta
  • Praćenje ponašanja agenata i pretpostavku kršenja sigurnosti podataka tijekom interakcije agenata s povjerljivim podacima

Spremnost za autonomno poduzeće ovisi o kombinaciji ovih novih kontrola i ljudske odgovornosti.

Vaših prvih 180 dana: zajednički proceduralni priručnik za CIO-e i CISO-e

Put započinje strukturiranim planom razvoja koji pomaže voditeljima IT-ja i sigurnosti u operacionalizaciji upravljanja umjetnom inteligencijom na razini tvrtke:

Prvi tjedan: Temeljno usklađivanje
 

  • Definirajte zajedničku shemu klasifikacije podataka.
  • Mapirajte ključne resurse i zahtjeve za kontinuitet.
  • Uskladite standarde za kreiranje i verifikaciju agenata umjetne inteligencije.

Prvih 90 dana: otkrivanje i mapiranje kontrola
 

  • Slučajevi upotrebe umjetne inteligencije za inventar i povezani izvori podataka.
  • Provedite analizu DLP-a i kontrolnih nedostataka.
  • Izradite zajednički registar rizika i odredite prioritete testnih slučajeva upotrebe.

Prvih 180 dana: implementacija i validacija
 

  • Implementirajte nove oznake i pravilnike u testne poslovne jedinice.
  • Implementirajte automatizirani DLP za scenarije visokog rizika.
  • Uspostaviti mjesečno upravno vijeće za poboljšanje kontrola.

Ovaj proceduralni priručnik pomaže tvrtkama ili ustanovama da upravljanje podacima pretvore iz funkcije usklađenosti u strateški pokretač AI inovacija.

Izgradnja poduzeća spremnog za umjetnu inteligenciju

Put prema budućnosti vođenoj umjetnom inteligencijom započinje snažnim, zajedničkim temeljem za upravljanje podacima i njihovu zaštitu. Usklađivanjem odgovornosti CIO-a i CISO-a, uspostavom zajedničkog modela životnog ciklusa te pripremom za hibridnu radnu snagu ljudi i agenata, tvrtke ili ustanove mogu s većom pouzdanošću i povjerenjem iskoristiti puni potencijal umjetne inteligencije.

Vrijeme za izgradnju tog temelja je upravo sada.

Preuzmite vodič

Više ovakvih sadržaja

Grupa ljudi sjedi na kauču s tekstom koji glasi NEW Cyber Pulse – izvješće o sigurnosti umjetne inteligencije.

Cyber Pulse: izvješće o sigurnosti umjetne inteligencije

Uvidi u rast agenata umjetne inteligencije i put do odgovornog i sigurnog prihvaćanja kroz mogućnost promatranja, upravljanje i sigurnost.
Pročitajte članak
Naslovnica knjige s tekstom Microsoftove sigurnosne strategije za upravljanje umjetnom inteligencijom i ilustracijom muškarca u zelenoj košulji koji sjedi za stolom s računalom.

Strategije upravljanja umjetnom inteligencijom

Praktični koraci za izgradnju povjerenja, smanjenje rizika, optimizaciju troškova i poticanje inovacija
Pročitajte vodič
Bijeli crtež papira u omotnici s riječju Novo na plavoj pozadini.

Preuzmite CISO Digest

Budite korak ispred uz stručne uvide, trendove u djelatnosti i istraživanja sigurnosti u ovom dvomjesečnom serijalu e-pošte.
Registrirajte se
  1. [1]
    Microsoftov indeks sigurnosti podataka za 2026.: ujedinjenje zaštite podataka i inovacija u umjetnoj inteligenciji, Microsoft Security, 2026.
  2. [2]
    Međunarodna anketa provedena na više od 1700 stručnjaka za sigurnost podataka u srpnju 2025. koju je naručio Microsoft od agencije Hypothesis Group.

Pratite Microsoft Security