Отговорен ИИ от Microsoft
Принципи и подход
Ангажирани сме с разработването на системи с ИИ по начин, който е прозрачен, надежден и верен.
Принципи
Определяне на това, което е важно
Набелязахме шест принципа, които смятаме, че трябва да напътстват разработването и използването на ИИ.
Справедливост
Системите с ИИ трябва да третират всички хора по честен начин.
Как една система с ИИ може да разпределя възможности, ресурси и информация по начин, който е справедлив за хората, които я използват?
Как една система с ИИ може да разпределя възможности, ресурси и информация по начин, който е справедлив за хората, които я използват?
Надеждност и безопасност
Системите с ИИ трябва да работят надеждно и безопасно.
Как може система да функционира добре за хората в различни условия на използване и контекст, включително в такива, за които първоначално не е била предназначена?
Как може система да функционира добре за хората в различни условия на използване и контекст, включително в такива, за които първоначално не е била предназначена?
Поверителност и защита
Системите с ИИ трябва да бъдат защитени и да зачитат поверителността.
Как може система да бъде проектирана така, че да поддържа поверителността на личния живот и защитата?
Как може система да бъде проектирана така, че да поддържа поверителността на личния живот и защитата?
Всеобхватност
Системите с ИИ трябва да дават възможност на всички и да ангажират всички хора независимо от тяхното положение.
Как една система може да бъде проектирана да бъде приобщаваща за хора с всякакви способности?
Прозрачност
Системите с ИИ трябва да са разбираеми.
Как можем да гарантираме, че хората правилно разбират тези възможности на системата?
Как можем да гарантираме, че хората правилно разбират тези възможности на системата?
Отговорност
Хората трябва да бъдат отговорни за системите с ИИ.
Как можем да създадем контрол, така че хората да могат да бъдат отговорни и да могат да контролират?
Стандартът за отговорен ИИ на Microsoft
Разгледайте указанията от Microsoft за това как да проектирате, изграждате и тествате системи с ИИ.
Конкретни примери
Отговорно използване на ИИ на практика: Примери от Доклада за прозрачност на RAI за 2026 г.
Разберете как Microsoft прилага отговорни практики в областта на ИИ в реални системи — илюстрирани чрез конкретни примери, основани на Рамката за управление на риска на NIST и нашите принципи за ИИ.
- През есента на 2025 г. Microsoft въведе функцията за памет в Foundry Agent Service, което дава възможност на разработчиците да създават и управляват дългосрочна памет за своите агенти. Настоящият казус показва как екипът е идентифицирал, оценил и управлявал рисковете, свързани с услугата „Foundry Agent Service“, за да гарантира нейното безопасно пускане в експлоатация.
- Функцията „Памет“ в Microsoft 365 Copilot позволява на асистента с ИИ да запазва информация за потребителите в рамките на различните разговори, за да предоставя отговори, съобразени с контекста. Този случай илюстрира как екипът се справи с процеса на преглед на „чувствителното използване“, за да разработи и внедри функционалности като „памет“ по безопасен начин, при спазване на високи стандарти за защита на личните данни и сигурност.
- Fara-7B е първият малък езиков модел на Microsoft, базиран на агентна архитектура, предназначен за компютърна употреба. Този случай подчертава важността на отговорното управление на ИИ на ниво модел, включително оценка, тестване и стратегии за намаляване на риска преди пускането му в употреба.
- Този случай илюстрира как функцията „Разглеждане с Copilot“ — която позволява на ИИ да изпълнява задачи в интернет — е била разработена по отговорен начин чрез идентифициране на рисковете, свързани с вмъкването на команди и защитата на личните данни, симулиране на реалистични атаки от „червения екип“, въвеждане на многослойни мерки за ограничаване на рисковете и пускане в предварителна версия с възможности за контрол от страна на потребителите и цикли за обратна връзка.
ДОКЛАД ЗА ПРОЗРАЧНОСТ
Отчет за прозрачността на отговорния ИИ
„Microsoft“ развива и разширява обхвата на отговорното управление на ИИ. Разгледайте доклада за 2026 г., за да разберете как Microsoft:
- Изграждане на доверие в голям мащаб
- Среща с агентния момент
- Поуки от внедряването на ИИ
- Инвестиране в стандарти и инструменти
Документи за прозрачност
Документи за прозрачност
Разберете как работи нашата технология за ИИ, така че да можете да създадете система, която отговаря на вашите нужди.
Детектор на аномалии
Анализирайте данни от времеви редове, чрез използване на времеви марки и числови метрики, за да получите статуса на анормалност на всяка точка от данните, заедно с допринасящите променливи.
Безопасност на съдържанието в ИИ на Azure
Откривайте опасно съдържание в приложения и услуги с помощта на текстови, графични и мултимодални API – освен това използвайте категории по избор за персонализирани нужди от модериране на съдържание.
Face услуга на ИИ на Azure
Подобрете ефективността, защитата и опита на клиентите със системи, анализиращи човешки лица.
Търсене на ИИ на Azure
Получете подобрени с ИИ инструменти, API и SDK за изграждане на богати възможности за търсене за разнообразно съдържание в уеб, мобилни и корпоративни приложения.
Azure Language в Инструменти на Foundry
Езикът на ИИ на Azure в Инструменти на Foundry е облачна услуга, която предоставя функции за обработка на естествен език (NLP), за събиране и анализ на текст.
Azure OpenAI
Използвайте моделите на OpenAI, за да генерирате естествен език, код и изображения. Включено е интегрирано филтриране на съдържание и откриване на злоупотреби.
Azure Индексатор на видео
Анализирайте ИИ видео- и аудиофайлове, за да генерирате прозрения, например открити обекти, лица и транскрипции на повече от 60 езика.
Щракване за действие
Функция на Windows, която предоставя интелигентни преки пътища на потребителите, така че те да могат бързо да изпълнят задача въз основа на това, което преглеждат.
Често задавани въпроси
-
Принципите на ИИ са указания, предназначени да гарантират отговорното разработване и внедряване на технологии за ИИ. Тези принципи са от решаващо значение, тъй като спомагат за намаляване на рисковете, насърчават етичните практики и увеличават ползите от ИИ за обществото.
Стандартът за отговорен ИИ в Microsoft консолидира основните практики, за да гарантира съответствие с новите закони и разпоредби за ИИ.
- Microsoft предлага набор от инструменти и практики, за да помага на организациите да практикуват отговорен ИИ.
Освен това Стандарт за отговорен ИИ в Microsoft помага да се дефинират изискванията за разработване на продукти за отговорен ИИ. - Бележки за прозрачност се създават, за да се помага на клиентите да разбират по-добре същността на технологиите с ИИ и да вземат по-информирани решения за използването им. Те са част от Стандарта за отговорен ИИ и са предназначени да подпомагат отговорното развитие на ИИ, като предоставят прозрения за тока как тези системи се управляват, съпоставят, измерват и контролират.
Microsoft също така предлага Отчет за прозрачността на отговорния ИИ, който предоставя аналитични данни за начина, по който Microsoft изгражда приложения с генеративен ИИ, наблюдава внедряването на тези приложения, подпомага клиентите, при разработката им на собствени приложения с ИИ, и насърчава общността на отговорния ИИ.
Открийте още
Инструменти и практики
Получете инструменти за подкрепа на отговорните практики в областта на ИИ.
Правила и разпоредби за ИИ
Открийте най-новите перспективи за правилата за ИИ от експерти на Microsoft.
Ускорете бизнес растежа с надежден ИИ
Научете как да ускорите усвояването на ИИ, да намалите риска и да повишите доверието на клиентите, като използвате ИИ отговорно и защитено.
Следвайте Microsoft