作者：盧·阿德西達(dá)（LouAdesida）


隨著AI應(yīng)用進(jìn)入規(guī)模化部署，數(shù)據(jù)泄露、提示注入攻擊和智能體失控等風(fēng)險(xiǎn)，正威脅著企業(yè)的數(shù)字化轉(zhuǎn)型。在微軟Build 2025大會上，微軟宣布通過Microsoft Azure AI Foundry(國際版)、Microsoft Purview與Microsoft Defender的深度協(xié)同，構(gòu)建覆蓋開發(fā)、部署、運(yùn)維全流程的智能體防護(hù)體系，為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。

AI 技術(shù)領(lǐng)域的創(chuàng)新正以前所未有的速度發(fā)展，越來越多的 AI 應(yīng)用項(xiàng)目正從實(shí)驗(yàn)階段轉(zhuǎn)向部署階段，以推動(dòng)切實(shí)的業(yè)務(wù)影響。隨著組織通過自定義 AI 應(yīng)用和智能體加速創(chuàng)新，新的風(fēng)險(xiǎn)也出現(xiàn)在軟件開發(fā)生命周期和 AI 技術(shù)棧中，涉及數(shù)據(jù)過度共享與泄露、新型漏洞與威脅，以及嚴(yán)格的監(jiān)管合規(guī)要求。

到了2025年，針對企業(yè) AI 應(yīng)用的惡意攻擊中，軟件供應(yīng)鏈和基礎(chǔ)設(shè)施技術(shù)棧投毒的占比將超過70%1，這凸顯了開發(fā)早期階段可能存在的威脅。當(dāng)前數(shù)據(jù)泄露的平均成本為488萬美元，但如果能在開發(fā)過程中早期發(fā)現(xiàn)安全問題，這一數(shù)字可大幅降至每起事件80美元2。

信息非常明確：安全問題不能事后考慮。它必須成為整個(gè)組織的團(tuán)隊(duì)協(xié)作，從開始就嵌入并貫穿整個(gè)開發(fā)生命周期。因此，開發(fā)者和安全團(tuán)隊(duì)需要在流程和工具上達(dá)成一致，將安全融入 AI 技術(shù)開發(fā)生命周期的每個(gè)階段，并為安全從業(yè)者提供風(fēng)險(xiǎn)可見性和緩解能力。

為了應(yīng)對這些日益增長的挑戰(zhàn)，并幫助客戶在開發(fā)與安全團(tuán)隊(duì)間保護(hù)、治理 AI 技術(shù)工作負(fù)載，微軟正在：

賦能 Microsoft Azure AI Foundry (國際版)和 Microsoft Copilot Studio ，提供業(yè)界領(lǐng)先的基礎(chǔ)能力以保護(hù)和管理 AI 技術(shù)工作負(fù)載；

將 Microsoft Purview 、 Microsoft Defender 和 Microsoft Entra 的行業(yè)領(lǐng)先功能，深度集成并嵌入到 Microsoft Azure AI Foundry (國際版) 和 Microsoft Copilot Studio 中；

近期，3,000名開發(fā)者齊聚西雅圖參加年度微軟Build大會，還有更多開發(fā)人員在線參與學(xué)習(xí)，從而快速掌握 AI 應(yīng)用和智能體創(chuàng)新的實(shí)用技能。為了支持他們的 AI 技術(shù)創(chuàng)新之旅，我們很高興宣布多項(xiàng)新功能，幫助開發(fā)者和組織來保護(hù)及治理 AI 應(yīng)用與智能體。

01

Microsoft Azure AI Foundry (國際版)

新基礎(chǔ)能力：構(gòu)建 AI 技術(shù)工作

負(fù)載的全生命周期防護(hù)

01|AI安全與防護(hù)增強(qiáng)：主動(dòng)防御體系升級

Microsoft Azure AI Foundry (國際版)已服務(wù)70,000家客戶，本季度處理100萬億個(gè)token 并支持每日20億次企業(yè)搜索查詢。它已從單一應(yīng)用層發(fā)展為綜合性平臺，支持構(gòu)建具備規(guī)劃、執(zhí)行和學(xué)習(xí)能力的智能體，以達(dá)成實(shí)際業(yè)務(wù)目標(biāo)。

為助力組織安全構(gòu)建和部署 AI 應(yīng)用，我們?yōu)?Microsoft Azure AI Foundry (國際版)開發(fā)者推出以下新防護(hù)能力：

?聚光功能（ Spotlighting ）：實(shí)時(shí)檢測并阻斷提示注入攻擊

隨著 AI 技術(shù)系統(tǒng)更多依賴外部數(shù)據(jù)源，間接提示注入攻擊這類新型威脅已開始出現(xiàn)。此類攻擊通過在文檔、電子郵件和網(wǎng)頁中嵌入隱藏指令，誘使模型在無用戶直接輸入時(shí)執(zhí)行未授權(quán)操作。傳統(tǒng)過濾手段難以有效防御。

Microsoft Azure AI 內(nèi)容安全現(xiàn)推出聚光功能（預(yù)覽版），通過增強(qiáng)提示防護(hù)欄（Prompt Shields）的能力，檢測并阻斷潛在間接提示注入攻擊，防止模型執(zhí)行隱蔽惡意指令。

▲在 Microsoft Azure AI Content Safety 中啟用聚光功能，以檢測潛在的間接提示注入攻擊。

?智能體任務(wù)遵從性（預(yù)覽版）：確保智能體在既定范圍內(nèi)運(yùn)作

隨著開發(fā)者構(gòu)建更強(qiáng)大的智能體，組織面臨越來越大的壓力來確保這些智能體在定義的指令和政策邊界內(nèi)運(yùn)作。即使微小偏差也可能導(dǎo)致工具誤用、工作流中斷或敏感數(shù)據(jù)意外暴露等風(fēng)險(xiǎn)。為此，Microsoft Azure AI Foundry (國際版)現(xiàn)包含智能體任務(wù)遵從性（預(yù)覽版），由兩個(gè)組件驅(qū)動(dòng)：實(shí)時(shí)評估和 Microsoft Azure AI Content Safety 中的新控制項(xiàng)。

Microsoft Azure AI Content Safety 中的實(shí)時(shí)任務(wù)遵從性評估 API是核心。該 API 通過分析用戶查詢、系統(tǒng)指令、計(jì)劃工具調(diào)用和智能體響應(yīng)，評估智能體行為是否符合分配任務(wù)。評估框架基于微軟智能體評估器構(gòu)建，可測量意圖解析度、工具選擇準(zhǔn)確性、響應(yīng)完整性和對原始請求的整體符合性。開發(fā)者可使用 Microsoft Azure AI 評估 SDK 中的任務(wù)遵從性評估器在本地運(yùn)行評分邏輯，采用從完全不符合到完全符合的五級評分。這為團(tuán)隊(duì)提供了靈活透明的方式，在問題影響下游前檢查任務(wù)級行為。

任務(wù)遵從性通過 Microsoft Azure AI Content Safety中的新控制項(xiàng)執(zhí)行。如果智能體偏離任務(wù)，控制項(xiàng)可阻止工具使用、暫停執(zhí)行或觸發(fā)人工審核。在 Microsoft Azure AI 智能體服務(wù)中，該功能作為可選功能自動(dòng)運(yùn)行。結(jié)合實(shí)時(shí)評估，該控制項(xiàng)幫助確保智能體保持任務(wù)專注、遵循指令并按企業(yè)政策運(yùn)作。

? 持續(xù)評估與監(jiān)控：部署后智能體健康度實(shí)時(shí)追蹤

在部署后保持 AI 智能體的高性能和合規(guī)性，是一項(xiàng)日益嚴(yán)峻的挑戰(zhàn)。如果缺乏持續(xù)的監(jiān)督，性能下降、安全風(fēng)險(xiǎn)或資源無意濫用等問題可能會被忽視。

Microsoft Azure AI Foundry (國際版)推出的智能體系統(tǒng)持續(xù)評估和監(jiān)控（預(yù)覽版），通過統(tǒng)一儀表板實(shí)時(shí)跟蹤性能、質(zhì)量、安全性和資源使用等關(guān)鍵指標(biāo)。持續(xù)評估以生產(chǎn)使用量的抽樣率運(yùn)行質(zhì)量和安全評估，結(jié)果在 Microsoft Azure AI Foundry (國際版)監(jiān)控儀表板顯示并發(fā)布至 Application Insights 。開發(fā)者可設(shè)置警報(bào)檢測漂移或回歸，并使用 Microsoft Azure Monitor 獲得 AI 技術(shù)系統(tǒng)的全棧可見性。

例如，使用 AI 智能體處理客戶任務(wù)的組織可監(jiān)控?cái)?shù)據(jù)真實(shí)性，當(dāng)智能體開始引用無關(guān)信息時(shí)檢測質(zhì)量下降，幫助團(tuán)隊(duì)在影響用戶信任前采取行動(dòng)。

02 | 合規(guī)評估自動(dòng)化：與 Purview / CredoAI / Saidot的深度集成

AI 技術(shù)法規(guī)和標(biāo)準(zhǔn)對高風(fēng)險(xiǎn) AI 技術(shù)系統(tǒng)提出了透明度、文檔管理和風(fēng)險(xiǎn)管理的新要求。開發(fā)者在構(gòu)建 AI 應(yīng)用和智能體時(shí)，可能需要基于這些要求的風(fēng)險(xiǎn)評估指導(dǎo)工具，并與合規(guī)和風(fēng)險(xiǎn)團(tuán)隊(duì)無縫共享控制及評估洞察。

今天，我們宣布 Microsoft Azure AI Foundry (國際版)評估工具與合規(guī)管理解決方案Microsoft Purview 合規(guī)管理器及 AI 治理解決方案CredoAI和Saidot的集成預(yù)覽。這些集成幫助定義風(fēng)險(xiǎn)參數(shù)、運(yùn)行建議的合規(guī)評估，并為控制測試和審計(jì)收集證據(jù)。

例如，在歐洲構(gòu)建 AI 智能體的開發(fā)者，可能需要合規(guī)團(tuán)隊(duì)完成數(shù)據(jù)保護(hù)影響評估（DPIA）和算法影響評估（AIA），以滿足內(nèi)部風(fēng)險(xiǎn)管理和技術(shù)文檔要求?；?Microsoft Purview 合規(guī)管理器的分步控制實(shí)施和測試指南，合規(guī)團(tuán)隊(duì)可評估潛在偏見、網(wǎng)絡(luò)安全漏洞或模型行為缺乏透明度等風(fēng)險(xiǎn)。

在 Microsoft Azure AI Foundry (國際版)完成評估后，開發(fā)者可獲得記錄風(fēng)險(xiǎn)、緩解措施和剩余風(fēng)險(xiǎn)的報(bào)告，供合規(guī)團(tuán)隊(duì)上傳至合規(guī)管理器以支持審計(jì)并向監(jiān)管機(jī)構(gòu)或外部利益相關(guān)方提供證據(jù)。

▲根據(jù)新興AI技術(shù)治理標(biāo)準(zhǔn)評估 Microsoft Azure AI Foundry (國際版)的控制措施。

02

微軟安全能力擴(kuò)展：

為 AI 應(yīng)用注入企業(yè)級控制

01|智能體身份治理：Microsoft Entra Agent ID 解決身份泛濫難題

組織正快速構(gòu)建自有 AI 智能體，導(dǎo)致智能體泛濫和集中化管理缺失。安全團(tuán)隊(duì)常疲于應(yīng)對，無法掌握現(xiàn)有智能體及其引入的安全或合規(guī)風(fēng)險(xiǎn)。如果沒有適當(dāng)?shù)谋O(jiān)督，智能體會擴(kuò)大攻擊面并增加非人類身份管理難度。

為此，我們宣布推出Microsoft Entra Agent ID（公開預(yù)覽版），這是 Microsoft Entra管理中心的新功能，讓安全管理員對 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國際版)構(gòu)建的 AI 智能體獲得可見性和控制權(quán)。通過該功能，Microsoft Copilot Studio 或 Microsoft Azure AI Foundry (國際版)創(chuàng)建的智能體將自動(dòng)分配身份，無需開發(fā)者額外工作。這是管理保護(hù)非人類身份的長期計(jì)劃的第一步。

▲安全與身份管理員可在 Microsoft Entra 管理中心

查看 Microsoft Copilot Studio 和 Microsoft Azure AI Foundry (國際版)構(gòu)建的 AI 智能體。

這項(xiàng)新功能為即將登陸 Microsoft Entra 的進(jìn)階能力奠定了基礎(chǔ)。

我們深知，安全防護(hù)從來不是單打獨(dú)斗。在保護(hù) AI 智能體及其身份的新時(shí)代，協(xié)同合作尤為重要。兩周前，我們宣布支持 Agent-to-Agent（A2A）協(xié)議，并開始與合作伙伴共同塑造 AI 身份工作流的未來。

我們更欣喜地宣布與 ServiceNow 和 Workday 達(dá)成全新合作。通過將 Microsoft Entra Agent ID 與 ServiceNow AI 平臺及 Workday 智能體記錄系統(tǒng)集成，未來可實(shí)現(xiàn)數(shù)字化員工身份的自動(dòng)化配置。

02|威脅防護(hù)直通開發(fā)流程： Microsoft Defender 安全警報(bào)和建議已無縫集成至Microsoft Azure AI Foundry (國際版)

隨著更多 AI 應(yīng)用部署至生產(chǎn)環(huán)境，組織需要通過原生集成的安全控制措施來預(yù)測和防止?jié)撛诘?AI 技術(shù)威脅，這些控制由行業(yè)領(lǐng)先的生成式 AI 和威脅情報(bào)支持。開發(fā)者需要安全團(tuán)隊(duì)的關(guān)鍵信號，以有效緩解 AI 應(yīng)用部署相關(guān)風(fēng)險(xiǎn)。

當(dāng)這些信號存在于開發(fā)者體驗(yàn)之外的獨(dú)立系統(tǒng)時(shí)，可能導(dǎo)致緩解延遲，使 AI 應(yīng)用和智能體成為負(fù)擔(dān)，并暴露組織于各種威脅和違規(guī)風(fēng)險(xiǎn)。

Microsoft Defender for Cloud（預(yù)覽版）能夠直接將 AI 技術(shù)安全態(tài)勢管理建議和運(yùn)行時(shí)威脅防護(hù)警報(bào)，集成至 Microsoft Azure AI Foundry (國際版)門戶中。

這些功能作為更廣泛的 Microsoft Defender for Cloud 解決方案的一部分，現(xiàn)已原生擴(kuò)展至 Microsoft Azure AI Foundry (國際版)中，使開發(fā)者無需離開工作流即可訪問警報(bào)和建議，實(shí)時(shí)查看安全風(fēng)險(xiǎn)、錯(cuò)誤配置和針對特定 Microsoft Azure AI 項(xiàng)目的主動(dòng)威脅，無需切換工具或等待安全團(tuán)隊(duì)提供詳細(xì)信息。

Microsoft Defender for Cloud 的安全洞察幫助開發(fā)者識別和應(yīng)對越獄攻擊、敏感數(shù)據(jù)泄露和系統(tǒng)資源濫用等威脅，包括：

AI 技術(shù)安全態(tài)勢建議：識別 AI 技術(shù)服務(wù)中的錯(cuò)誤配置和漏洞并提供降險(xiǎn)最佳實(shí)踐

AI 技術(shù)服務(wù)威脅防護(hù)警報(bào)：通知開發(fā)者主動(dòng)威脅并提供緩解指導(dǎo)，覆蓋超過15種檢測類型

例如，構(gòu)建 AI 智能體的開發(fā)者可收到建議使用 Microsoft Azure Private Link 連接Microsoft Azure AI 服務(wù)資源，通過 Microsoft Azure 主干網(wǎng)絡(luò)處理連接以降低數(shù)據(jù)泄露風(fēng)險(xiǎn)。每個(gè)建議包含可操作的修復(fù)步驟，幫助團(tuán)隊(duì)在部署前后階段識別和緩解風(fēng)險(xiǎn)。這有助于在不減慢創(chuàng)新速度的情況下，顯著降低風(fēng)險(xiǎn)。

▲ 開發(fā)者可在 Microsoft Azure AI Foundry (國際版)的"風(fēng)險(xiǎn)+警報(bào)"頁面查看安全警報(bào)。

▲開發(fā)者可在 Microsoft Azure AI Foundry (國際版)的"防護(hù)欄+控制"頁面查看建議。

該集成目前為預(yù)覽版，將于2025年6月在 Microsoft Azure AI Foundry (國際版)全面上市。

03

Microsoft Purview數(shù)據(jù)安全擴(kuò)展：保護(hù)和管理自定義 AI 應(yīng)用

與智能體中的數(shù)據(jù)

數(shù)據(jù)過度共享和泄露，是 AI 技術(shù)采用的主要擔(dān)憂，也是許多監(jiān)管要求的核心。為了讓組織自信地部署 AI 應(yīng)用和智能體，低代碼和專業(yè)開發(fā)者都需要將安全合規(guī)控制無縫嵌入 AI 技術(shù)創(chuàng)作中。如果沒有簡單、對開發(fā)人員友好的解決方案，安全漏洞很快就會成為阻礙因素，從而在應(yīng)用程序從開發(fā)轉(zhuǎn)移到生產(chǎn)環(huán)境時(shí)延遲部署并增加風(fēng)險(xiǎn)。

如今，Microsoft Purview 正在擴(kuò)展其企業(yè)級數(shù)據(jù)安全與合規(guī)能力，使低代碼和專業(yè)開發(fā)者都能更輕松地將數(shù)據(jù)安全和合規(guī)集成到他們的 AI 應(yīng)用程序和智能體中，無論他們使用何種工具或平臺。

例如，通過本次更新，Microsoft Purview DSPM for AI 成為數(shù)據(jù)安全團(tuán)隊(duì)可以查看所有數(shù)據(jù)風(fēng)險(xiǎn)洞察的一站式平臺，涵蓋智能Microsoft 365 Copilot 副駕駛、通過 Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體，以及在 Microsoft Azure AI Foundry (國際版)和其他平臺上構(gòu)建的自定義 AI 應(yīng)用和智能體。管理員可以輕松深入地查看特定 AI 應(yīng)用或智能體的安全和合規(guī)洞察，從而更輕松地調(diào)查潛在風(fēng)險(xiǎn)并采取行動(dòng)。

▲數(shù)據(jù)安全管理員現(xiàn)在可以在 Microsoft Purview DSPM for AI 中查看跨智能 Microsoft 365 Copilot 副駕駛、通過 Agent Builder 和 Microsoft Copilot Studio 構(gòu)建的智能體，以及自定義 AI 應(yīng)用和智能體的數(shù)據(jù)安全與合規(guī)洞察。

在以下部分，我們將詳細(xì)介紹 Microsoft Purview 在各種 AI 技術(shù)工作負(fù)載中的能力更新。

01|Microsoft Purview 數(shù)據(jù)安全與合規(guī)控制，現(xiàn)在可以通過新的 Microsoft Purview SDK 或 Microsoft Purview 與 Microsoft Azure AI Foundry (國際版)的原生集成，擴(kuò)展到任何自定義構(gòu)建的 AI 應(yīng)用程序和智能體中。

這些新功能使安全團(tuán)隊(duì)能夠輕松地將目前適用于智能Microsoft 365 Copilot副駕駛的企業(yè)級數(shù)據(jù)安全合規(guī)控制，擴(kuò)展到自定義 AI 應(yīng)用程序和智能體，從而使組織能夠：

在 Microsoft Purview AI 數(shù)據(jù)安全態(tài)勢管理 (DSPM)中，發(fā)現(xiàn)數(shù)據(jù)安全風(fēng)險(xiǎn)（例如用戶提示中的敏感數(shù)據(jù)）和數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)（例如有害內(nèi)容），并獲取建議措施以主動(dòng)降低風(fēng)險(xiǎn)；

通過 Microsoft Purview 數(shù)據(jù)安全策略保護(hù)敏感數(shù)據(jù)，防范數(shù)據(jù)泄露和內(nèi)部風(fēng)險(xiǎn)；

使用審計(jì)、數(shù)據(jù)生命周期管理、電子數(shù)據(jù)展示和通信合規(guī)功能管理 AI 應(yīng)用交互。

Microsoft Purview SDK

Microsoft Purview 現(xiàn)在提供 Purview SDK，這是一組 REST API、文檔和代碼示例（目前為預(yù)覽版），使開發(fā)者能夠在任何集成開發(fā)環(huán)境（IDE）中將 Microsoft Purview 的數(shù)據(jù)安全和合規(guī)能力集成到 AI 應(yīng)用程序或智能體中。

▲ 數(shù)通過將 Microsoft Purview API 嵌入 IDE，開發(fā)者可以幫助確保其 AI 應(yīng)用在運(yùn)行時(shí)受到保護(hù)和治理。

例如，使用 AWS 模型構(gòu)建 AI 智能體的開發(fā)者，可以在暴露給模型之前使用Microsoft Purview SDK使其 AI 應(yīng)用能夠自動(dòng)識別并阻止用戶輸入的敏感數(shù)據(jù)，同時(shí)為安全團(tuán)隊(duì)提供支持合規(guī)的有價(jià)值信號。

通過 Microsoft Purview SDK，初創(chuàng)公司、獨(dú)立軟件供應(yīng)商（ISV）和合作伙伴現(xiàn)在可以將Microsoft Purview 行業(yè)領(lǐng)先的能力直接嵌入其 AI 應(yīng)用軟件解決方案中，使這些解決方案具備 Microsoft Purview 感知能力，并使其客戶更容易在 AI 技術(shù)解決方案中保護(hù)和治理數(shù)據(jù)。

例如，Infosys網(wǎng)絡(luò)安全實(shí)踐副總裁兼交付主管阿希什·阿德瓦里尤（Ashish Adhvaryu）表示：“Infosys Cyber Next 平臺集成 Microsoft Purview 以提供增強(qiáng)的 AI 技術(shù)安全能力。我們的解決方案是面向 SOC 分析師的 Cyber Next AI 助手（Cyber Advisor），它利用 Microsoft Purview SDK 通過實(shí)時(shí)監(jiān)控和審計(jì)能力，推動(dòng)主動(dòng)威脅緩解。這種集成提供了全面的 AI 技術(shù)輔助保護(hù)，增強(qiáng)了網(wǎng)絡(luò)安全態(tài)勢。”

微軟合作伙伴EY（安永）也利用新的 Microsoft Purview SDK，將 Microsoft Purview 的價(jià)值嵌入其生成式 AI 計(jì)劃中。EY創(chuàng)新與新興科技合作伙伴蘇曼塔·卡爾（Sumanta Kar）指出：“我們不僅在構(gòu)建 AI 工具，我們正在創(chuàng)建從一開始就具備信任、安全性和透明度的智能體解決方案，這些特性通過 Microsoft Purview SDK 提供的策略控制得到支持。在使用 Microsoft Purview SDK 構(gòu)建安全功能時(shí)，我們看到了25%到30%的時(shí)間節(jié)省?！?/p>

Microsoft Purview與Microsoft Azure AI Foundry (國際版)原生集成

組織平均開發(fā)14個(gè)自定義 AI 應(yīng)用程序。而 AI 技術(shù)創(chuàng)新的快速步伐，可能使安全團(tuán)隊(duì)無法意識到其環(huán)境中的潛在數(shù)據(jù)安全和合規(guī)風(fēng)險(xiǎn)。

Microsoft Azure AI Foundry (國際版)信號現(xiàn)在直接與 Purview Data Security Posture Management for AI 、 Insider Risk Management 和數(shù)據(jù)合規(guī)控制集成，最大限度地減少了額外開發(fā)工作的需求。

例如，對于使用 Microsoft Azure AI Foundry (國際版)模型構(gòu)建的 AI 應(yīng)用程序和智能體，數(shù)據(jù)安全團(tuán)隊(duì)可以在 Microsoft Purview DSPM for AI 中獲得 AI 技術(shù)使用情況和數(shù)據(jù)風(fēng)險(xiǎn)的可見性，而無需開發(fā)人員進(jìn)行額外工作。數(shù)據(jù)安全團(tuán)隊(duì)還可以通過 Microsoft Purview Insider Risk Management （IRM） 策略檢測、調(diào)查和響應(yīng)惡意和無意用戶活動(dòng)，例如離職員工利用 AI 智能體檢索異常數(shù)量的敏感數(shù)據(jù)。最后，Microsoft Azure AI 應(yīng)用和智能體中的用戶提示和 AI 技術(shù)響應(yīng)，現(xiàn)在可以如上所述被攝取到 Microsoft Purview 合規(guī)工具中。

02|Microsoft Purview 數(shù)據(jù)保護(hù)擴(kuò)展到基于 Microsoft Dataverse 數(shù)據(jù)的 Microsoft Copilot Studio 智能體

即將在6月推出的預(yù)覽版中，Microsoft Purview 信息保護(hù)將自動(dòng)標(biāo)記和標(biāo)簽繼承覆蓋范圍擴(kuò)展到 Dataverse ，以幫助防止過度共享和數(shù)據(jù)泄露。信息保護(hù)使組織能夠更輕松地大規(guī)模自動(dòng)分類和保護(hù)敏感數(shù)據(jù)。

一個(gè)常見的挑戰(zhàn)是敏感數(shù)據(jù)通常從各種來源進(jìn)入 Dataverse，但沒有一致的標(biāo)記或保護(hù)。如果數(shù)據(jù)沒有得到適當(dāng)保護(hù)，快速采用使用 Microsoft Copilot Studio 構(gòu)建并基于 Dataverse 數(shù)據(jù)的智能體，會增加數(shù)據(jù)過度共享和泄露的風(fēng)險(xiǎn)。

通過自動(dòng)標(biāo)記，存儲在 Dataverse 表中的數(shù)據(jù)可以根據(jù) Microsoft Purview 中設(shè)置的策略自動(dòng)標(biāo)記，無論其來源如何。這減少了手動(dòng)標(biāo)記的工作量，并在數(shù)據(jù)進(jìn)入 Dataverse 時(shí)立即保護(hù)敏感信息。

通過標(biāo)簽繼承，基于 Dataverse 數(shù)據(jù)的 AI 智能體響應(yīng)將自動(dòng)攜帶并遵循源數(shù)據(jù)的敏感度標(biāo)簽。如果響應(yīng)從具有不同標(biāo)簽的多個(gè)表中提取數(shù)據(jù)，則將應(yīng)用最嚴(yán)格的標(biāo)簽以確保一致的保護(hù)。

例如，在 Microsoft Copilot Studio 中構(gòu)建智能體的財(cái)務(wù)顧問可能會連接多個(gè) Dataverse表，其中一些標(biāo)記為“普通”，另一些標(biāo)記為“高度機(jī)密”。如果響應(yīng)從兩者中提取數(shù)據(jù)，它將繼承最嚴(yán)格的標(biāo)簽，在本例中為“高度機(jī)密”，以防止未經(jīng)授權(quán)的訪問，并確保對智能體的創(chuàng)建者和用戶都應(yīng)用適當(dāng)?shù)谋Ｗo(hù)。

總之， Dataverse 中的自動(dòng)標(biāo)記和標(biāo)簽繼承為 AI 技術(shù)提供了更安全、自動(dòng)化的基礎(chǔ)。

▲ 敏感度標(biāo)簽將自動(dòng)應(yīng)用于 Dataverse 中的數(shù)據(jù)。

▲ AI 技術(shù)生成的響應(yīng)將繼承并遵循源數(shù)據(jù)的敏感度標(biāo)簽。

03|Microsoft Purview DSPM for AI

現(xiàn)在可以提供對與 Microsoft Copilot Studio 智能體的未認(rèn)證交互的可見性

隨著組織越來越多地使用 Microsoft Copilot Studio 部署 AI 智能體以進(jìn)行一線客戶互動(dòng)，獲取對未認(rèn)證用戶交互的可見性并主動(dòng)緩解風(fēng)險(xiǎn)變得越來越重要。

基于現(xiàn)有的 Microsoft Purview 和 Microsoft Copilot Studio 集成，我們在 Microsoft Copilot Studio 中擴(kuò)展了 DSPM for AI 和 Audit ，以提供對未經(jīng)身份驗(yàn)證的交互的可見性，現(xiàn)在提供預(yù)覽版。這使組織能夠更全面地了解跨認(rèn)證和未認(rèn)證用戶的 AI 技術(shù)相關(guān)數(shù)據(jù)安全風(fēng)險(xiǎn)。

例如，托管面向客戶的外部智能體助手的醫(yī)療保健提供商必須能夠檢測和響應(yīng)未認(rèn)證用戶嘗試訪問敏感患者數(shù)據(jù)的行為。借助 DSPM for AI 中的這些新功能，數(shù)據(jù)安全團(tuán)隊(duì)現(xiàn)在可以識別這些交互，評估敏感數(shù)據(jù)的潛在暴露，并采取相應(yīng)行動(dòng)。此外，與 Microsoft Purview Audit 的集成為團(tuán)隊(duì)提供了無縫訪問審計(jì)要求所需的信息。

▲ 獲取對所有 AI 技術(shù)交互的可見性，包括來自未認(rèn)證用戶的交互。

04| Microsoft Purview 數(shù)據(jù)丟失防護(hù)擴(kuò)展到更多 Microsoft 365 智能體場景

為了幫助組織防止通過 AI 技術(shù)過度共享數(shù)據(jù)，在微軟 Ignite 2024大會上，我們宣布數(shù)據(jù)安全管理員可以阻止智能 Microsoft 365 Copilot 副駕駛使用某些標(biāo)記的文檔作為基礎(chǔ)數(shù)據(jù)生成摘要或響應(yīng)。

此控件現(xiàn)在處于預(yù)覽階段，還將擴(kuò)展到基于Microsoft 365 數(shù)據(jù)發(fā)布的智能體，包括預(yù)構(gòu)建的 Microsoft 365智能體、使用 Agent Builder 構(gòu)建的智能體和使用 Microsoft Copilot Studio 構(gòu)建的智能體。這有助于確保包含敏感內(nèi)容的文件被 AI 智能體適當(dāng)使用。

例如，包含高度專業(yè)化語言的機(jī)密法律文件如果被 AI 智能體摘要可能會導(dǎo)致不當(dāng)指導(dǎo)，或者“僅限內(nèi)部”的文檔不應(yīng)被用于生成可以在組織外部共享的內(nèi)容。

▲將數(shù)據(jù)丟失防護(hù)（DLP）策略擴(kuò)展到智能 Microsoft 365 Copilot 副駕駛智能體以保護(hù)敏感數(shù)據(jù)。

我們擴(kuò)展至 Agent Builder 和 Microsoft Copilot Studio 智能體的數(shù)據(jù)保護(hù)能力，展示了我們對加強(qiáng) Copilot 控制系統(tǒng)（CSS）的安全與治理支柱的持續(xù)投資。CCS 提供集成控件，幫助 IT 和安全團(tuán)隊(duì)保護(hù)、管理和監(jiān)控 Microsoft 365 中的智能Microsoft Copilot 副駕駛和智能體，涵蓋治理、管理和報(bào)告。

在 AI 技術(shù)快速發(fā)展的今天，確保 AI 技術(shù)全生命周期的安全防護(hù)已成為每個(gè)組織的關(guān)鍵任務(wù)。Microsoft Security 提供從代碼開發(fā)到運(yùn)行維護(hù)的全方位安全工具與資源，幫助開發(fā)者和安全團(tuán)隊(duì)持續(xù)抵御新興威脅，為 AI 模型、應(yīng)用和智能體構(gòu)建堅(jiān)固的安全防線。我們誠摯邀請你深入了解這些解決方案，共同探索 AI 技術(shù)安全的最佳實(shí)踐，為企業(yè)的智能化轉(zhuǎn)型保駕護(hù)航。

*本文中介紹的智能Security Copilot副駕駛服務(wù)適用于國際版企業(yè)級服務(wù)。

[1]《2025年預(yù)測：應(yīng)對迫在眉睫的AI安全挑戰(zhàn)》，作者：Jeremy D'Hoinne、Akif Khan、Manuel Acosta、Avivah Litan、Deepak Seth、Bart Willemsen，2025年2月10日發(fā)布。

[2] IBM《2024年數(shù)據(jù)泄露成本報(bào)告：金融行業(yè)》，IBM Think，2024年8月13日發(fā)布，原文鏈接：https://www.ibm.com/think/insights/cost-of-a-data-breach-2024-financial-industry；

Cser, Tamas《軟件開發(fā)生命周期中后期發(fā)現(xiàn)缺陷的成本》，F(xiàn)unctionize，2023年1月5日發(fā)布，原文鏈接：

https://www.functionize.com/blog/the-cost-of-finding-bugs-later-in-the-sdlc