Konversationsassistenter og co-piloter er gået fra at være en nyhed til en tværgående del af arbejdsmiljøet. Dette spring bringer produktivitet, men det åbner også døren for, at misbrug af AI kan blive en reel risiko. Hvis du administrerer Windows 11 og Microsoft 365, er det tid til at tage det alvorligt beskyt data, brugere og enheder mod umiddelbare injektioner, utilsigtede lækager og ukontrollerede automatiseringer.
Den gode nyhed er, at Microsofts økosystem allerede inkorporerer modne komponenter til at styre og beskytte brugen af generativ AI. Microsoft Purview, med sin DSPM-tilgang til AI, og sikkerheds-, compliance- og opbevaringskontrollerne i M365, er rygraden i dette skjold., både til Copilot og til tredjepartsapps som f.eks. Chat GPT EnterpriseLad os se, uden at vrøvle om busken, hvorfor chatbots kan opføre sig som en bagdør, og hvilke håndtag du har til at lukke den.
Hvorfor chatbots kan opføre sig som en bagdør
Generativ AI er utrolig kraftfuld, når den kombinerer kontekst, værktøjer og handlinger. Det er netop derfor, hvis en agent opnår brede tilladelser eller manipuleres ved en prompt injektionDen kan orkestrere opgaver lige fra at læse og opsummere følsomme dokumenter til at sende information uden for organisationen. Denne risiko forstærkes af... Model Context Protocol (MCP), standarden der tillader en agent at opdage serverfunktioner og udføre handlinger på en kædet måde.
Windows bevæger sig mod en 'agentisk operativsystem'-tilgang, så agenter kan udføre komplekse opgaver. Dette øger automatiseringen, men øger også angrebsfladen: cross-prompt injection, svag godkendelse, lækage af legitimationsoplysninger, værktøjsforgiftning (ubekræftede MCP-servere), manglende inddæmning mellem processer, utilstrækkelig sikkerhedsgennemgang og risici i forsyningskæden på eksterne servere.
Der er lektioner, som ikke bør glemmes. ActiveX og OLE Automation lovede engang genveje, men De endte med at være frikort for malware og ondsindede makroer i årevis.I dag er konteksten en anden, men princippet er det samme: Når man giver automatiseringskraften uden begrænsninger eller inspektion, vil nogen forsøge at udnytte den.
Copilot i Windows 11 og også i Windows 10: hvad ændres
Microsoft har besluttet at tage Copilot ud over Windows 11 og også bringe det tættere på Windows 10. Ideen er at have en tværfunktionel co-pilot, der hjælper dig med at konfigurere systemet og udføre daglige opgaver uden ekstra omkostninger i selve Windows. (i modsætning til Copilot til Microsoft 365, som er en betalt tjeneste). Hvad vil du bemærke i din daglige brug?
- Opgaveautomatiseringhurtig oprettelse af handlinger, som AI udfører med færre manuelle trin.
- Kreativ redigeringI Paint, fjernelse af baggrund og laghåndtering; i Fotos, bokeh-baggrundssløring; i Clipchamp, redigeringsforslag baseret på scener og varighed.
- Billedsøgning i OneDrivemere raffinerede resultater med filtre efter placering og kontekst.
- OCR på farten: udtræk tekst indlejret i billeder til brug i enhver app, du ønsker.
- Skærmbilleder med fortællingSkærmoptagelse med mikrofon til hurtigere vejledninger.
- Smartere e-mail: synkronisering af flere konti i det nye Outlook og forslag til vedhæftede filer baseret på din tidligere aktivitet.
- Explorer med smarte genveje: fremhævet adgang til det, du bruger mest, baseret på din adfærd.
- Stemmediktat og instruktioner: redigerer dikteret tekst og sender anmodninger til Copilot ved at tale, ideel til hurtige strømninger.
Copilot inkorporerer to koncepter, der sommetider forveksles. Vision fungerer inden for den kontekst, du deler i den specifikke session. (et websted i Edge, en app på Windows, kameraet i mobilappen). Disse oplysninger gemmes ikke som skærmbilleder; kun chattransskriptet forbliver i din historik, som du kan slette, når du vil.
MCP på Windows: Kraftfuld automatisering med kontrol på farten
For at dette agentorienterede Windows skal være levedygtigt, forestiller Microsoft sig en lokalt register af MCP-servere, indlejrede servere, der eksponerer systemfunktioner (filsystem, Windows, WSL) og apphandlinger, så Tredjeparter publicerer handlinger såsom MCP-servereAmbitionen er, at en kommando i naturligt sprog kan kæde forespørgsler sammen, generere Excel-diagrammer og endda sende e-mails.
Sikkerhed er nøglen. Microsoft foreslår en fuldmægtig mellemmand der administrerer klient-server-trafik for at håndhæve politikker, revision og samtykke; Minimum sikkerhedsniveau for MCP-servere (kodesignering, grænsefladetestning, privilegieerklæring) og runtime-isolering med detaljerede tilladelserNogle funktioner kommer ikke med i den første forhåndsvisning for udviklere, så det er en god idé at begynde at bruge datastyringsrammen nu.
Hovedindgangen til beskyttelse af AI: Microsoft Purviews DSPM
Datasikkerhedsstatusstyring for AI (DSPM) i Område Det er kontrolpanelet til Opdag, beskyt og håndhæv overholdelse af regler for brugen af AI på tværs af virksomhedenDen genbruger eksisterende funktioner til informationsbeskyttelse og overholdelse af regler og standarder og pakker dem med rapportering og politikker med ét klik, der fremskynder den sikre implementering af Copilots, agenter og andre værktøjer. generative apps.
I Purview kan du se AI-apps grupperet i tre kategorier. Copilot-oplevelser og agenter (Microsoft 365 Copilot, Sikkerheds-Copilot, Copilot på Fabric, Copilot Studio); AI-applikationer til virksomheder (for eksempel apps registreret hos Entra, ChatGPT Enterprise, Azure AI Foundry) og Andre AI-applikationer registreret af browseraktivitet (ChatGPT, Google Gemini, Microsoft Copilot for Consumer, DeepSeekHver blok arver sikkerheds- og compliance-kontroller i henhold til dens natur.
Fortrolighedsmærkater: Kontroller, hvad AI kan se og bruge
Når din lejers data har fortrolighedsmærker, Kompatible AI-applikationer returnerer aldrig indhold, hvis brugeren ikke har adgangWord, Excel, PowerPoint og Outlook viser etiketten og tilhørende markup (overskrifter, sidefødder), og det samme gælder for Loop-komponenter og sider. Hvis etiketten anvender kryptering, kræver AI'en VIEW og EXTRACT for at kunne svare eller linke.
Denne beskyttelse omfatter også data-in-use-scenariet, selvom filen er uden for M365-området (lokale, delte mapper eller tredjeparts cloud-lagring) så længe den er åben i en Office-app. Hvis du ikke allerede bruger følsomhedsmærkater, er det værd at aktivere dem så hurtigt som muligt.
Umærket kryptering og undtagelser, du bør kende til
Selv uden en etiket kan tjenester og produkter anvende Azure Rights Management-kryptering. AI validerer VIEW- og EXTRACT-rettigheder, før data returneres. men der vil ikke være automatisk arv for nye elementerLøsninger, der udnytter denne kryptering: Purview Message Encryption, IRM, RMS Connector og Rights Management SDK.
For andre krypteringsmetoder: Copilot returnerer ikke e-mails beskyttet med S/MIME og Den er ikke tilgængelig i Outlook, når du åbner S/MIME-meddelelser.Den tilgår heller ikke adgangskodebeskyttede dokumenter, medmindre brugeren allerede har dem åbne i samme program; adgangskodebeskyttelse nedarves ikke. Med CCK eller BYOK i Purview forbliver krypteret indhold synligt for eDiscovery, Search og Copilot med de relevante tilladelser.
Forebyggelse af datatab: Blokerer lækager til AI-websteder
Med Purview DLP kan du opdage, overvåge og forhindre lækager i Microsoft 365 og ved endpointen. Windows-systemer integreret i Purview understøtter endpoint DLP Denne funktion advarer mod eller forhindrer deling af følsomme data med generative AI-websteder i browseren. Et typisk eksempel er at forhindre indsættelse af kreditkortnumre i ChatGPT eller at vise en advarsel, der kan tilsidesættes.
Derudover en DLP-direktiv med AI-lokationsomfang Du kan forhindre Microsoft 365 Copilot i at behandle indhold med bestemte tags. Hvis du markerer filer som 'Ekstremt fortrolige' og angiver, at de ikke skal opsummeres, genererer Copilot ikke opsummeringer af disse filer, selvom den stadig kan give den autoriserede bruger et link til at åbne dem i Word.
Intern risiko: skabeloner til at detektere ondsindet brug af AI
Purviews Insider Risk Management udnytter signaler fra Microsoft 365 og tredjeparter til at opdage eksfiltrering, IP-tyveri eller misbrug. Skabelonen til risikobaseret AI-brug identificerer mønstre såsom hurtige injektioner og adgang til beskyttet materiale.Denne visning integreres med Microsoft Defender XDR for at give et komplet kort over hændelsen.
Dataklassificering: fundamentet for alting
Purviews klassifikation (typer af følsomme oplysninger og klassifikatorer, der kan trænes) bruges til at afdækning af følsomme data i anmodninger og svar fra AI-applikationerResultaterne er synlige i Purview-rapporter og DSPM AI Activity Explorer. Korrekt implementeret mærkning er det, der adskiller en nyttig alarm fra overvældende støj.
Overvåg og respons: revision, kommunikation, eDiscovery og opbevaring
Den samlede revisionsindsamling Beskeder og svar fra AI-interaktionerDette inkluderer oplysninger om, hvornår og hvordan appen blev brugt, hvilken M365-tjeneste der blev tilgået, og hvilke gemte filer der blev tilgået. Hvis der blev anvendt en fortrolighedsetiket, registreres det også. Du kan søge efter disse hændelser i Purview-portalen og se deres detaljer i DSPM-aktivitetsfinderen.
Communications Compliance overvåger kommunikationskanaler, herunder anmodninger og svar på AI-applikationerDet bruges til at opdage overtrædelser af lovgivningen eller adfærden (upassende deling, trusler, chikane, indhold for voksne). Det fungerer med pseudonymer, standard privatliv og rollebaseret adgang.
I eDiscovery, AI-interaktioner gemmes i brugerens postkasseFra en sag kan du søge ved at vælge postkassen som kilde og filtrere efter Copilot-relateret aktivitet. Når du har indsnævret sættet, eksporterer eller sender du det til et gennemgangssæt, ligesom du ville gøre med ethvert andet bevismateriale.
Med Data Lifecycle Management konfigurerer du opbevaringspolitikker for Gem eller slet automatisk anmodninger og svar af AI-apps. Hvis flere direktiver er sammenfaldende, eller der er juridiske tilbageholdelser, gælder tilbageholdelsesprincipperne: den længste periode vinder, blandt andre kriterier.
Compliance Manager: Vurderinger og skabeloner til AI-regler
Compliance Manager hjælper med at lagerrisici, implementere kontroller og holde dig opdateret med reglerFor AI findes der vurderinger, der giver vejledning i, hvordan man auditerer interaktioner, forhindrer datatab og styrker sporbarheden. Dette er ideelt til at demonstrere due diligence under audits og certificeringer.
ChatGPT Enterprise under kontrol: hvad Purview allerede understøtter
Purview understøtter nøglefunktioner med ChatGPT Enterprise inden for kategorien af AI-applikationer til virksomhederDu vil se DSPM-anbefalinger såsom "Få guidet hjælp til AI-regler" (baseret på Compliance Manager-skabeloner) og politikker med ét klik såsom "DSPM til AI: Registrer interaktioner mellem virksomhedens AI-applikationer" eller "Registrer følsomme oplysninger, der deles med AI over netværket".
Bemærk venligst Du skal aktivere betaling efter forbrug i din organisation og kør connector-scanningen, så Purview kan administrere interaktioner med ChatGPT Enterprise. Derfra fungerer klassificering, revision, kommunikation, eDiscovery og opbevaring ligesom med resten af økosystemet.
Anbefalede praktiske trin til at komme i gang
- På siden med DSPM-anbefalinger til AI skal du vælge anbefalingen til opdage og kontrollere interaktioner med ChatGPT Enterprise fra dine Azure AI-abonnementer og aktiver meddelelses- og svarregistrering.
- Aktivér politikken med ét klik Beskyt interaktioner mellem virksomheders applikationer at optage interaktioner fra enhver kompatibel virksomheds-AI-app.
- Vent mindst en dag, gå til Rapporter og filtrer efter kategori AI-applikationer til virksomheder For at se tendenser: samlede interaktioner, interaktioner med følsomme data, alvoren af intern risiko og opdeling efter applikation.
- Gå til Vis detaljer for at åbne aktivitetsfinderen og filtrere efter Applikation = ChatGPT EnterpriseHvis du har rollen Indholdsviser i Indholdsstifinder, vil du kunne se beskedens brødtekst og det svar, der er knyttet til hver hændelse.
- Hvis du har brug for at gemme interaktioner af hensyn til overholdelse af regler, skal du oprette en opbevaringspolitik i Purview, der er målrettet mod lokationen. AI-applikationer til virksomheder og definer den periode, der kræves i henhold til dine regler.
- For at vise elektroniske dokumenter skal du oprette en eDiscovery-sag og søge efter ejerskab. Vareklasse: bruger
IPM.SkypeTeams.Message.ConnectedAIApp.Connector.<ChatGPTEnterprise>til lokale maskinaktiviteter ellerIPM.SkypeTeams.Message.CloudAIApp.SaaS.<AppID>til browserbaserede aktiviteter. Forfin, gennemgå og eksporter som sædvanligt
Ud over jobtitlen: Når du ikke kan opgradere til Windows 11
Nogle organisationer er stadig ikke i stand til at migrere alle deres computere til Windows 11. I disse tilfælde, Windows 365 Cloud-pc'er giver dig mulighed for at standardisere dit skrivebord, styrke sikkerheden og muliggøre hybridarbejde. med administrerede virtuelle maskiner tilgængelige fra enhver enhed. Mindre variabilitet, mere kontrol og centraliseret overvågning.
Det er tydeligt, at chatbots ikke er problemet, men hvordan de får adgang, og hvilke begrænsninger de opererer under. Hvis du labeler korrekt, anvender DLP ved endpoint og i AI-behandling og overvåger med revision, eDiscovery og opbevaring, forbliver den påståede bagdør lukket fra begge sider.Tilføj Compliance Manager-skabelonerne og Insider Risk-funktionerne, så er du klar til at udnytte Copilot, ChatGPT Enterprise og MCP med ro i sindet på Windows 11 og Microsoft 365.
