Пропуск в сигурността в Microsoft 365 Copilot отново повдигна опасения относно използването на изкуствен интелект в работна среда. В продължение на няколко седмици асистентът с изкуствен интелект на Microsoft успяваше да осъществява достъп и да обобщава имейли, маркирани като поверителни в Outlook, заобикаляйки ограниченията, които би трябвало да защитават това съдържание.
Инцидентът, първоначално открит от администратори и документиран от специализирани медии като Bleeping Computer, постави на преден план надеждността на мерките за защита на данните в инструментите с изкуствен интелект, интегрирани в офис пакети като Microsoft 365, особено в европейски контекст, белязан от строги разпоредби за поверителност, като например GDPR.
Грешка в Office 365 отвори вратата към Copilot
Според публикуваната информация, проблемът е възникнал от грешка в системата за разрешения на настолната версия на Outlook и Word , в екосистемата на Microsoft 365. Copilot Chat, функцията за разговори, интегрирана в раздела „работа“ на прозореца за поддръжка, е започнала да обработва и обобщава съобщения, които са били ясно маркирани с етикети за чувствителност, като например „Лично“ или „Поверително“.
Уязвимостта е била проследена вътрешно от Microsoft с идентификатор CW1226324 и е била открита за първи път на 21 януари 2026 г. От този момент до прилагането на корекцията, Copilot е третирал имейлите, съхранявани в папките „Чернови“ и „Изпратени“, като достъпно съдържание за асистента , дори когато тези имейли са имали етикети за поверителност, които на теория би трябвало да блокират всеки автоматизиран достъп.
Това означаваше, че когато отправят общи запитвания към асистента, някои потребители биха могли да получават обобщения и информация, извлечена от поверителни имейли , включително данни, които би трябвало да останат ограничени до много малък кръг получатели в рамките на една и съща организация.
Според документацията на компанията, уязвимостта е засегнала конкретно Microsoft 365 Copilot Chat в настолни приложения като Outlook, Word, Excel и PowerPoint, където асистентът се предлага на пазара като инструмент, „осъзнат за съдържанието“, способен да изготвя, обобщава и анализира информация в реално време.
Как е била разкрита чувствителна информация
Отвъд техническите подробности, това, което наистина тревожи компаниите и експертите по киберсигурност, е как е могла да бъде разкрита поверителна информация . При обработката на защитени имейли, Copilot интегрира фрагменти от тези съобщения в контекста си за незабавен отговор , което отваря вратата за генериране на отговори при определени запитвания, позовавайки се на:
- Данни за заплати или заплати на служителите.
- Вътрешни бизнес стратегии и бизнес планове.
- Финансова информация чувствителни или фактуриращи данни.
- Проблеми, свързани със здравето или други специално защитени данни.
Това поведение се е случило в рамките на същата бизнес среда , така че Microsoft настоява, че не е имало външно нарушение в класическия смисъл (не е предоставен достъп на нападатели извън организацията). Фактът обаче, че служителите без изрично разрешение биха могли да получават чрез Copilot обобщения, базирани на поверителни имейли от други колеги, поражда сериозни опасения относно спазването на рамки като европейския GDPR или вътрешните политики за предотвратяване на загуба на данни (DLP).
На практика, грешката е довела до временно игнориране на политиките за защита от загуба на данни (DLP) и етикетите за чувствителност на Microsoft Purview по време на определени чат сесии, така че асистентът е третирал като достъпно съдържание, което е трябвало да бъде напълно блокирано от автоматизирана обработка.
Въздействие върху бизнес клиентите и регулаторни рискове
Грешката засегна предимно плащащи корпоративни клиенти , които вече бяха внедрили Copilot като част от своите лицензи за Microsoft 365, профил, който включва много европейски компании, подлежащи на строги задължения по отношение на защитата на личните данни и търговските тайни . За тези организации инцидентът може да се тълкува като потенциално нарушение на техните вътрешни политики за поверителност и дори на договорни ангажименти към клиенти и партньори.
В регулирани сектори – като банково дело, застраховане, здравеопазване , публична администрация или адвокатски кантори – непрякото разкриване на защитени имейли може да представлява нарушение на GDPR, ако се докаже, че информацията е била достъпна за хора, които не е трябвало да я видят, или че е била обработена без адекватно правно основание.
Няколко анализатори подчертаха, че въпреки че обхватът на инцидента изглежда ограничен до специфични корпоративни среди и не са докладвани масивни течове на информация, случаят служи като ясно предупреждение: компаниите, интегриращи инструменти с изкуствен интелект в своята електронна поща и документи, трябва внимателно да преразгледат какви данни са изложени на асистента и как се управляват действителните разрешения спрямо възприеманите разрешения.
В Европа, където чувствителността около поверителността е особено висока и вече се обсъжда специфична рамка за изкуствен интелект, подобни епизоди подхранват дискурса на онези, които призовават за по-строг контрол върху внедряването на интелигентни асистенти в облака.
Официалният отговор на Microsoft
Microsoft публично призна проблема, описвайки го като „грешка в кодирането“ или „програмна грешка“ , която е променила предвиденото поведение на Copilot. Компанията настоява, че инфраструктурата за сигурност и основните контроли за достъп не са били компрометирани , но признава, че действителното изживяване не е съответствало на оригиналния дизайн на продукта, който е имал за цел да изключи всякаква обработка на съдържание, защитено с чувствителни етикети.
В съобщения, изпратени до клиенти и медии, говорителите на компанията обясниха, че вече е внедрен сървърен пач , който не изисква ръчна намеса от потребителите. Корекцията започна да се внедрява постепенно, считано от 10 февруари , с непрекъснато наблюдение, за да се гарантира, че поведението на Copilot отново е в съответствие с DLP политиките и етикетите за чувствителност.
Компанията също така заяви, че директно уведомява засегнатите организации и проверява с тях дали актуализацията работи както се очаква. Освен това, тя се ангажира да премахне всяко съдържание от индексите за обработка на Copilot, което е било обработено неправилно поради грешката.
В своите публични изявления Microsoft подчерта, че поверителността и защитата на данните на клиентите остават централни стълбове на нейната стратегия за генеративен изкуствен интелект и че ще продължи да укрепва механизмите за контрол, за да предотврати повторното възникване на подобен проблем.
Копилотът, надпреварата за изкуствен интелект и веригата от неуспехи
Инцидентът, свързан с поверителни имейли, обработвани от Copilot, се случва в момент, когато Microsoft ускорява интеграцията на своя AI асистент в почти цялата си екосистема: от Word, Excel, PowerPoint и Outlook до браузъра Edge, работната среда на Microsoft 365 и услугите, свързани с Windows 11 и Xbox.
Тази надпревара за позициониране на пазара на изкуствен интелект, успоредно с други играчи като Google или OpenAI, поражда горчиво-сладко чувство сред потребителите и експертите: от една страна, новите функции обещават производителност и автоматизация ; от друга, скоростта на внедряване подхранва страха, че критичните грешки ще останат незабелязани, докато не повлияят напълно на поверителността и сигурността.
През последните месеци Microsoft вече беше принудена да преразгледа присъствието на Copilot в Windows 11 след съобщения за неочаквано поведение и сривове в операционната система. Случай CW1226324 допълва този списък и засилва усещането, че все още има дълъг път, преди асистентите с изкуствен интелект да могат да бъдат надеждно интегрирани в чувствителни среди, както в Испания, така и в останалата част на Европа.
Специалистите по киберсигурност посочват, че големите езикови модели функционират до голяма степен като „черни кутии“ : след като определена информация попадне в контекста им на обработка, може да бъде много трудно да се гарантира, че тя няма да се появи отново индиректно в бъдещи отговори, дори ако се приложат допълнителни филтри и правила.
Последици за европейските компании и публичните администрации
За компании, базирани в Европейския съюз или които обработват данни на европейски граждани, този инцидент има особено чувствителни последици. Комбинацията от етикети за поверителност, политики за защита от загуба на данни и задължения по GDPR накара много организации да повярват, че използването на Copilot в корпоративния им имейл е контролиран риск.
Фактът, че една програмна грешка беше достатъчна, за да деактивира тези предпазни мерки в продължение на седмици, подчертава необходимостта от преглед на оценките на въздействието върху защитата на данните (DPIA) , свързани с инструментите с изкуствен интелект, както и споразуменията за обработка на данни с доставчици като Microsoft.
В случая с европейските публични администрации , които вече обсъждат дали да въведат този тип асистенти в ежедневните си операции, случаят с Copilot може да се използва като аргумент за изискване на по-голяма техническа прозрачност , външни одити и допълнителни механизми за контрол, преди да се разреши масово внедряване в официални имейли или вътрешни системи.
Дори в частния сектор много компании в Испания обмислят засилване на вътрешните си политики за използване на изкуствен интелект , ограничаване на вида информация, която може да се споделя с тези асистенти, и установяване на ясни правила за правните екипи, човешките ресурси или медицинските отдели, където нивото на поверителност е най-високо.
Уроци за управление на риска с асистенти с изкуствен интелект
Освен фокуса върху Microsoft, случаят с Copilot предлага няколко практически урока за всяка организация, която включва асистенти с изкуствен интелект в ежедневните си операции. Първият е, че не е достатъчно да се разчита на конфигурацията по подразбиране : важно е внимателно да се прегледат действителните разрешения, които предоставяме на тези инструменти, и да се приложи принципът на „най-малки привилегии“ и в сферата на изкуствения интелект.
Друг ключов урок е важността на наличието на механизми за наблюдение, способни да откриват необичаен достъп или странни модели при обработката на чувствителна информация. В много случаи самите администратори, докато преглеждат сигнали и регистрационни файлове, осъзнават, че Copilot обобщава имейли, до които не е трябвало да се докосва.
Важно е също така да има план за реагиране при инциденти, който да разглежда специфични сценарии, свързани с изкуствен интелект: какво да се прави, ако асистент получи достъп до данни, до които не би трябвало, как да се информират засегнатите потребители, какви технически и организационни мерки да се приложат за ограничаване на щетите и как да се документира случилото се в очакване на евентуални искания от органите за защита на данните.
И накрая, този инцидент засилва важността на непрекъснатата оценка на доставчиците на технологии , дори и на най-утвърдените. Досегашните резултати в областта на сигурността, прозрачността при управлението на инциденти и бързината на инсталиране на корекции са фактори, които все повече имат същата тежест, както функциите или цената при избора на платформа.
Целият опит с грешката CW1226324 показва ясно, че макар Copilot и подобни инструменти да могат да предложат огромна стойност по отношение на производителността и автоматизацията, тяхното внедряване не може да се извършва на сляпо. Европейските организации, включително тези в Испания, ще трябва да балансират ентусиазма си към изкуствения интелект с разумно управление на риска , като обръщат особено внимание на това как защитават имейлите и друга чувствителна информация, която циркулира през техните системи ежедневно.
