Постоянното увеличение на дигитални измами и мошеничества Киберпрестъпленията в социалните медии и приложенията за съобщения принудиха големите технологични компании значително да подобрят мерките си за сигурност. Все по-често киберпрестъпниците се опитват да откраднат акаунти, банкови данни или да се представят за известни марки чрез съобщения, реклами и контакти, които на пръв поглед изглеждат безобидни.
В този контекст Meta подсилва стратегията си за сигурност с ново поколение Изкуствен интелект за борба с измамите, приложен към Facebook, WhatsApp и MessengerПодходът е ясен: предупредете потребителя, преди да попадне в капана, минимизирайте излагането на злонамерено съдържание и направете живота възможно най-труден за измамниците, опериращи на техните платформи.
Изкуствен интелект за борба с измамите, който ще ви предпази от измами в Meta
Meta внедрява набор от функции, които комбинират изкуствен интелект на самото устройство и анализ на отдалечени сървъриТази архитектура позволява, от една страна, спазване на цялостно криптиране в услуги като WhatsApp и Messenger, а от друга страна, предлагане на допълнително ниво на разширено откриване, когато потребителят реши да изпрати определено подозрително съдържание за преглед.
Инструментите разчитат на модели, способни да анализират текст, изображения, връзки и модели на поведениеЦелта е да се идентифицира всичко - от измамни реклами, които използват лицата на известни личности без разрешение, до съобщения за „техническа поддръжка“, които се опитват да получат кодове за потвърждение, както и заявки за приятелство от фалшиви акаунти, целящи да спечелят доверието на жертвата.
Според данни, споделени от компанията, проблемът не е незначителен: Meta твърди, че има прекъсна милиони акаунти и реклами, свързани с организирани мрежи за измами във Facebook, Instagram и WhatsApp, в някои случаи свързани с истински измами, разпространени в няколко страни.
Тази технологична офанзива разчита и на екипи за човешка проверка, работещи рамо до рамо с изкуствен интелект, така че моделите да бъдат обучени с реални примери и да се намали допустимата грешка при класифицирането на съмнително съдържание.
WhatsApp: защитна стена срещу отвличане на акаунти и подозрителни групи
В случай на WhatsAppИзкуственият интелект на Meta за борба с измамите се фокусира върху няколко особено често срещани вектора на атака: отвличане на акаунт чрез свързване на устройства, измами и заблуди, свързани с техническа поддръжка, в неизвестни групи.
Една от ключовите нови характеристики е системата от Сигнали, когато някой се опита да свърже акаунта с неразпознато устройство.Ако бъде открита подозрителна заявка, приложението показва информация като местоположението, от което е тръгнал опитът, заедно с изрично предупреждение, че може да е измама. Това позволява на потребителя да спре процеса, преди трета страна да получи пълен достъп до разговорите му.
Изкуственият интелект се намесва и в ситуации на споделяне на екрана по време на видео разговори с непознати контактиКогато този рисков модел бъде засечен, системата издава автоматично предупреждение, тъй като много измами с „техническа поддръжка“ разчитат на гледане на екрана на потребителя на живо, за да заснемат банкови данни, еднократни кодове или друга особено чувствителна информация.
Освен това, групите, към които потребителите се присъединяват, без да знаят много за членовете си, сега показват... превантивен предпазен панелТози панел предлага подробности за групата, съвети за откриване на опити за измама и опция за напускане без взаимодействие, като заглушава известията, докато потребителят не потвърди, че иска да остане.
Мета също тества Контекстуални известия при започване на чатове с номера, които не са в адресната книгаАко системата идентифицира типични признаци на фишинг, фалшиви инвестиции или неясни искания за пари, тя препоръчва да се прояви изключително внимание и предлага възможност за блокиране или докладване с няколко докосвания.
Facebook: Проверка на заявките за приятелство и фалшивите страници за „поддръжка“
En FacebookИзкуственият интелект за борба с измамите има два основни фронта: подозрителни заявки за приятелство и уебсайтове, които се представят за отдели за обслужване на клиенти или утвърдени марки.
При получаване на заявка за приятелство, платформата може да покаже предупреждение, ако открие рискови фактори: акаунти с много малко общи приятели, наскоро създадени профили, географски произход, който не съответства на мрежата на потребителя, или поведение, което съответства на модели, свързани с бот мрежи. По този начин потребителят може по-добре преценете дали да приемете, игнорирате или блокирате заявката преди да отворите вратата на потенциален измамник.
Друг важен фокус е фалшиви страници за поддръжка и акаунти които се опитват да измамят потребители, търсещи помощ за възстановяване на акаунт или разрешаване на проблем. Meta твърди, че е предприела действия срещу десетки хиляди от тези сайтове, които обикновено са изисквали данни за вход, документи за самоличност или плащания, за да „ускорят“ предполагаемите процеси на възстановяване.
Компанията също така укрепва механизмите си за Проверка на рекламодателите и откриване на измамни рекламиТова включва тези, които използват изображения на известни личности, бизнесмени или публични личности без разрешение. Изкуственият интелект сравнява лица и идентифицира повтарящи се манипулации, използвани за легитимиране на фалшиви инвестиции, несъществуващи промоции или продукти, които никога не пристигат.
Този момент е особено чувствителен за компаниите и създателите на съдържание в Испания и останалата част от Европа, където рекламите, използващи използване на образа на предприемачи или известни местни фигури за привличане на жертвигенериране на объркване и щети за репутацията, които са трудни за поправяне.
Messenger: Конфигурируемо от потребителя откриване на измами
Приложението за съобщения, свързано с Facebook, пратеник, включва специфична функция, наречена „Откриване на измами“Тази опция, достъпна чрез настройките за поверителност и сигурност, анализира по-подробно разговорите, инициирани от непознати контакти. След активиране, тази функция предоставя по-задълбочен анализ на разговорите.
Изкуственият интелект се фокусира върху характерни модели на фалшиви офертиТе включват: оферти за дистанционна работа, изискващи авансови плащания, инвестиции с гарантирана възвръщаемост, спешни съобщения с искане за пари или опити за представяне за обслужващ персонал на известни компании. Ако открие нещо необичайно, показва предупреждение, указващо вида на наличния риск, и предлага блокиране или докладване на подателя.
Когато потребителят изрично е разрешил, маркираните съобщения могат да бъдат изпращани за всеки отделен случай до Мета сървъри за по-задълбочен анализ на ИИТази стъпка временно прекъсва криптирането от край до край само за това конкретно съдържание, решение, което всеки човек трябва да прецени според своята толерантност към риск и опасения за поверителност.
Успоредно с това, Messenger подобри системата си за защита на връзкитеФункцията за безопасно сърфиране, която вече анализира URL адреси на самото устройство, сега разчита на допълнителен слой, наречен разширена защита, свързан с постоянно актуализирани списъци от опасни сайтове. Дизайнът има за цел да блокира достъпа до фишинг страници или изтегляния на зловреден софтуер, без да разкрива самоличността на потребителя или пълната история на сърфиране.
За екипите за поддръжка, продажби или обслужване на клиенти, които използват Messenger като свой редовен канал, тези подобрения представляват както Допълнителна бариера срещу измами, насочени към вашата собствена марка като донякъде по-безопасна среда за потребителите, с които взаимодействат ежедневно.
Изкуственият интелект под капака
Новите функции за сигурност на Meta разчитат на хибридна архитектура, която съчетава два допълващи се подхода. Първият е анализ на устройствотоРаботи директно на мобилния телефон или компютъра на потребителя и спазва криптиране от край до край, тъй като не е необходимо да изпраща съдържание до външни сървъри, за да открива рискови модели.
Този локален анализ се фокусира върху сигнали като факта, че получаване на съобщения от незапазени номераТе включват опити за споделяне на екрана с непознати, внезапни промени в поведението на акаунта или появата на връзки, които съответстват на предишни сигнали за измами. Чрез работа на самото устройство се намалява обемът на данните, изпращани външно, осигурявайки незабавна първа линия на защита.
Вторият слой се активира, когато потребителят избере да Изпращане на съдържание за преглед с помощта на изкуствен интелект в облакаВ този случай маркираните съобщения или елементи се обработват от системите на Meta, които използват по-сложни модели, за да оценят дали случващото се отговаря на известен тип измама. Ако анализът заключи, че има риск, платформата показва обяснения за потенциалната измама и препоръчва конкретни действия.
Компанията подчертава, че освен изкуствения интелект, има и екипи от човешки модератори, които преглеждат милиони съдържание на денТози човешки елемент е това, което позволява, наред с други неща, усъвършенстване на моделите, управление на най-деликатните случаи и разрушаване на мащабни координирани кампании, които надхвърлят прости изолирани послания.
Целият този механизъм се допълва от споразумения със силите за сигурност и други участници в технологичния сектор, с цел споделяне на разузнавателна информация за злонамерени домейни, мрежи от фалшиви акаунти и нововъзникващи тактики, използвани от престъпни организации.
Основни видове измами, които изкуственият интелект на Meta се опитва да спре
Метаплатформите са благодатна почва за голямо разнообразие от дигитални измамиНовите инструменти са предназначени да откриват и спират, наред с други неща, следните видове често срещани измами, насочени към потребители в Испания и Европа:
- Фалшиви измами за техническа поддръжка: Хора, които се представят за банкови услуги за поддръжка, оператори или дори самата Meta, за да поискат кодове за потвърждение, пароли или отдалечен достъп до устройството.
- Измама със споделяне на екрана: видео разговори, при които измамникът убеждава жертвата да покаже екрана си, за да заснеме банкови данни, SMS с еднократни кодове или идентификационни данни за услуги като онлайн банкиране или платежни шлюзове.
- Несъществуващи предложения за работа и стипендии: Реклами или лични съобщения, обещаващи лесни или добре платени работни места в замяна на първоначално плащане за „процедури“ или за предоставяне на чувствителна лична информация.
- Инвестиционни схеми и криптовалути: кампании, които обещават бърза и гарантирана възвръщаемост, често подкрепени от неоторизираното използване на известни личности или известни бизнесмени.
- Фишинг и злонамерени връзки: URL адреси, които имитират легитимни портали – банки, платформи за електронна търговия, обществени услуги – с цел кражба на идентификационни данни или инсталиране на зловреден софтуер на устройството.
Комбинацията от автоматизирано наблюдение, черни списъци с опасни сайтове и механизми за докладване от потребители позволява това Системата се адаптира бързо към новите варианти на тези измами.които често мутират, за да избегнат по-лесното откриване.
Въздействие върху потребители, компании и основатели, които зависят от Meta
Освен защитата на средностатистическия потребител, новите функции за борба с измамите, базирани на изкуствен интелект, имат пряко въздействие върху Фирми, които използват Facebook, WhatsApp и Messenger като основна инфраструктура за продажби, обслужване на клиенти или изграждане на общност.
От една страна, ако една компания използва WhatsApp Business или Messenger, за да комуникира с клиенти, Съобщенията им биха могли да задействат предупреждения, ако системата ги възприеме като подозрителни.Например, чрез включване на много връзки или изискване на чувствителни данни. Това налага преглед на сценариите, тона и честотата, за да се сведат до минимум фалшивите положителни резултати и да се запази доверието на аудиторията.
От друга страна, стартиращи компании в особено чувствителни сектори – като например финтех, дигитално здравеопазване или правни услуги— те намират в тези инструменти ясен знак: сигурността, базирана на изкуствен интелект, вече не е „допълнително“ и сега е част от минималните очаквания за всеки продукт или услуга, която обработва критични данни.
Нарастващото сътрудничество на Meta с други технологични играчи и публични органи също отваря вратата към Нови възможности за компании, специализирани в киберсигурността, които могат да интегрират своите решения с екосистемите за откриване на заплахи на големи платформи или да предоставят консултантски услуги на по-малки компании.
В крайна сметка ефективността на тези мерки ще зависи от това дали потребителите и организациите ще възприемат добри практики: активиране на наличните функции за борба с измамите, актуализиране на приложенията, предпазливост към нежелани съобщения и докладване на всяко подозрително поведение на системите за откриване на емисии.
С прилагането на новото си Изкуствен интелект за борба с измамите във Facebook, WhatsApp и MessengerMeta прави важна стъпка към дигитална среда, която е малко по-трудна за измамниците и малко по-безопасна за тези, които използват услугите ѝ ежедневно, от индивидуални потребители до компании, които разчитат на тези платформи за съществена част от своята дейност.
