Разширяването на автономни дронове с изкуствен интелект Това напълно променя пейзажа на сигурността, наблюдението и дори съвременната война. Това, което изглеждаше като научна фантастика преди няколко години, сега е рутина: безпилотни летателни апарати, способни да проследяват хора, да патрулират граници или да записват всяко движение подробно, практически без човешка намеса.
В този контекст, толкова пълен с авангардни технологии, е почти сюрреалистично да открием, че предмет, толкова обикновен, колкото чадър Това може да представлява предизвикателство за някои от тези усъвършенствани системи. Група изследователи от Калифорнийския университет в Ървайн (UC Irvine) демонстрираха, че с правилния визуален модел, един обикновен чадър може да „подмами“, привлече и дори неутрализира определени модели търговски дронове, които използват автономно проследяване, базирано на компютърно зрение.
Възходът на автономните дронове и защо те предизвикват толкова много безпокойство
През последните години употребата на безпилотни летателни апарати по целия свят. Вече не говорим само за малки дронове за развлечение за запис на зрелищни видеоклипове, а за много по-сериозни платформи, използвани за градско наблюдение, мониторинг на критична инфраструктура, граничен контрол или подкрепа на полицейски и военни операции.
В сценарии като например война между Русия и Украйна Стана ясно колко важни са станали дроновете. Има модели камикадзе, устройства, специализирани в проследяване на цели, системи, свързани чрез оптични влакна, за да осигурят стабилна комуникация, и все по-често устройства, които включват изкуствен интелект, за да вземат самостоятелно решения по време на полет.
Тази автономност се основава на използването на усъвършенствани оптични сензори и алгоритми за компютърно зрение Тези функции позволяват на дрона да идентифицира хора или обекти, да ги проследява и да реагира на движенията им, без пилотът да се налага постоянно да коригира траекторията. В потребителските продукти това се нарича функции за „активно проследяване“ или „динамично проследяване“.
Проблемът е, че с разширяването на използването на тези системи за наблюдение, патрулиране и охранителни операцииСъществува и нарастващ риск от злоупотреба: тормоз, шпионаж, нарушаване на личния живот или тайно наблюдение в пространства, където хората дори не са наясно, че са наблюдавани.
Изследователи и експерти по киберсигурност отдавна предупреждават, че защитата на тези системи не може да се ограничава само до електронните компоненти (радиовръзки, криптирани комуникации, защитни стени). визуално възприятие и алгоритми за изкуствен интелект Тези, които вземат решения въз основа на това, което „виждат“, също могат да се превърнат в слабо място и точно тук влиза в действие любопитният експеримент с чадъра.
Проектът FlyTrap: когато чадърът се превръща в защитно оръжие
Екип от специалисти по сигурност и компютърно зрение от Калифорнийски университет, Ървайн Те решиха да не следват обичайния път на проектиране на все по-сложни и офанзивни дронове. Вместо това, те поставиха различен въпрос: Възможно ли е защита от автономни дронове използвайки прости предмети, без да се прибягва до честотни заглушители, хакерство или скъпо военно оборудване?
От тази идея се роди FlyTrap, метод за физическа атака срещу автономни алгоритми за проследяване Разчита се на графичен модел, специално проектиран да обърка зрителната система на дрона. Вместо електронно деактивиране на устройството, целта е да се манипулира това, което то „мисли“, че се случва пред камерата му.
Изследователите фокусираха анализа си върху дронове, които използват проследяване на цели, базирано на компютърно зрениеТова са устройства, които откриват и проследяват човек или обект въз основа на визуалната информация, заснета от техните камери. Сред анализираните модели са някои много популярни на пазара, като DJI Mini 4 Pro, DJI Neo и HoverAir X1.
След като проучиха как тези системи интерпретират движението на целта, екипът откри ключова слабост: при определени условия алгоритъмът може да бъде манипулиран, ако му бъде представен... внимателно проектиран визуален модел което променя възприятието им за разстояние и посока на движение.
Този модел, наречен FlyTrap, е отпечатан върху повърхността на обикновен чадър. Резултатът е изненадващо евтино и достъпно защитно оръжие срещу автономни дронове, което на хартия би трябвало да е много трудно за надхитряване без сложни технически средства.
Как точно работи визуалният трик с чадъра?
Същността на FlyTrap се крие в начина, по който алгоритмите на автономно проследяване, базирано на невронни мрежи Те интерпретират това, което камерите на дрона заснемат. Тези системи анализират изображението кадър по кадър и изчисляват как се движи целта на екрана, за да решат къде трябва да се движи дронът и с каква скорост.
Графичният дизайн, отпечатан върху чадъра, кара дрона да „чете“ ситуация, която не съответства на реалността: шаблонът е проектиран така, че системата за зрение да заключи, че целта е отдалечаване от дрона, когато в действителност човекът, държащ чадъра, е практически все още на същото място.
Изправен пред това погрешно тълкуване, софтуерът за проследяване прави това, за което е програмиран: опитва се да намали разстоянието докато достигне целта си, поддържайки я в оптималния диапазон на проследяване. С други думи, дронът постепенно се приближава, като непрекъснато коригира траекторията си в опит да „компенсира“ това възприемано разстояние.
Това поведение поражда истинско атака на далечно привличанеВместо да дезориентира дрона и да го накара да загуби следата си, чадърът всъщност го примамва да се приближава все повече и повече. Устройството може да се доближи толкова много до човека, държащ чадъра, че да се превърне в лесна мишена за улавяне с мрежа или дори за контролиран сблъсък.
Голямото предимство на този подход е, че не изисква електромагнитни смущения или достъп до софтуера на дронаНяма нужда да го хаквате, да прихващате управляващия сигнал или да използвате военно оборудване. Всичко, от което се нуждаете, е чадър с правилния дизайн, за да се възползвате от много специфична слабост в алгоритмите за компютърно зрение.
Тестове с търговски дронове и резултати от проучвания
За да се уверят, че идеята е нещо повече от просто лабораторно любопитство, екипът на Калифорнийския университет в Ървайн проведе систематични експерименти с търговски дронове които включват функции за автономно проследяване, широко използвани днес.
Изследователите са избрали три представителни модела от потребителския пазар: DJI Mini 4 Pro, на DJI Neo и HoverAir X1Всички те разполагат с режими на „активно проследяване“ или „динамично проследяване“, предназначени да позволят на устройството да следва човек, без той да се налага постоянно да управлява дистанционното управление.
В тестовете човек стоеше на открито място с отворен чадър FlyTrap, докато дронът активираше режим на автоматично проследяване на този обект. След това автономната система беше позволена да си върши работата, без ръчни корекции, наблюдавайки как реагира на графичен модел на чадър.
Резултатите бяха убедителни: и при трите анализирани модела дронове, Методът FlyTrap успешно привлече самолета до много къси разстояния, достатъчни, за да го уловят физически с мрежа или да го накарат да се сблъска с друга структура или устройство, ако е необходимо.
Изследователите повторили експериментите при различни условия на осветление и метеорологични условия, постигайки много високи нива на успех. Според данни, представени на форуми за сигурност, като конференцията на NDSS, системата е запазила своята ефективност дори при вариации в околната светлина и обкръжението, което засилва практическата му жизнеспособност.
Като част от процеса на отговорно разкриване на информация, екипът съобщи уязвимостта на производители на участващите дронове, включително DJI и HoverAir, преди да оповестят публично всички технически подробности. Целта беше да се даде време на компаниите да проучат потенциални мерки за смекчаване на последиците или актуализации на фърмуера, които биха засилили устойчивостта на техните алгоритми срещу този тип физически атаки.
Рискове и случаи на употреба: от обществена безопасност до тормоз
Отвъд анекдота за това, че можеш да „ловуваш“ дрон с чадър, проучването FlyTrap ни предлага и други... сериозни последици за сигурността и масовото внедряване на автономни системи. Професор Алфред Чен, съавтор на изследването и професор по компютърни науки в Калифорнийския университет в Ървайн, подчертава, че автоматичното проследяване е нож с две остриета.
От една страна, тези функции са много полезни за операции за обществена безопасност, гранични патрули или наблюдение на инфраструктуратаТе позволяват на дрон да наблюдава големи площи или да следва заподозрян, без да е необходимо непрекъснато пилотиране, спестявайки ресурси и подобрявайки капацитета за реакция на властите.
От друга страна, същата технология може да се използва и за много по-неблагородни цели: Индивидуален тормоз, шпионаж, нарушаване на личния живот в обществени или частни пространства, неоторизирано проследяване на хора и др. Когато всеки може да си купи дрон с автономно проследяване и да го използва за съмнителни цели, балансът между безопасност и риск се усложнява.
Шаоюан Сие, водещ автор на изследването и компютърен учен, подчертава лекотата, с която един обикновен чадър може за контрол на поведението на определени автономни дронове Това ни принуждава да преосмислим използването на тези устройства в чувствителни среди. Ако са толкова лесни за физически манипулиране, може би тяхното разполагане трябва да бъде ограничено или регулирано в сценарии, при които нарушение на сигурността може да има сериозни последици.
Освен това, атаката може да се използва не само за неутрализиране на враждебни или инвазивни дроновено също така и за да избегне законно наблюдение. Организирана група би могла да използва вариации на модела FlyTrap, за да се скрие от полицейски или военни дронове, създавайки сенчести зони или карайки самолетите да се приближават твърде близо и да станат уязвими.
Физическа атака, която възобновява дебата за киберсигурността на дроновете
Един от най-поразителните аспекти на случая FlyTrap е, че той включва... физическа атака срещу алгоритми за възприятиеТова не е дигитално проникване. Няма хакване на фърмуер, няма отдалечен достъп до системата и няма манипулиране на радиокомуникациите. Всичко се случва в реалния свят, пред камерата на дрона.
Тези видове уязвимости, известни като физически враждебни атаки, показват, че Сигурност на системите с изкуствен интелект Това далеч надхвърля софтуера за управление и мрежите за данни. Ако алгоритъмът, който интерпретира реалността, може да бъде заблуден от визуални модели в околната среда, слабото звено може да бъде нещо толкова тривиално, колкото модел на чадър.
В случая с FlyTrap, моделът е специално проектиран да експлоатира недостатъци в начина, по който невронните мрежи изчисляват движението и разстоянието до целта. Вместо да се крие човекът, възприятието се манипулира така, че дронът да вярва, че човекът се отдалечава.
Този подход подчертава, че стандартните мерки за сигурност – криптиране на комуникацията, силно удостоверяване, контрол на достъпа – не са достатъчни, за да защитят Безпилотна система с автономни функцииСъщо така е важно да се засили устойчивостта на алгоритмите за компютърно зрение срещу злонамерени визуални модели.
Тъй като използването на дронове, задвижвани от изкуствен интелект, става все по-широко разпространено в градска среда, критична инфраструктура и полицейски операцииПренебрегването на тези видове рискове може да отвори вратата за сериозни инциденти. Не става въпрос само за това някой да свали търговски дрон, а за подобни стратегии, прилагани в контексти на по-голяма стратегическа чувствителност.
Защитни приложения и ограничения на метода на чадъра
От гледна точка на обществеността, откритието на Калифорнийския университет в Ървайн предлага и възможна... евтин защитен инструментЧовек, следван от дрон в режим на автономно проследяване, на теория би могъл да използва чадър с модел FlyTrap, за да привлече устройството и да го неутрализира, винаги в рамките на законовите граници на своята страна.
Тази възможност отваря дебата за право на самозащита срещу въздушно наблюдениеОсобено в случаи на тормоз, шпионаж или незаконно нахлуване в личния живот. Изправени пред технологии за наблюдение, които изглеждат недостижими за обикновения гражданин, един прост предмет като чадър се превръща в един вид достъпна контрамярка.
Самият изследователски екип обаче предупреждава, че FlyTrap не е магическо решение, приложимо за всеки дронЕфективността му зависи от това дали устройството използва определени алгоритми за проследяване, базирани на компютърно зрение, и от активирания режим на автономно проследяване.
Освен това, възпроизвеждането на шаблона без задълбочено разбиране на това как невронните мрежи обработват изображенията може да не доведе до същия резултат. Простото отпечатване на привличащ вниманието дизайн и очакването той да работи е недостатъчно: успехът на метода се крие в... математическа и експериментална оптимизация на графичния модел.
Правната рамка също трябва да се вземе предвид: свалянето или залавянето на дрон може да бъде регулирано или дори забранено, в зависимост от държавата и вида операция, която устройството извършва. Преди да се използва каквато и да е техника за неутрализиране, колкото и проста да изглежда, е важно да... разбират правилата за въздух и поверителност текущ.
Ясно е, че този вид изследвания са полезни за оказване на натиск върху производителите и регулаторните органи Що се отнася до подобряването на стандартите за безопасност, както за предотвратяване на злоупотреби при използването на дронове, така и за предотвратяване на лесното им манипулиране посредством физически обект.
Взети заедно, случаят FlyTrap показва, че технологичната сложност на автономните дронове не ги прави неуязвими. чадър с правилния моделВ комбинация с доброто разбиране за това как вграденият изкуствен интелект „вижда“ света, това може да превърне една обикновена разходка в дъжда в най-лошия сценарий за дрон, който си е мислил, че има всичко под контрол.
