În ultimii ani, am trecut de la a considera dronele ca pe un simplu... jucărie de înaltă tehnologie pentru înregistrarea videoclipurilor pentru a le transforma într-un instrument cheie în securitate, supraveghere și chiar în conflicte armate. Și, așa cum se întâmplă adesea cu orice tehnologie care se dezvoltă atât de rapid, aspectul securității și protecției nu avansează întotdeauna în același ritm.
În acest context, un grup de cercetători de la Universitatea din California, Irvine, a demonstrat ceva ce sună a glumă, dar este departe de a fi așa: Este posibil să atragi și să neutralizezi anumite drone autonome folosind doar o umbrelă cu un anumit model de culoare.Fără bruiaje radio, fără hacking de la distanță, fără arme sofisticate. Doar o umbrelă „ciudată” și puțină inginerie inversă despre cum aceste dispozitive percep lumea.
De ce dronele autonome provoacă îngrijorare tot mai mare
Ascensiunea dronelor nu se limitează în niciun caz la agrement. China, Rusia, Statele Unite și alte țări Aceștia promovează agresiv dezvoltarea de vehicule aeriene fără pilot, echipate cu sisteme de inteligență artificială capabile să ia decizii singure. Nu mai vorbim doar despre camere zburătoare pentru influenceri, ci despre platforme autonome cu aplicații tactice și de supraveghere.
Un exemplu foarte clar poate fi găsit în războiul de la Rusia și Ucrainaunde au fost desfășurate tot felul de drone: dispozitive kamikaze, unități de urmărire, sisteme conectate la cabluri de fibră optică pentru îmbunătățirea transmisiei de date etc. La acestea se adaugă evoluții care se apropie de science fiction, cum ar fi experimentele rusești cu presupuse porumbei transformați în bio-drone, care ilustrează măsura în care unii actori sunt dispuși să exploreze orice cale tehnologică pentru a obține avantaje pe câmpul de luptă.
Problema este că aceeași tehnologie, atunci când este transferată în sectorul civil, deschide ușa către scenarii mult mai incomode: supravegherea constantă a persoanelor, urmărire automată neautorizată, colectare de date în locații sensibile sau pur și simplu intruziuni în intimitatea cotidiană a oricui se întâlnește cu unul dintre aceste dispozitive la momentul nepotrivit.
Adoptarea în masă a dronelor cu funcții de urmărire autonomă în sarcini precum securitatea privată, supravegherea frontierelorControlul mulțimilor sau patrularea infrastructurii critice le extinde posibilitățile operaționale... dar, în același timp, multiplică vectorii de risc. Nu doar pentru că dronele pot funcționa defectuos, ci și pentru că pot fi manipulate, înșelate sau folosite împotriva celor care le operează.
Având în vedere această situație, devine clar că nu este suficient să criptăm comunicațiile sau să protejăm benzile radio. Adevărata bătălie se dă și pe terenul fizic, în modul în care algoritmii vizuali și de inteligență artificială interpretează ceea ce văd prin camera dronei și cum reacționează la modelele vizuale menite să-i deruteze.
Cercetarea UC Irvine: o umbrelă împotriva inteligenței artificiale
În loc să dezvolte o nouă dronă ofensivă, echipa... Universitatea din California, Irvine (UC Irvine) El a decis să abordeze problema din cealaltă perspectivă: cum să se protejeze fizic de sistemele de urmărire autonomă bazate pe inteligență artificială. Scopul său era clar: să îmbunătățească așa-numita „cibersecuritate fizică” cu obiecte de zi cu zi și ieftine, fără a se baza pe hardware specializat sau cunoștințe avansate de hacking.
În timpul investigației lor, experții au analizat amănunțit modul în care funcționează algoritmii de urmărire încorporați în multe drone comerciale. Mai exact, s-au concentrat pe funcțiile cunoscute comercial sub numele de Active Track, Dynamic Track sau alte sisteme similarecare permit dronei să urmărească automat o persoană sau un obiect folosind viziunea computerizată, fără ca pilotul să fie nevoit să ajusteze manual traiectoria tot timpul.
După mai multe experimente, au descoperit o slăbiciune surprinzător de simplă: anumite modele de drone care performează Urmărirea țintelor folosind rețele neuronale și analiza mișcării imaginii Acestea pot fi confundate dacă sunt prezentate cu un model vizual foarte specific. Această metodă a fost numită FlyTrap, „capcană pentru muște”, referindu-se la modul în care atrage drona într-o poziție în care poate fi capturată sau doborâtă.
Cel mai izbitor lucru în acest caz este că implementarea practică a FlyTrap a fost realizată folosind ceva la fel de comun precum o umbrelă. Prin ștampilarea modelului vizual corespunzător pe suprafața umbrelei Și când îl deschizi în fața dronei, inteligența artificială de urmărire interpretează o serie de modificări ale imaginii care îl fac să creadă că ținta se îndepărtează, chiar dacă persoana care îl ține este nemișcată.
Rezultatele au fost prezentate la o conferință internațională specializată în securitatea informatică (NDSS), unde s-a detaliat că această abordare nu este o simplă curiozitate de laborator. Testele au arătat că atacul fizic funcționează în condiții variate.cu schimbările de iluminare și vreme, ceea ce o apropie periculos de un scenariu de utilizare din lumea reală, în afara unui mediu controlat.
Cum funcționează atacul FlyTrap pas cu pas (la nivel conceptual)
Pentru a înțelege de ce o umbrelă poate pune o dronă autonomă într-o poziție dificilă, trebuie să analizăm modul în care sistemele de urmărire a țintelor bazate pe viziune artificialăÎn esență, drona captează continuu imagini ale împrejurimilor sale și, folosind rețele neuronale și algoritmi de analiză a mișcării, încearcă să localizeze subiectul pe care ar trebui să îl urmărească în fiecare cadru.
Acești algoritmi se concentrează pe modele de formă, culoare, contrast și mișcare pentru a estima unde se află subiectul în imaginea curentă în raport cu cea anterioară. Pe baza acestor informații, ei calculează dacă subiectul se apropie, se îndepărtează, se deplasează în lateral, se ascunde în spatele unui obstacol etc. Drona își ajustează apoi viteza și traiectoria pentru a menține subiectul în cadru la o distanță considerată „optimă”.
Atacul FlyTrap exploatează tocmai această logică. Modelul grafic conceput pentru umbrelă o face să genereze modele atunci când drona se mișcă chiar și ușor sau își schimbă unghiul de vizualizare. schimbări aparente ale dimensiunii și poziției țintei pe care algoritmul o interpretează ca o mișcare continuă de îndepărtare. Inteligența artificială crede că subiectul se mișcă înapoi, când în realitate acesta stă nemișcat.
Deci ce face drona? Pentru a compensa această presupusă distanță, reduce treptat distanțaÎncercând să se „apropie” de subiect pentru a menține încadrarea conform regulilor interne ale sistemului de urmărire. Rezultatul este că aeronava intră într-o spirală de apropiere din ce în ce mai agresivă… până când se apropie periculos de mult de umbrelă și de persoana care o transportă.
Când drona este foarte aproape, operatorul de atac are o marjă foarte avantajoasă: poate a-l captura cu o plasă, a-l lovi, a-l destabiliza sau a-l face să se ciocnească împotriva unei suprafețe din apropiere. Spre deosebire de alte metode de apărare care au ca scop doar să facă drona să-și piardă ținta sau să înceteze urmărirea, FlyTrap vă permite să o aduceți exact în poziția ideală pentru neutralizare fizică.
Modelele de drone afectate și amploarea reală a problemei
Cercetătorii de la UC Irvine nu s-au oprit la simulări; și-au testat tehnica cu... drone comerciale realePrintre modelele evaluate cu succes se numără:
- DJI Mini 4 Pro
- DJI Neo
- Hover Air X1
Toate aceste dispozitive încorporează funcții de urmărire automată bazate pe viziunea computerizată care, în teorie, sunt concepute pentru a facilita cadre dinamice fără ca pilotul să fie nevoit să-și facă griji cu privire la cameră. Tocmai acea capacitate de a urmări autonom utilizatorul Este cea care se întoarce împotriva lui atunci când intră în joc un model precum FlyTrap.
În teste, dronele au fost suficient de atrase pentru a face operarea lor viabilă. captura cu dispozitive de rețea sau impactul său controlatCu alte cuvinte, nu era vorba doar de a deruta algoritmul pentru o clipă, ci de a impune o abordare fizică susținută care lăsa dispozitivul la mila atacatorului.
Cercetătorii responsabili de studiu au acționat în conformitate cu cele mai bune practici ale comunității de securitate cibernetică și Au comunicat vulnerabilitatea în mod responsabil. producătorilor implicați înainte de a face publice toate detaliile. Acest lucru deschide calea pentru companii precum DJI și alte firme afectate să își revizuiască algoritmii de urmărire și să implementeze contramăsuri în viitoarele actualizări de firmware sau generații hardware.
Totuși, dincolo de aceste modele specifice, descoperirea a implicații mult mai largiOrice UAS (sistem de aeronavă fără pilot) care se bazează pe rețele neuronale pentru a urmări ținte folosind viziunea computerizată ar putea fi susceptibil la variații ale aceleiași abordări dacă nu este antrenat în mod specific să reziste acestor tipuri de modele ostile.
Un atac fizic care nu necesită semnal radio, hacking sau interferențe
Una dintre caracteristicile cheie ale FlyTrap este că funcționează în întregime în domeniul fizicNu necesită interferarea cu comunicațiile dronei, accesarea legăturii sale de date sau exploatarea vulnerabilităților software tradiționale. Atacul funcționează deoarece manipulează ceea ce vede camera dronei și, prin urmare, ceea ce algoritmii săi de inteligență artificială cred că se întâmplă.
În practică, aceasta înseamnă că atacatorul nu trebuie să emită semnale radio, WiFi, GPS sau similareDe asemenea, nu necesită niciun fel de conexiune la dronă, permisiuni de acces sau acreditări. Implică pur și simplu afișarea către dronă a unui obiect fizic conceput pentru a exploata punctele sale cognitive moarte, ceva mult mai greu de urmărit și blocat cu sistemele de apărare standard.
Această abordare se încadrează în ceea ce este cunoscut sub numele de atacuri adverse în lumea fizicăAceasta este o linie de cercetare din ce în ce mai relevantă. Așa cum au fost creați ochelari, tricouri sau stickere care pot păcăli sistemele de recunoaștere facială sau mașinile autonome, aici se folosește o umbrelă pentru a dezactiva algoritmii de urmărire ai unei drone.
În plus, costul este ridicol de mic în comparație cu resursele asociate de obicei cu războiul electronic sau cu doborârea aeronavelor fără pilot. Nu sunt necesare echipamente scumpe, antene speciale sau cunoștințe de specialitate în radiofrecvență.Tot ce ai nevoie este o umbrelă cu designul potrivit și puțină îndemânare pentru a te poziționa în locul potrivit atunci când drona este în modul de urmărire.
Această asimetrie dintre prețul unei drone avansate și costul neutralizării acesteia folosind un obiect atât de comun are un impact direct asupra modului în care ar trebui să gândim despre securitatea infrastructurilor critice, desfășurarea poliției sau frontiereleUn actor rău intenționat ar putea, teoretic, să aducă drone de supraveghere aproape de zonele restricționate folosind tocmai aceste tipuri de tehnici, apoi să le dezactiveze sau să le facă să se prăbușească unde dorește.
Implicații pentru securitate, confidențialitate și implementarea în masă a dronelor
Proliferarea aeronavelor fără pilot, propulsate de inteligența artificială Aceasta reprezintă o provocare uriașă pentru siguranța publică. Vedem din ce în ce mai multe proiecte care propun utilizarea unor roiuri de drone pentru a patrula orașe, a monitoriza granițele sau a supraveghea evenimente mari. Însă studiul UC Irvine arată că, fără a consolida algoritmii de percepție, întreaga implementare se bazează pe o fundație destul de fragilă.
La nivel operațional, un atac FlyTrap ar putea fi folosit atât ofensiv, cât și defensiv. Pe de o parte, cineva ar putea neutralizarea dronelor poliției sau a celor de supraveghere a frontierelorAcest lucru compromite capacitatea de răspuns a forțelor de securitate dintr-o anumită zonă. Pe de altă parte, o persoană hărțuită de o dronă sau o victimă a spionajului cu un dispozitiv comercial ar putea folosi același mecanism pentru a se apăra cu o simplă umbrelă modificată.
Există, de asemenea, aspectul protecția infrastructurii strategice (centrale electrice, instalații de transport, centre de date etc.). Dacă aceste locații se bazează pe drone autonome pentru a-și completa sistemele de supraveghere, o vulnerabilitate precum FlyTrap deschide riscul ca un atacator să poată ocoli o parte a sistemului de detectare folosind doar un obiect fizic, fără nicio interacțiune electronică.
Prin urmare, studiul transmite un mesaj clar: Securitatea dronelor nu poate fi limitată la nivelul electronic sau de rețeaSecurizarea legăturilor de date, criptarea comunicațiilor și protejarea software-ului sunt necesare, dar insuficiente, dacă algoritmii vizuali sunt apoi păcăliți de modelele colorate imprimate pe o umbrelă. Reziliența trebuie să se extindă la modul în care inteligența artificială interpretează mediul fizic și la robustețea acesteia împotriva manipulării deliberate.
Pe măsură ce utilizarea dronelor autonome devine tot mai răspândită în... medii urbane și operațiuni sensibileAceste tipuri de atacuri vor înceta să mai fie o curiozitate academică și vor deveni un factor pe care producătorii, autoritățile de reglementare și operatorii vor trebui să îl ia în considerare încă din etapa de proiectare. Ignorarea acestor vulnerabilități poate fi costisitoare odată ce implementarea la scară largă a avut deja loc.
Limitările atacului și posibilele linii de apărare
Deși ideea de a „doborî o dronă cu o umbrelă” este foarte atrăgătoare, nu ar trebui să crezi că orice umbrelă colorată este potrivită. Modelul FlyTrap este conceput cu atenție pentru a exploata slăbiciunile specifice ale algoritmilor care au fost testați. Nu este un truc universal care va funcționa automat cu toate dronele sau în orice circumstanță.
În plus, atacul necesită ca drona să utilizeze funcții de urmărire autonomă bazată pe vedereDacă operatorul o pilotează complet manual sau dacă aeronava este ghidată de alți senzori (cum ar fi LIDAR, radar sau combinații avansate de fuziune de senzori), marja de înșelare a inteligenței artificiale folosind doar un model vizual poate fi redusă sau chiar dispare.
O altă limitare practică este necesitatea de a apropie fizic umbrela de câmpul vizual al droneiÎn scenariile în care dispozitivul zboară la altitudine mare sau menține o distanță de câțiva kilometri față de țintă, atingerea acestei proximități poate să nu fie realistă. FlyTrap este deosebit de periculos în situații de zbor la joasă altitudine, în urmărirea apropiată a persoanelor sau în medii urbane cu rute înguste.
Din punct de vedere defensiv, există mai multe linii de acțiune posibile. Una dintre ele este recalificarea modelelor de vedere Folosind exemple de modele adverse precum FlyTrap, aceștia învață să le recunoască drept anomalii și să evite să cadă în capcana apropierii incontrolabile. O altă opțiune este combinarea informațiilor vizuale cu alte surse (adâncime, senzori inerțiali, hărți 3D) pentru a evita să se bazeze exclusiv pe ceea ce vede camera.
De asemenea, este rezonabil să îl introducem în firmware. limite de proximitate și reguli suplimentare de siguranțăAceste măsuri împiedică drona să se apropie de țintă la o distanță mai mică decât o anumită atunci când detectează schimbări vizuale neobișnuite sau inconsistente. Acest lucru s-ar putea să nu elimine complet înșelăciunea, dar ar reduce probabilitatea ca drona să ajungă într-o poziție în care poate fi ușor capturată manual sau cu o plasă.
În cele din urmă, la nivel de reglementare, organismele responsabile de certificarea dronelor pentru utilizări de supravegherea securității, poliției sau a infrastructurii Vor trebui să includă în evaluările lor teste împotriva acestui tip de atac fizic. Utilizarea unei drone pentru a filma o scenă montană nu este același lucru cu utilizarea ei pentru patrularea unei frontiere: nivelul de robustețe necesar ar trebui să fie în mod clar diferit.
Toate acestea lasă un scenariu curios: cu cât facem drone mai „inteligente” prin intermediul inteligenței artificiale, Mai important va fi să gândești ca un atacator creativ. care încearcă să găsească scurtături în lumea reală pentru a-i înșela. Și iată că un obiect aparent inocent precum o umbrelă colorată poate ajunge să fie protagonist.
Pe scurt, ceea ce demonstrează aceste studii este că Securitatea sistemelor autonome nu este doar o chestiune de firewall-uri și criptaredar și să înțeleagă cum percep mediul înconjurător, ce scurtături iau algoritmii lor și cum un simplu model grafic poate transforma o aeronavă avansată fără pilot în ceva la fel de vulnerabil ca o muscă atrasă de o capcană bine concepută.