A terjeszkedés a mesterséges intelligenciával felszerelt autonóm drónok Teljesen megváltoztatja a biztonság, a megfigyelés, sőt még a modern hadviselés tájképét is. Ami néhány évvel ezelőtt még sci-finek tűnt, mára rutinná vált: pilóta nélküli légi járművek, amelyek képesek embereket követni, határőrködni, vagy bármilyen mozgást részletesen rögzíteni, gyakorlatilag emberi beavatkozás nélkül.
Ebben a csúcstechnológiával teli kontextusban szinte szürreális felfedezni, hogy egy egy olyan hétköznapi tárgy, mint egy esernyő Ez kihívást jelenthet ezen fejlett rendszerek némelyikének. A Kaliforniai Egyetem, Irvine (UC Irvine) kutatócsoportja bebizonyította, hogy a megfelelő vizuális mintázattal egy egyszerű esernyő képes „becsapni”, vonzani, sőt semlegesíteni bizonyos kereskedelmi forgalomban kapható drónmodelleket, amelyek számítógépes látáson alapuló autonóm követést alkalmaznak.
Az autonóm drónok térnyerése és miért okoznak akkora aggodalmat
Az utóbbi években a pilóta nélküli légi járművek világszerte. Már nem csak látványos videók rögzítésére alkalmas kis, szabadidős drónokról beszélünk, hanem sokkal komolyabb platformokról, amelyeket városi megfigyelésre, kritikus infrastruktúra monitorozására, határellenőrzésre vagy rendőrségi és katonai műveletek támogatására használnak.
Olyan forgatókönyvekben, mint például a háború Oroszország és Ukrajna között Világossá vált, mennyire nélkülözhetetlenné váltak a drónok. Léteznek kamikaze modellek, célpontkövetésre szakosodott eszközök, optikai szálakkal összekapcsolt rendszerek a stabil kommunikáció biztosítása érdekében, és egyre inkább olyan eszközök, amelyek mesterséges intelligenciát alkalmaznak, hogy repülés közben önállóan dönthessenek.
Ez az autonómia a következők használatán alapul: fejlett optikai érzékelők és számítógépes látás algoritmusok Ezek a funkciók lehetővé teszik a drón számára, hogy azonosítsa az embereket vagy tárgyakat, kövesse őket, és reagáljon a mozgásukra anélkül, hogy a pilótának folyamatosan korrigálnia kellene a röppályát. A fogyasztási cikkekben ezt „aktív nyomkövetés” vagy „dinamikus nyomkövetés” funkcióként forgalmazzák.
A probléma az, hogy ahogy ezeknek a rendszereknek a használata bővül, megfigyelés, járőrözés és biztonsági műveletekEgyre nagyobb a visszaélések kockázata is: zaklatás, kémkedés, a magánélet megsértése vagy titkos megfigyelés olyan helyeken, ahol az emberek nincsenek is tudatában annak, hogy figyelik őket.
A kutatók és a kiberbiztonsági szakértők régóta figyelmeztetnek arra, hogy ezen rendszerek védelme nem korlátozódhat az elektronikus alkatrészekre (rádiókapcsolatok, titkosított kommunikáció, tűzfalak). vizuális érzékelés és mesterséges intelligencia algoritmusok Azok, akik a „látottak” alapján hoznak döntéseket, szintén gyenge ponttá válhatnak, és pontosan itt jön képbe a különös esernyőkísérlet.
A FlyTrap projekt: amikor az esernyőből védekező fegyver lesz
Biztonsági és számítógépes látás szakértőkből álló csapatunk Kaliforniai Egyetem, Irvine Úgy döntöttek, hogy nem a megszokott, egyre kifinomultabb és támadóbb drónok tervezésének útját követik. Ehelyett egy másik kérdést tettek fel: Lehetséges-e… önvédelem az autonóm drónok ellen egyszerű tárgyak használatával, frekvenciazavarók, hackelés vagy drága katonai felszerelések használata nélkül?
Ebből az ötletből született meg a FlyTrap, fizikai támadási módszer autonóm követő algoritmusok ellen Egy grafikus mintázatra támaszkodik, amelyet kifejezetten a drón látórendszerének megzavarására terveztek. Ahelyett, hogy elektronikusan letiltaná az eszközt, a cél az, hogy manipulálják azt, amit a drón a kamerája előtt „gondol”, hogy történik.
A kutatók elemzésüket azokra a drónokra összpontosították, amelyek célkövetés számítógépes látás alapjánEzek olyan eszközök, amelyek a kamerájuk által rögzített vizuális információk alapján érzékelik és követik nyomon a személyt vagy tárgyat. Az elemzett modellek között vannak a piacon nagyon népszerű modellek, mint például a DJI Mini 4 Pro, a DJI Neo és a HoverAir X1.
Miután megvizsgálták, hogyan értelmezik ezek a rendszerek a célpont mozgását, a csapat felfedezett egy kulcsfontosságú gyengeséget: bizonyos körülmények között az algoritmus manipulálható, ha egy gondosan megtervezett vizuális minta ami megváltoztatja a távolság és a mozgás irányának érzékelését.
Ezt a FlyTrap névre keresztelt mintát egy átlagos esernyő felületére nyomtatták. Az eredmény egy meglepően olcsó és könnyen hozzáférhető védekező fegyver lett az autonóm drónok ellen, amelyeket papíron nagyon nehéz lenne túljárni az eszén kifinomult technikai eszközök nélkül.
Hogyan működik pontosan az esernyő vizuális trükkje?
A FlyTrap lényege az algoritmusok működésében rejlik. neurális hálózatokon alapuló autonóm követés Ezek a rendszerek értelmezik a drón kameráinak felvételeit. Ezek a rendszerek képkockáról képkockára elemzik a képet, és kiszámítják, hogyan mozog a célpont a képernyőn, hogy eldöntsék, merre és milyen sebességgel kell mozognia a repülőgépnek.
Az esernyőre nyomtatott grafikai tervezés miatt a drón olyan helyzetet „olvas”, amely nem felel meg a valóságnak: a minta úgy van megtervezve, hogy a vizuális rendszer arra a következtetésre jusson, hogy a célpont az. távolodva a dróntól, miközben a valóságban az esernyőt tartó személy gyakorlatilag még mindig ugyanazon a helyen van.
Ezzel a félreértelmezéssel szembesülve a nyomkövető szoftver azt teszi, amire programozták: megpróbálja csökkentse a távolságot amíg el nem éri a célpontját, az optimális követési tartományon belül tartva azt. Más szóval, a drón fokozatosan közeledik, folyamatosan korrigálva a röppályáját, hogy "kompenzálja" ezt az érzékelt távolságot.
Ez a viselkedés valódi távoli vonzás támadásAhelyett, hogy eltérítené a drónt és elveszítené a nyomát, az ernyő valójában arra csábítja, hogy egyre közelebb kerüljön. Az eszköz olyan közel kerülhet az ernyőt tartó személyhez, hogy az könnyű célponttá válik egy hálóval való elfogáshoz vagy akár egy irányított ütközéshez.
Ennek a megközelítésnek a nagy előnye, hogy nem igényel elektromágneses interferencia vagy hozzáférés a drón szoftveréhezNincs szükség feltörésre, a vezérlőjel elfogására vagy katonai felszerelések használatára. Csupán egy megfelelő kialakítású esernyőre van szükség, hogy kihasználjuk a számítógépes látás algoritmusainak egy nagyon specifikus gyengeségét.
Kereskedelmi drónokkal végzett tesztek és tanulmányi eredmények
Annak igazolására, hogy az ötlet több, mint pusztán laboratóriumi kuriózum, a UC Irvine csapata elvégezte a következő vizsgálatokat: szisztematikus kísérletek kereskedelmi drónokkal amelyek magukban foglalják a ma széles körben használt autonóm követési funkciókat.
A kutatók három reprezentatív modellt választottak ki a fogyasztói piacról: a DJI Mini 4 Pro, The DJI Neo és HoverAir X1Mindegyik rendelkezik „aktív követés” vagy „dinamikus követés” móddal, amely lehetővé teszi a készülék számára, hogy egy személyt kövessen anélkül, hogy annak folyamatosan a távirányítót kellene működtetnie.
A tesztek során egy személy nyitott FlyTrap esernyővel állt egy nyílt területen, miközben a drón automatikus követési módot aktivált az adott személy körül. Az autonóm rendszer ezután manuális korrekciók nélkül végezte a munkáját, figyelve, hogyan reagál a környezeti hatásokra. esernyő grafikus minta.
Az eredmények meggyőzőek voltak: mindhárom elemzett drónmodellben a A FlyTrap módszer sikeresen vonzotta a repülőgépet nagyon rövid távolságokra is, elég ahhoz, hogy fizikailag elfogják egy hálóval, vagy ha szükséges, egy másik szerkezetnek vagy eszköznek ütköztessék.
A kutatók megismételték a kísérleteket különböző fényviszonyok és időjárási körülmények között, nagyon magas sikerarányt elérve. Biztonsági fórumokon, például az NDSS konferencián bemutatott adatok szerint a rendszer még akkor is megőrizte hatékonyságát, ha a környezeti fény és a környezet változásai, ami megerősíti a gyakorlati megvalósíthatóságát.
A felelős közzétételi folyamat részeként a csapat közölte a sebezhetőséget a az érintett drónok gyártói, beleértve a DJI-t és a HoverAir-t is, mielőtt nyilvánosságra hozták volna az összes technikai részletet. A cél az volt, hogy a vállalatoknak legyen idejük megvizsgálni a lehetséges enyhítési módokat vagy firmware-frissítéseket, amelyek megerősítenék algoritmusaik ellenálló képességét az ilyen típusú fizikai támadásokkal szemben.
Kockázatok és felhasználási esetek: a közbiztonságtól a zaklatásig
Azon anekdotán túl, hogy esernyővel lehet drónt „vadászni”, a FlyTrap tanulmánya a következőket is bemutatja: komoly biztonsági következményekkel jár és az autonóm rendszerek tömeges elterjedése. Alfred Chen professzor, a kutatás társszerzője és a Kaliforniai Egyetem (UC Irvine) informatika professzora hangsúlyozza, hogy az automatikus követés kétélű fegyver.
Egyrészt ezek a funkciók nagyon hasznosak a közbiztonsági műveletek, határőrjáratok vagy infrastruktúra-felügyeletLehetővé teszik a drónok számára, hogy nagy területeket figyeljenek meg, vagy gyanúsítottakat kövessenek folyamatos repülés nélkül, ami erőforrásokat takarít meg és javítja a hatóságok reagálóképességét.
Másrészt ugyanez a technológia sokkal kevésbé nemes célokra is használható: Egyéni zaklatás, kémkedés, a magánélet megsértése nyilvános vagy magánterületen, személyek jogosulatlan követése stb. Amikor bárki vásárolhat egy autonóm nyomkövetővel ellátott drónt, és kétes célokra használhatja, a biztonság és a kockázat közötti egyensúly bonyolulttá válik.
Shaoyuan Xie, a tanulmány vezető szerzője és egyben informatikus is, kiemeli, hogy milyen könnyen lehet egy egyszerű esernyővel... bizonyos autonóm drónok viselkedésének irányítására Ez arra kényszerít minket, hogy újragondoljuk ezen eszközök használatát érzékeny környezetekben. Ha fizikailag ilyen könnyű manipulálni őket, talán korlátozni vagy szabályozni kellene a telepítésüket olyan helyzetekben, ahol a biztonsági rés súlyos következményekkel járhat.
Továbbá a támadás nemcsak arra használható, hogy ellenséges vagy invazív drónok semlegesítésehanem a jogos megfigyelés elkerülése érdekében is. Egy szervezett csoport a FlyTrap minta variációit alkalmazhatja, hogy elrejtse magát a rendőrségi vagy katonai drónok elől, árnyékzónákat hozva létre, vagy azt okozva, hogy a repülőgépek túl közel repülnek és sebezhetővé válnak.
Fizikai támadás, amely újra megnyitja a vitát a drónok kiberbiztonságáról
A FlyTrap-ügy egyik legszembetűnőbb aspektusa, hogy egy fizikai támadás az érzékelési algoritmusok ellenEz nem digitális behatolás. Nincs firmware-feltörés, távoli rendszerhozzáférés és rádiókommunikáció manipulálása. Mindez a való világban történik, a drón kamerája előtt.
Az ilyen típusú sebezhetőségek, amelyeket fizikai ellenséges támadásoknak neveznek, azt mutatják, hogy az AI-rendszerek biztonsága Ez messze túlmutat a vezérlőszoftvereken és az adathálózatokon. Ha a valóságot értelmező algoritmust megtéveszthetik a környezetben található vizuális minták, akkor a gyenge láncszem lehet valami olyan triviális dolog, mint egy esernyőminta.
A FlyTrap esetében a mintázatot kifejezetten a kihasználásra tervezték hiányosságok a neurális hálózatok mozgásszámításának módjában és a célponttól való távolság. Ahelyett, hogy elrejtenék a személyt, a drón úgy manipulálja az érzékelést, hogy azt higgye, a személy távolodik.
Ez a megközelítés rávilágít arra, hogy a szokásos biztonsági intézkedések – a kommunikáció titkosítása, az erős hitelesítés, a hozzáférés-vezérlés – nem elegendőek egy Autonóm funkciókkal rendelkező UAS rendszerSzintén elengedhetetlen a számítógépes látási algoritmusok rosszindulatú vizuális mintázatokkal szembeni ellenálló képességének megerősítése.
Ahogy a mesterséges intelligenciával hajtott drónok használata egyre elterjedtebbé válik városi környezet, kritikus infrastruktúra és rendőrségi műveletekAz ilyen típusú kockázatok figyelmen kívül hagyása súlyos balesetekhez vezethet. Nem csak arról van szó, hogy valaki lelő egy kereskedelmi célú drónt, hanem arról is, hogy hasonló stratégiákat alkalmaznak nagyobb stratégiai érzékenységű kontextusokban.
Az esernyőmódszer védekező alkalmazásai és korlátai
A nyilvánosság szempontjából a Kaliforniai Egyetem (UC Irvine) felfedezése egy lehetséges újdonságot is kínál. olcsó védekező eszközEgy autonóm követő módban lévő drón által követett személy elméletileg egy légycsapda mintázatú esernyővel vonzhatja magához és semlegesítheti a drónt, mindig az ország törvényes keretein belül.
Ez a lehetőség vitát nyit arról, hogy önvédelemhez való jog a légi megfigyeléssel szembenKülönösen zaklatás, kémkedés vagy a magánéletbe való jogellenes beavatkozás esetén. Az átlagpolgár számára elérhetetlennek tűnő megfigyelési technológiákkal szembesülve egy egyszerű tárgy, mint például egy esernyő, egyfajta elérhető ellenintézkedéssé válik.
A kutatócsoport azonban maga is figyelmeztet, hogy a FlyTrap nem egy varázslatos megoldás, amely bármilyen drónra alkalmazhatóHatékonysága attól függ, hogy az eszköz bizonyos számítógépes látáson alapuló követő algoritmusokat használ-e, és hogy az autonóm követési mód aktiválva van-e.
Továbbá a minta replikálása a neurális hálózatok képfeldolgozási módjának mélyreható ismerete nélkül nem biztos, hogy ugyanazt az eredményt hozza. Nem elegendő egyszerűen kinyomtatni egy szemet gyönyörködtető tervet, és elvárni, hogy működjön: a módszer sikere abban rejlik, hogy a grafikus minta matematikai és kísérleti optimalizálása.
A jogi keretet is figyelembe kell venni: egy drón lelövése vagy befogása szabályozott vagy akár tiltott is lehet, az országtól és az eszköz által végrehajtott művelet típusától függően. Bármely semlegesítési technika alkalmazása előtt, bármilyen egyszerűnek is tűnik, elengedhetetlen... megérteni a légi közlekedési és adatvédelmi szabályozásokat jelenlegi.
Az egyértelmű, hogy az ilyen típusú kutatások hasznosak a következők számára: nyomásgyártók és szabályozók A biztonsági előírások javítása terén, mind a drónok használatával kapcsolatos visszaélések megelőzése, mind pedig a fizikai tárgyakkal való könnyű manipulálásuk megakadályozása érdekében.
Összességében a FlyTrap esete azt bizonyítja, hogy az autonóm drónok technológiai kifinomultsága nem teszi őket sebezhetetlenné. esernyő a megfelelő mintávalA fedélzeti mesterséges intelligencia világlátásának alapos ismeretével kombinálva egy egyszerű esős sétát is a legrosszabb forgatókönyvvé változtathat egy olyan drón számára, amely azt hiszi, hogy mindent kézben tart.
