Perluasan drone otonom dengan kecerdasan buatan Hal ini benar-benar mengubah lanskap keamanan, pengawasan, dan bahkan peperangan modern. Apa yang tampak seperti fiksi ilmiah beberapa tahun lalu kini menjadi hal rutin: kendaraan udara tak berawak yang mampu melacak orang, berpatroli di perbatasan, atau merekam setiap pergerakan secara detail, hampir tanpa campur tangan manusia.
Dalam konteks yang penuh dengan teknologi mutakhir ini, hampir terasa tidak nyata untuk menemukan bahwa sebuah sebuah benda biasa seperti payung Hal ini dapat menantang beberapa sistem canggih tersebut. Sekelompok peneliti dari Universitas California, Irvine (UC Irvine) telah menunjukkan bahwa, dengan pola visual yang tepat, sebuah payung sederhana dapat "menipu," menarik, dan bahkan menetralisir model-model drone komersial tertentu yang menggunakan pelacakan otonom berdasarkan penglihatan komputer.
Munculnya drone otonom dan mengapa hal itu menimbulkan begitu banyak kekhawatiran.
Dalam beberapa tahun terakhir penggunaan kendaraan udara tak berawak di seluruh dunia. Kita tidak lagi hanya berbicara tentang drone rekreasi kecil untuk merekam video spektakuler, tetapi tentang platform yang jauh lebih serius yang digunakan untuk pengawasan perkotaan, pemantauan infrastruktur penting, kontrol perbatasan, atau mendukung operasi polisi dan militer.
Dalam skenario seperti perang antara Rusia dan Ukraina Kini menjadi jelas betapa pentingnya drone. Ada model kamikaze, perangkat yang khusus untuk pelacakan target, sistem yang terhubung melalui serat optik untuk memastikan komunikasi yang stabil, dan, semakin banyak, perangkat yang menggabungkan kecerdasan buatan untuk membuat keputusan sendiri di tengah penerbangan.
Otonomi ini didasarkan pada penggunaan sensor optik canggih dan algoritma visi komputer Fitur-fitur ini memungkinkan drone untuk mengidentifikasi orang atau objek, melacaknya, dan bereaksi terhadap pergerakan mereka tanpa pilot harus terus-menerus mengoreksi lintasan. Dalam produk konsumen, inilah yang dipasarkan sebagai fungsi "pelacakan aktif" atau "pelacakan dinamis".
Masalahnya adalah, seiring dengan meluasnya penggunaan sistem-sistem ini untuk pengawasan, patroli, dan operasi keamananTerdapat pula peningkatan risiko penyalahgunaan: pelecehan, spionase, pelanggaran privasi, atau pemantauan terselubung di tempat-tempat di mana orang bahkan tidak menyadari bahwa mereka sedang diawasi.
Para peneliti dan pakar keamanan siber telah lama memperingatkan bahwa perlindungan terhadap sistem-sistem ini tidak dapat dibatasi hanya pada komponen elektronik (sambungan radio, komunikasi terenkripsi, firewall). persepsi visual dan algoritma AI Mereka yang membuat keputusan berdasarkan apa yang mereka "lihat" juga bisa menjadi titik lemah, dan di situlah eksperimen payung yang unik ini berperan.
Proyek FlyTrap: ketika payung menjadi senjata pertahanan
Sebuah tim spesialis keamanan dan visi komputer dari Universitas California di Irvine Mereka memutuskan untuk tidak mengikuti jalur konvensional dalam merancang drone yang semakin canggih dan ofensif. Sebaliknya, mereka mengajukan pertanyaan yang berbeda: Apakah mungkin? melindungi diri dari drone otonom menggunakan benda-benda sederhana, tanpa perlu menggunakan pengacau frekuensi, peretasan, atau peralatan militer yang mahal?
Dari ide inilah FlyTrap lahir, sebuah Metode serangan fisik terhadap algoritma pelacakan otonom. Sistem ini mengandalkan pola grafis yang dirancang khusus untuk membingungkan sistem penglihatan drone. Alih-alih menonaktifkan perangkat secara elektronik, tujuannya adalah untuk memanipulasi apa yang "dianggap" drone sedang terjadi di depan kameranya.
Para peneliti memfokuskan analisis mereka pada drone yang menggunakan pelacakan target berdasarkan visi komputerIni adalah perangkat yang mendeteksi dan melacak seseorang atau objek berdasarkan informasi visual yang ditangkap oleh kameranya. Di antara model yang dianalisis terdapat beberapa model yang sangat populer di pasaran, seperti DJI Mini 4 Pro, DJI Neo, dan HoverAir X1.
Setelah mempelajari bagaimana sistem-sistem ini menafsirkan pergerakan target, tim tersebut menemukan kelemahan utama: dalam kondisi tertentu, algoritma dapat dimanipulasi jika dihadapkan dengan pola visual yang dirancang dengan cermat yang mengubah persepsi mereka tentang jarak dan arah pergerakan.
Pola ini, yang diberi nama FlyTrap, dicetak di permukaan payung biasa. Hasilnya adalah senjata pertahanan yang sangat murah dan mudah diakses terhadap drone otonom yang, secara teori, seharusnya sangat sulit untuk diakali tanpa sarana teknis yang canggih.
Bagaimana sebenarnya trik visual payung ini bekerja?
Inti dari FlyTrap terletak pada cara kerja algoritma pelacakan otonom berdasarkan jaringan saraf Mereka menafsirkan apa yang ditangkap oleh kamera drone. Sistem ini menganalisis gambar bingkai demi bingkai dan menghitung bagaimana target bergerak di layar untuk memutuskan ke mana pesawat harus bergerak dan dengan kecepatan berapa.
Desain grafis yang tercetak pada payung menyebabkan drone "membaca" situasi yang tidak sesuai dengan kenyataan: pola tersebut dirancang sedemikian rupa sehingga sistem penglihatan menyimpulkan bahwa targetnya adalah... menjauh dari dronePadahal, kenyataannya, orang yang memegang payung praktis masih berada di tempat yang sama.
Menghadapi kesalahpahaman ini, perangkat lunak pelacakan melakukan apa yang telah diprogramkan untuknya: ia mencoba untuk kurangi jarak hingga mencapai targetnya, menjaganya tetap berada dalam jangkauan pelacakan optimal. Dengan kata lain, drone secara bertahap mendekat, terus menerus mengoreksi lintasannya dalam upaya untuk "mengkompensasi" jarak yang dirasakan ini.
Perilaku ini menghasilkan sesuatu yang tulus. serangan daya tarik jarak jauhAlih-alih membuat drone kehilangan arah dan jejaknya, payung tersebut justru memancingnya untuk mendekat. Perangkat tersebut dapat mendekat begitu dekat dengan orang yang memegang payung sehingga menjadi sasaran empuk untuk ditangkap dengan jaring atau bahkan untuk tabrakan yang terkontrol.
Keunggulan utama dari pendekatan ini adalah tidak memerlukan gangguan elektromagnetik atau akses ke perangkat lunak droneTidak perlu meretasnya, mencegat sinyal kontrol, atau menggunakan peralatan militer. Yang dibutuhkan hanyalah payung dengan desain yang tepat untuk mengeksploitasi kelemahan yang sangat spesifik dalam algoritma penglihatan komputer.
Pengujian dengan drone komersial dan hasil studi.
Untuk memverifikasi bahwa gagasan tersebut lebih dari sekadar keingintahuan laboratorium, tim UC Irvine melakukan eksperimen sistematis dengan drone komersial yang menggabungkan fungsi pelacakan otonom yang banyak digunakan saat ini.
Para peneliti memilih tiga model representatif dari pasar konsumen: DJIMini 4 Pro, The DJI Neo dan HoverAir X1Semuanya memiliki mode "pelacakan aktif" atau "pelacakan dinamis" yang dirancang untuk memungkinkan perangkat mengikuti seseorang tanpa orang tersebut harus terus-menerus mengoperasikan remote control.
Dalam pengujian, seseorang berdiri di area terbuka dengan payung FlyTrap terbuka, sementara drone mengaktifkan mode pelacakan otomatis pada subjek tersebut. Sistem otonom kemudian dibiarkan melakukan tugasnya, tanpa koreksi manual, dan diamati bagaimana sistem tersebut bereaksi terhadap hal tersebut. pola grafis payung.
Hasilnya meyakinkan: pada ketiga model drone yang dianalisis, Metode FlyTrap berhasil menarik perhatian pesawat. hingga jarak yang sangat pendek, cukup untuk menangkapnya secara fisik dengan jaring atau membuatnya menabrak struktur atau perangkat lain jika diinginkan.
Para peneliti mengulangi percobaan tersebut di bawah kondisi pencahayaan dan cuaca yang berbeda, dan mencapai tingkat keberhasilan yang sangat tinggi. Menurut data yang dipresentasikan di forum keamanan seperti konferensi NDSS, sistem tersebut mempertahankan efektivitasnya bahkan dengan variasi cahaya sekitar dan lingkungan, yang memperkuat kelayakan praktisnya.
Sebagai bagian dari proses pengungkapan yang bertanggung jawab, tim tersebut mengkomunikasikan kerentanan tersebut kepada... produsen drone yang terlibat, termasuk DJI dan HoverAir, sebelum mempublikasikan semua detail teknisnya. Tujuannya adalah untuk memberi perusahaan waktu untuk mengeksplorasi potensi mitigasi atau pembaruan firmware yang akan memperkuat ketahanan algoritma mereka terhadap jenis serangan fisik ini.
Risiko dan kasus penggunaan: dari keselamatan publik hingga pelecehan
Di luar anekdot tentang kemampuan untuk "berburu" drone dengan payung, studi FlyTrap menghadirkan hal-hal baru. implikasi keamanan yang serius dan penerapan sistem otonom secara besar-besaran. Profesor Alfred Chen, salah satu penulis penelitian dan profesor ilmu komputer di UC Irvine, menekankan bahwa pelacakan otomatis adalah pedang bermata dua.
Di satu sisi, fungsi-fungsi ini sangat berguna untuk operasi keselamatan publik, patroli perbatasan, atau pengawasan infrastrukturTeknologi ini memungkinkan drone untuk memantau area luas atau mengikuti tersangka tanpa perlu terus-menerus dikendalikan, sehingga menghemat sumber daya dan meningkatkan kapasitas reaksi pihak berwenang.
Di sisi lain, teknologi yang sama dapat digunakan untuk tujuan yang jauh kurang mulia: Pelecehan individu, spionase, pelanggaran privasi di ruang publik atau pribadi, pelacakan orang tanpa izin, dan sebagainya. Ketika siapa pun dapat membeli drone dengan pelacakan otomatis dan menggunakannya untuk tujuan yang meragukan, keseimbangan antara keselamatan dan risiko menjadi rumit.
Shaoyuan Xie, penulis utama studi ini dan juga seorang ilmuwan komputer, menyoroti kemudahan yang dimiliki sebuah payung sederhana. untuk mengendalikan perilaku drone otonom tertentu Hal ini memaksa kita untuk mempertimbangkan kembali penggunaan perangkat-perangkat ini di lingkungan yang sensitif. Jika perangkat-perangkat ini begitu mudah dimanipulasi secara fisik, mungkin penggunaannya harus dibatasi atau diatur dalam skenario di mana pelanggaran keamanan dapat menimbulkan konsekuensi serius.
Selain itu, serangan ini tidak hanya dapat digunakan untuk menetralisir drone musuh atau invasiftetapi juga untuk menghindari pengawasan yang sah. Sebuah kelompok terorganisir dapat menggunakan variasi pola FlyTrap untuk menyembunyikan diri dari drone polisi atau militer, menciptakan zona bayangan atau menyebabkan pesawat mendekat terlalu dekat dan menjadi rentan.
Serangan fisik yang kembali membuka perdebatan tentang keamanan siber drone.
Salah satu aspek yang paling mencolok dari kasus FlyTrap adalah bahwa kasus ini melibatkan sebuah serangan fisik terhadap algoritma persepsiIni bukan intrusi digital. Tidak ada peretasan firmware, tidak ada akses sistem jarak jauh, dan tidak ada gangguan pada komunikasi radio. Semuanya terjadi di dunia nyata, di depan kamera drone.
Jenis kerentanan ini, yang dikenal sebagai serangan adversarial fisik, menunjukkan bahwa Keamanan sistem AI Ini jauh melampaui perangkat lunak kontrol dan jaringan data. Jika algoritma yang menafsirkan realitas dapat tertipu oleh pola visual di lingkungan sekitar, titik lemahnya bisa jadi sesuatu yang sepele seperti pola payung.
Dalam kasus FlyTrap, pola tersebut dirancang secara khusus untuk memanfaatkan kekurangan dalam cara jaringan saraf menghitung pergerakan dan jarak ke target. Alih-alih menyembunyikan orang tersebut, persepsi dimanipulasi sehingga drone percaya bahwa orang tersebut sedang menjauh.
Pendekatan ini menyoroti bahwa langkah-langkah keamanan standar—enkripsi komunikasi, otentikasi yang kuat, kontrol akses—tidak cukup untuk melindungi suatu sistem. Sistem UAS dengan fungsi otonomSelain itu, sangat penting untuk memperkuat ketahanan algoritma visi komputer terhadap pola visual yang berbahaya.
Seiring dengan semakin meluasnya penggunaan drone bertenaga AI di lingkungan perkotaan, infrastruktur penting, dan operasi kepolisianMengabaikan jenis risiko ini dapat membuka pintu bagi insiden serius. Ini bukan hanya tentang seseorang menembak jatuh drone komersial, tetapi tentang strategi serupa yang diterapkan dalam konteks sensitivitas strategis yang lebih besar.
Penerapan dan keterbatasan metode payung dalam bidang pertahanan
Dari sudut pandang publik, penemuan UC Irvine juga menawarkan kemungkinan alat pertahanan berbiaya rendahSeseorang yang diikuti oleh drone dalam mode pelacakan otomatis, secara teori, dapat menggunakan payung dengan pola FlyTrap untuk menarik perhatian perangkat tersebut dan menetralkannya, selalu dalam batas hukum negara mereka.
Kemungkinan ini membuka perdebatan tentang hak untuk membela diri terhadap pengawasan udaraTerutama dalam kasus pelecehan, spionase, atau pelanggaran hukum terhadap kehidupan pribadi. Dihadapkan dengan teknologi pengawasan yang tampaknya tidak terjangkau bagi warga biasa, benda sederhana seperti payung menjadi semacam tindakan pencegahan yang mudah diakses.
Namun, tim peneliti sendiri memperingatkan bahwa FlyTrap bukanlah sebuah solusi ajaib yang dapat diterapkan pada drone apa punKeefektifannya bergantung pada perangkat yang menggunakan algoritma pelacakan berbasis visi komputer tertentu dan pada mode pelacakan otonom yang diaktifkan.
Selain itu, mereplikasi pola tanpa pemahaman mendalam tentang bagaimana jaringan saraf memproses gambar mungkin tidak akan menghasilkan hasil yang sama. Hanya mencetak desain yang menarik dan mengharapkan hasilnya berhasil saja tidak cukup: keberhasilan metode ini terletak pada... optimasi matematis dan eksperimental dari pola grafis..
Kerangka hukum juga harus dipertimbangkan: menembak jatuh atau menangkap drone mungkin diatur atau bahkan dilarang, tergantung pada negara dan jenis operasi yang dilakukan perangkat tersebut. Namun, sebelum menggunakan teknik netralisasi apa pun, betapapun sederhananya, sangat penting untuk... memahami peraturan udara dan privasi arus.
Yang jelas adalah bahwa jenis penelitian ini bermanfaat untuk menekan para produsen dan regulator Dalam hal meningkatkan standar keselamatan, baik untuk mencegah penyalahgunaan dalam penggunaan drone maupun untuk mencegahnya dimanipulasi dengan mudah menggunakan benda fisik.
Secara keseluruhan, kasus FlyTrap menunjukkan bahwa kecanggihan teknologi drone otonom tidak membuat mereka kebal. payung dengan motif yang tepatJika dipadukan dengan pemahaman yang baik tentang bagaimana kecerdasan buatan (AI) yang terpasang "melihat" dunia, hal itu dapat mengubah jalan-jalan sederhana di tengah hujan menjadi skenario terburuk bagi drone yang mengira semuanya sudah terkendali.
