Peretasan mobil otonom adalah berita terhangat untuk saat ini, meski bukan hal baru bagi periset untuk mengretas mobil. Sebelumnya mereka telah menunjukkan cara membajak mobil dari jarak jauh, bagaimana cara menonaktifkan fungsi penting mobil seperti kantung udara, dan bahkan cara mencuri mobil.
Tapi trik peretasan mobil otonom terbaru ini tidak memerlukan keterampilan luar biasa untuk melakukannya. Yang dibutuhkan hanyalah menempelkan stiker sederhana ke papan markah jalan untuk membingungkan mobil otonom dan menyebabkan kecelakaan.
Bukankah ini sangat berbahaya?
Sebuah tim peneliti dari University of Washington menunjukkan bagaimana seseorang bisa mencetak stiker di rumah dan memasukkan ke beberapa markah jalan untuk membuat kesalahan pada identifikasi markah jalan dalam mobil otonom tersebut yang mungkin menyebabkan kecelakaan.
Menurut para peneliti, sistem pengenalan citra yang digunakan oleh sebagian besar mobil otonom gagal membaca papan markah jalan jika diubah dengan menempatkan stiker atau poster di bagian atau keseluruhan papan markah jalan itu.
Dalam sebuah makalah penelitian , berjudul ” Robust Physical-World Attacks on Machine Learning Models,” para periset tersebut mendemonstrasikan beberapa cara untuk mengganggu cara mobil otonom membaca dan mengklasifikasikan markah jalan dengan hanya menggunakan printer warna dan kamera.
Dengan hanya menambahkan grafik “Love” dan “Hate” ke tanda “STOP” (seperti yang ditunjukkan pada gambar), para periset mampu mengelabui algoritma pendeteksi gambar mobil otonom dengan berpikir bahwa itu hanya tanda Batas Kecepatan 45 yang masuk dalam 100 Persen kasus uji coba.
Para periset juga melakukan tes yang sama persis pada tanda RIGHT TURN dan menemukan bahwa mobil tersebut salah mengklasifikasikannya sebagai tanda STOP dua per tiga dari waktu.
Para peneliti tidak berhenti sampai disitu. Mereka juga menerapkan stiker yang lebih kecil ke tanda STOP untuk menyamarkan gangguan penglihatan dan mobil otonom tersebut mengidentifikasinya sebagai seni jalanan 100 persen dari waktu.
“Kami [berpikir] bahwa mengingat penampilan serupa dari tanda-tanda peringatan, gangguan kecil yang cukup membingungkan classifier,” kata para peneliti “Di masa depan, kami merencanakan untuk mengeksplorasi hipotesis ini dengan serangan klasifikasi yang ditargetkan terhadap tanda peringatan lainnya.”
Perubahan tanda pada semua percobaan yang dilakukan oleh para periset sangat kecil sehingga tidak diketahui oleh manusia, namun karena perangkat lunak kamera menggunakan algoritma untuk memahami gambar, itu menafsirkan tanda tersebut dengan cara yang sangat berbeda.
Perubahan kecil pada tanda-tanda ini bisa mengakibatkan mobil otonom meluncur ke persimpangan dan berpotensi menabrak satu sama lain.
Penelitian dilakukan oleh para peneliti dari University of Washington, University of Michigan Ann Arbor, University Stony Brook, University of California Berkeley, dan peneliti kredit termasuk Ivan Evtimov, Kevin Eykholt, Earlence Fernandes, Tadayoshi Kohno, Bo Li, Atul Prakash, Amir Rahmati, dan Dawn Song.
Meskipun para periset tidak mengungkapkan produsen mobil otonom yang mereka gunakan dalam eksperimen mereka, ancaman terhadap mobil otonom sekali lagi membuat kita semua memikirkan untuk memiliki satu di masa mendatang.
