Anggota dewan etika Axon mengundurkan diri karena drone yang dilengkapi taser

Axon ingin menempatkan drone di sekolah dan tempat umum untuk mencegah penembakan massal. Mengundurkan diri anggota dewan etika AI melihat langkah itu sebagai persenjataan drone dan mungkin mengarah pada "pengawasan terus-menerus bertenaga AI."

Pembuat Taser Axon mundur rencana untuk membuat drone yang dilengkapi taser setelah sembilan anggota dewan Etika AI mengundurkan diri. Axon, sebuah perusahaan teknologi yang dikenal mengembangkan taser dan produk untuk polisi dan militer, ingin memasarkan produk tersebut sebagai sarana untuk menghentikan penembakan massal. 

Penolakan dari dewan etika AI Ethics cepat dan kuat. 

"Kita semua merasa sangat perlu untuk melakukan sesuatu untuk mengatasi epidemi penembakan massal kita. Tetapi proposal Axon untuk meningkatkan respons teknologi dan kepolisian ketika ada alternatif yang jauh lebih berbahaya, bukanlah solusi," bunyi pernyataan dari anggota dewan yang mengundurkan diri.

Ini telah menjadi satu tahun dalam pembuatan. Axon membawa ide drone bersenjata ke dewan etika dan disambut dengan kekhawatiran tentang bagaimana sistem tersebut dapat disalahgunakan. Ide awalnya adalah untuk menyebarkan drone untuk menargetkan penembak aktif, tetapi akan ada sedikit lembaga penghenti untuk menggunakan drone dalam kapasitas lain. Dewan etika mengakui hal ini dan menarik batas. 

"Kami berharap itu tidak terjadi seperti ini. Masing-masing dari kami bergabung dengan Dewan ini dengan keyakinan bahwa kami dapat memengaruhi arah perusahaan dengan cara yang akan membantu mengurangi bahaya yang dapat ditaburkan oleh teknologi kepolisian dan menangkap manfaat apa pun dengan lebih baik. Untuk sementara waktu, kami melihat pengaruh itu dimainkan dalam beberapa keputusan Axon. Dari tidak melengkapi produk apa pun dengan kemampuan pengenalan wajah, hingga menarik alat perangkat lunak baru untuk mengumpulkan data dari situs web media sosial, hingga mempromosikan undang-undang yang sangat dibutuhkan untuk mengendalikan penggunaan pembaca plat nomor, kami mengamati bukti nyata tentang perbedaan yang kami buat. Desakan kami kepada Axon bahwa komunitas, dan bukan polisi, harus menjadi pelanggan utama perusahaan membuat Axon mendirikan Koalisi Penasihat Komunitas, sebuah kelompok yang menyatukan para pemimpin masyarakat untuk berbagi perspektif tentang produk dan layanan Axon."

Tetapi anggota yang mengundurkan diri putus asa baru-baru ini oleh keputusan untuk melanjutkan pengembangan sistem drone.

"Hanya beberapa minggu yang lalu, mayoritas Dewan ini — dengan suara 8-4 — merekomendasikan agar Axon tidak melanjutkan studi percontohan sempit yang bertujuan untuk memeriksa konsep perusahaan tentang drone yang dilengkapi Taser. Dalam konsepsi terbatas itu, drone yang dilengkapi Taser hanya akan digunakan dalam situasi di mana ia mungkin menghindari petugas polisi menggunakan senjata api, sehingga berpotensi menyelamatkan nyawa. Kami memahami perusahaan mungkin melanjutkan meskipun kami merekomendasikan untuk tidak melakukannya, jadi kami tegas tentang jenis kontrol yang diperlukan untuk melakukan uji coba yang bertanggung jawab jika perusahaan melanjutkan. Kami baru saja mulai membuat laporan publik tentang proposal Axon dan pertimbangan kami."

Hal-hal tidak berjalan sesuai rencana.

"Tak satu pun dari kami mengharapkan pengumuman dari Axon Kamis lalu, 2 Juni mengenai kasus penggunaan yang sangat berbeda. Pengumuman itu—bahwa tujuan perusahaan adalah untuk mengukuhkan drone yang telah diposisikan sebelumnya dan dilengkapi Taser yang tak terhitung jumlahnya di berbagai sekolah dan tempat umum, untuk diaktifkan sebagai tanggapan terhadap pengawasan terus-menerus bertenaga AI—membuat kami menyimpulkan bahwa setelah beberapa tahun bekerja, perusahaan pada dasarnya gagal merangkul nilai-nilai yang telah kami coba tanamkan."

Drone bersenjata dan pengawasan drone sangat kontroversial. Kekhawatiran atas penggunaan kekuatan yang berlebihan oleh petugas polisi telah membuat ACLU dan lainnya mengambil sikap tegas terhadap drone bersenjata, sementara pendukung privasi khawatir implikasi dari pengawasan drone yang meluas oleh lembaga pemerintah. 

Axon telah menarik kembali skema untuk saat ini, tetapi kemungkinan kita akan melihat lebih banyak perusahaan di ruang ini di masa depan, menyiapkan pertarungan serupa.