Dia menjelaskan, di lapisan awal sistem AI yang dikenali adalah garis tepi, kontras, dan gradasi tekstur. Sementara di jaringan yang lebih dalam, AI mengenali pola tubuh seperti siluet kepala dan bahu, proporsi anggota tubuh terhadap badan, serta kesinambungan bentuk tubuh dengan latar belakang.
“Bagi mesin, manusia merupakan kumpulan statistik visual, dan justru itulah kelemahannya,” ujarnya. Karena itu, baju tersebut menggunakan kombinasi warna cerah dan pola yang saling bertumpuk untuk mengganggu cara sistem AI mengenali bentuk tubuh manusia.
Weckert menyebut, warna dan pola tersebut dirancang secara bersamaan untuk mengganggu persepsi mesin. Perubahan warna yang kuat memengaruhi lapisan awal sistem AI.
Sementara bentuk yang saling tumpang tindih memutus kesinambungan garis tubuh, sehingga sistem kesulitan mengenali satu sosok manusia. “Baik [warna dan pola], dan tidak sendirian. Ini adalah interaksi mereka, dioptimalkan terhadap mesin daripada mata manusia,” sebut Weckert.
Dia mengatakan, perubahan warna yang sangat kuat memicu respons pada lapisan awal jaringan. Sedangkan bentuk-bentuk yang saling tumpang tindih memutus kesinambungan garis tubuh.
“Akibatnya, sistem deteksi tidak lagi dapat menggabungkan bagian-bagian tersebut menjadi satu sosok,” ujarnya.
Dikembangkan dengan Metode Adversarial
Pola pada Digital Camouflage juga dikembangkan menggunakan AI melalui proses yang disebut Weckert sebagai adversarial loop.
Dalam proses tersebut, desain dibuat, diuji terhadap sistem deteksi, kemudian disesuaikan berulang kali berdasarkan tingkat keyakinan AI dalam mengenali manusia.
“Pola itu dikembangkan melalui proses adversarial loop bersama sistem deteksi itu sendiri. Membuat desain, menunjukkannya ke sistem deteksi, mengukur seberapa yakin sistem masih dapat menemukan sosok manusia. Kemudian, menyesuaikannya dan mengulang proses tersebut hingga tingkat keyakinan sistem runtuh,” lanjut Weckert.
Weckert menyebut pendekatan itu diperlukan karena kelemahan sistem AI tidak selalu dapat dikenali manusia secara langsung.
“Anda tidak bisa merancang sesuatu untuk mengelabui persepsi mesin hanya dengan melihatnya mesin itu sendiri yang dapat menunjukkan apa yang gagal dilihatnya,” ujarnya.
Menurut Weckert, terdapat ironi dalam proses tersebut. Lantaran teknologi AI yang digunakan mengawasi ruang publik justru dimanfaatkan untuk membantu menemukan pola yang dapat mengelabui sistem pengawasan.
“Ada sebuah simetri yang puitis di sini: kelas AI yang sama yang digunakan untuk mengawasi ruang tersebut justru mengajarkan baju ini bagaimana cara bersembunyi,” kata Weckert.
Baju Digital Camouflage diuji menggunakan Yolo, sistem deteksi objek berbasis AI yang open source dan dapat bekerja secara real-time.
Weckert bukan satu-satunya desainer yang mengembangkan pakaian untuk menghadapi teknologi pengawasan berbasis AI. Sebelumnya, terdapat pakaian rajut yang dirancang untuk melindungi data biometrik pemakainya tanpa harus menutupi wajah.
(mef/wep)
