Detektor kebohongan selalu dicurigai. AI telah memperburuk masalah.

Ilustrasi konseptual yang menunjukkan seseorang yang wajahnya tertutup awan dengan tentara kecil yang meluncur di atasnya.

Nicholas Ortega



Sebelum poligraf menyatakan dia bersalah, Emmanuel Mervilus bekerja untuk sebuah perusahaan minyak goreng di pelabuhan Newark, New Jersey. Dia menghasilkan $ 12 per jam untuk memindahkan kotak, tetapi itu tidak cukup. Saudara laki-laki dan perempuannya terlalu muda untuk bekerja, dan ibunya berjuang keras melawan kanker. Bosnya di pelabuhan, bagaimanapun, telah memberitahunya bahwa dia berada di urutan berikutnya untuk promosi ke posisi teknisi, yang akan datang dengan kenaikan gaji menjadi per jam.

Mervilus masih menunggu promosi ini pada 19 Oktober 2006, ketika dia dan seorang temannya mampir di Dunkin' Donuts di dekat Elizabeth, New Jersey. Beberapa menit kemudian, saat mereka berjalan di jalan, dua petugas polisi mendekati mereka dan menuduh mereka telah merampok seorang pria dengan todongan pisau beberapa menit sebelumnya, di luar stasiun kereta api terdekat.





Korban telah mengidentifikasi Mervilus dan temannya dari kejauhan. Putus asa untuk membuktikan bahwa dia tidak bersalah, Mervilus menawarkan untuk mengikuti tes poligraf. Polisi setuju, tapi beberapa hari sebelum tes, ibu Mervilus meninggal. Dia putus asa dan cemas ketika polisi mengikatnya ke perangkat. Dia gagal tes, diminta untuk mengambilnya lagi, dan ditolak.

Setelah Mervilus mempertahankan pembelaannya tidak bersalah, kasusnya diadili. Letnan yang memberikan poligraf bersaksi di pengadilan bahwa alat itu adalah indikator kebenaran yang dapat diandalkan. Dia tidak pernah dalam karirnya, katanya, melihat kasus di mana seseorang menunjukkan tanda-tanda penipuan, dan [kemudian] terungkap bahwa mereka jujur. Juri menghukum Mervilus—digoyahkan, pengadilan banding kemudian ditemukan, karena keyakinan yang salah pada poligraf. Hakim memvonisnya 11 tahun penjara.


Keyakinan bahwa penipuan dapat dideteksi dengan menganalisis tubuh manusia telah mengakar dalam kehidupan modern. Meskipun banyak penelitian mempertanyakan validitas poligraf, lebih dari 2,5 juta pemutaran dilakukan dengan perangkat setiap tahun, dan tes poligraf adalah industri senilai miliar. Instansi pemerintah federal AS termasuk Departemen Kehakiman, Departemen Pertahanan, dan CIA semuanya menggunakan perangkat tersebut saat menyaring calon karyawan. Menurut angka tahun 2007 dari Departemen Kehakiman, lebih dari tiga perempat dari semua departemen kepolisian kota dan sheriff juga menggunakan pendeteksi kebohongan untuk menyaring karyawan.



Tetapi mesin poligraf masih terlalu lambat dan tidak praktis untuk digunakan di penyeberangan perbatasan, di bandara, atau pada kelompok besar orang. Akibatnya, generasi baru pendeteksi kebohongan berdasarkan kecerdasan buatan telah muncul dalam dekade terakhir. Pendukung mereka mengklaim mereka lebih cepat dan lebih akurat daripada poligraf.

Pada kenyataannya, pekerjaan psikologis yang mendasari sistem AI baru ini bahkan lebih tipis daripada penelitian yang mendasari poligraf. Ada sedikit bukti bahwa hasil yang mereka hasilkan dapat dipercaya. Meskipun demikian, lapisan modernitas yang diberikan AI kepada mereka membawa sistem ini ke pengaturan yang belum dapat ditembus oleh poligraf: penyeberangan perbatasan, wawancara kerja pribadi, penyaringan pinjaman, dan klaim penipuan asuransi. Perusahaan dan pemerintah mulai mengandalkan mereka untuk membuat keputusan tentang kepercayaan pelanggan, karyawan, warga negara, imigran, dan pengunjung internasional. Tetapi bagaimana jika kebohongan terlalu rumit untuk diidentifikasi oleh mesin mana pun, tidak peduli seberapa canggih algoritmenya?


Inkuisitor di Tiongkok kuno meminta tersangka pembohong untuk memasukkan nasi ke dalam mulut mereka untuk melihat apakah mereka mengeluarkan air liur. Itu Eksploitasi Romawi , sebuah antologi fabel moral abad pertengahan, menceritakan kisah seorang prajurit yang meminta pegawainya mengukur denyut nadi istrinya untuk mengetahui apakah istrinya tidak setia.

foto sampul buku Kekaisaran Romawi

Terjemahan bahasa Inggris dari Eksploitasi Romawi , atau Deeds of the Romans, kumpulan cerita yang aslinya diterbitkan dalam bahasa Latin pada akhir abad ke-13 atau awal abad ke-14. Wikimedia Commons



oh kamu bersama pria itu sekarang

Ketika Amerika Serikat memasuki Perang Dunia I, William Marston, seorang peneliti di Harvard, memelopori penggunaan mesin yang mengukur tekanan darah untuk mencoba memastikan penipuan. Beberapa tahun kemudian, terinspirasi oleh karya Marston, John Augustus Larson, seorang perwira polisi yang baru saja menyelesaikan PhD dalam fisiologi di University of California, Berkeley, mengembangkan mesin yang disebutnya psikogram cardio-pneumo, yang menyediakan pembacaan terus menerus dari tekanan darah, nadi, dan frekuensi pernapasan subjek. Angka-angka ini, Larson mengklaim, merupakan proksi yang lebih baik untuk penipuan daripada tekanan darah saja.

Larson pertama kali menggunakan mesin itu untuk menyelidiki pencurian di asrama wanita di Berkeley, dan dalam setahun, mesin itu telah digunakan untuk menghukum seorang pria di San Francisco yang dituduh membunuh seorang pendeta. Pada 1930-an, salah satu anak didik Larson menjual versi portabel ke departemen kepolisian di seluruh negeri, menambahkan sensor yang mengukur perubahan dalam respons kulit galvanik—semakin banyak subjek berkeringat, semakin konduktif kulitnya. Pada 1970-an, jutaan pekerja sektor swasta mengikuti tes poligraf reguler atas perintah majikan mereka.

Sebagian besar tes poligraf saat ini memiliki struktur dasar yang sama dengan Larson: pemeriksa mengajukan serangkaian pertanyaan untuk mengukur keadaan fisiologis normal subjek, mengamati saat mesin mentranskripsikan pengukuran ini sebagai garis bentuk gelombang pada halaman atau layar. Pemeriksa kemudian mencari lonjakan atau penurunan tiba-tiba di level ini saat subjek menjawab pertanyaan tentang dugaan kejahatan atau perasaan.

Tapi psikolog dan ahli saraf telah mengkritik poligraf hampir sejak Larson meluncurkan penemuannya ke publik. Sementara beberapa pembohong mungkin mengalami perubahan detak jantung atau tekanan darah, hanya ada sedikit bukti bahwa perubahan tersebut secara konsisten berkorelasi dengan penipuan. Banyak orang yang tidak bersalah menjadi gugup saat ditanyai, dan pembohong yang terlatih dapat menekan atau menginduksi perubahan dalam tubuh mereka untuk mengelabui tes. Poligraf juga bisa dipukuli oleh menggigit lidah , menginjak paku, atau memikirkan ketakutan terburuk seseorang . Perangkat selalu berisiko mengambil variabel pengganggu bahkan dalam eksperimen laboratorium terkontrol, dan dalam kehidupan nyata mereka masih kurang dapat diandalkan: karena penjahat yang mengalahkan tes hampir tidak pernah memberi tahu polisi bahwa mereka bersalah, dan karena tersangka yang tidak bersalah sering memberikan pengakuan palsu setelah gagal. tes, tidak ada cara untuk mengetahui seberapa baik mereka benar-benar bekerja.

Bahasa Indonesia: Penemu Amerika Leonarde Keeler (1903-1949) menguji pendeteksi kebohongannya pada Dr. Kohler, mantan saksi untuk penuntutan di persidangan Bruno Hauptmann.

Leonarde Keeler, anak didik penemu poligraf John Larson, memberikan tes kepada Bruno Hauptmann, yang ditangkap, dihukum, dan dieksekusi karena penculikan Charles Augustus Lindbergh Jr. Hauptmann mempertahankan ketidakbersalahannya sampai kematiannya. Area publik

Karena keterbatasan ini, tes poligraf telah lama tidak dapat diterima di sebagian besar pengadilan Amerika kecuali kedua belah pihak menyetujui penyertaannya. Undang-undang federal telah melarang pemberi kerja swasta untuk melakukan poligraf pada karyawan mereka sejak 1988 (dengan pengecualian bagi mereka yang memiliki pekerjaan sensitif, seperti penjaga bersenjata atau distributor farmasi, dan untuk beberapa karyawan yang dicurigai mencuri atau melakukan penipuan). The American Psychological Association memperingatkan, Kebanyakan psikolog setuju bahwa ada sedikit bukti bahwa tes poligraf dapat secara akurat mendeteksi kebohongan, dan laporan tahun 2003 dari National Academy of Sciences, menggemakan penelitian pemerintah sebelumnya, yang terkenal menemukan bahwa perangkat mendeteksi pembohong pada tingkat yang jauh di atas peluang. , meskipun jauh di bawah kesempurnaan; penulis utama laporan tersebut mengatakan pada saat itu bahwa keamanan nasional terlalu penting untuk dibiarkan begitu saja.

Tapi mungkin instrumennya tidak perlu terlalu tumpul. Itulah janji yang dibuat oleh semakin banyak perusahaan yang ingin menjual teknologi pendeteksi kebohongan baik kepada pemerintah maupun industri komersial. Mungkin, kata mereka, pola perilaku tertentu yang kompleks bisa menandakan kebohongan lebih dari sekadar peningkatan denyut nadi atau tekanan darah. Dan mungkin algoritma yang canggih dapat menemukan pola-pola itu.


Dari tahun 1969 hingga 1981, seorang pembunuh berantai yang dijuluki Yorkshire Ripper memangsa wanita muda di utara Inggris, menewaskan sedikitnya 13 orang dan berusaha membunuh sedikitnya tujuh orang lainnya. Polisi mewawancarai dan membebaskannya sembilan kali saat pembunuhan terus berlanjut. Korban terakhirnya adalah Jacqueline Hill, seorang mahasiswa berusia 20 tahun di Universitas Leeds, yang terbunuh pada November 1980. Beberapa bulan kemudian polisi akhirnya menangkapnya saat dia bersiap untuk membunuh seorang pelacur di dekat Sheffield.

Ketika Janet Rothwell tiba di Universitas Leeds pada musim gugur 1980, dia tinggal di asrama yang bersebelahan dengan Hill's. Dia mendapati dirinya dihantui oleh pembunuhan Hill.

Dia naik bus dari perpustakaan universitas pada waktu yang hampir bersamaan denganku, kata Rothwell, dan dia dibunuh setelah turun dari bus. Rothwell kemudian mengetahui berapa lama waktu yang dibutuhkan untuk menangkap si pembunuh. Saya bertanya-tanya, kenangnya, dapatkah komputer menandai semacam ketidaksesuaian dalam perilaku untuk memperingatkan polisi?

Rothwell akhirnya melanjutkan ke sekolah pascasarjana di Manchester Metropolitan University (MMU) pada akhir 1990-an. Dia bertemu Zuhair Bandar, seorang dosen Irak-Inggris yang bekerja di departemen ilmu komputer. Bandar baru-baru ini mengalami momen eureka ketika sebuah perusahaan pemasaran memintanya untuk membuat perangkat dasar untuk mengukur minat konsumen pada produk yang mereka lihat di layar.

wanita mengambil poligraf

Foto FBI tentang seorang wanita yang mengambil poligraf. Biro Investigasi Federal

Mereka akan memberi pelanggan perangkat genggam, kata Bandar, dan jika mereka setuju, mereka menekan 1; jika mereka tidak suka mereka menekan 2. Saya pikir, mengapa kita membutuhkan perangkat genggam jika sudah ada ekspresi di wajah mereka? Bandar meminta Rothwell untuk tinggal di MMU setelah masternya untuk mengejar gelar PhD dan membantunya merancang perangkat lunak yang dapat menganalisis wajah untuk mengekstrak informasi. Kebohongan, menurut mereka, tidak kurang dari kegembiraan atau kemarahan. Semuanya akan menciptakan beberapa bentuk ketidaksesuaian—pola perilaku, baik verbal maupun nonverbal, yang mungkin dikenali oleh komputer.

Rothwell melatih jaringan saraf di awal tahun 2000-an untuk melacak gerakan wajah seperti berkedip dan merona, dan kemudian memberi komputer beberapa lusin klip orang yang menjawab pertanyaan yang sama secara jujur ​​dan tidak jujur. Untuk menentukan kesamaan apa yang dimiliki para pembohong, komputer memeriksa gerakan wajah seseorang, hubungan antara gerakan itu, dan hubungan antara hubungan itu, menghasilkan teori yang terlalu rumit untuk diartikulasikan dalam bahasa normal. Setelah dilatih dengan cara ini, sistem dapat menggunakan pengetahuannya untuk mengklasifikasikan subjek baru sebagai penipu atau benar dengan menganalisis perubahan bingkai demi bingkai dalam ekspresi mereka.

Dalam studi tahun 2006, sistem yang disebut Silent Talker, dibuat untuk menebak apakah subjek berbohong atau mengatakan yang sebenarnya. Itu tidak pernah mencapai akurasi lebih dari 80% saat Rothwell sedang mengerjakannya — juga tidak melakukan jauh lebih baik dalam apa pun yang telah diterbitkan kelompok penelitian sejak itu. Rothwell juga mengatakan kepada saya bahwa itu rusak sama sekali jika seorang peserta mengenakan kacamata, dan dia menunjukkan, Anda harus ingat bahwa kondisi pencahayaannya sama dan wawancara didasarkan pada pencurian bertahap. Tetapi bahkan pada tahap awal, Rothwell mengingat, Bandar sangat ingin memiliki produk komersial; dia dan seorang rekannya pernah menghadiahi dia dengan video seorang wanita yang dicurigai berselingkuh dari suaminya dan memintanya agar Silent Talker menganalisisnya, seperti di Eksploitasi Romawi .

Rothwell memiliki keberatan. Saya dapat melihat bahwa perangkat lunak, jika berfungsi, berpotensi mengganggu, katanya. Saya tidak berpikir bahwa sistem apa pun bisa 100%, dan jika [sistem] salah, risiko hubungan dan kehidupan bisa menjadi bencana besar. Dia meninggalkan universitas pada tahun 2006; setelah pelatihan sebagai audiolog, dia menemukan pekerjaan bekerja di sebuah rumah sakit di Isle of Jersey, di mana dia masih tinggal.

MMU mengeluarkan siaran pers pada tahun 2003 yang menggembar-gemborkan teknologi sebagai penemuan baru yang akan membuat poligraf menjadi usang. Saya sedikit terkejut, kata Rothwell, karena saya merasa ini terlalu dini.

Pemerintah AS melakukan banyak terobosan ke dalam teknologi pendeteksi penipuan pada tahun-tahun pertama setelah 9/11, dengan Departemen Keamanan Dalam Negeri (DHS), Departemen Pertahanan (DoD), dan National Science Foundation semuanya menghabiskan jutaan dolar untuk penelitian semacam itu. . Badan-badan ini mendanai pembuatan kios yang disebut AVATAR di Universitas Arizona. AVATAR, yang menganalisis ekspresi wajah, bahasa tubuh, dan suara orang untuk menetapkan 'skor kredibilitas' subjek, diuji di bandara AS. Di Israel, sementara itu, DHS membantu mendanai startup bernama WeCU ('kami melihat Anda), yang menjual kios penyaringan yang akan memicu respons fisiologis di antara mereka yang menyembunyikan sesuatu, menurut sebuah Artikel 2010 di Fast Company . (Perusahaan telah ditutup.)

Bandar mulai mencoba mengkomersialkan teknologi tersebut. Bersama dengan dua muridnya, Jim O'Shea dan Keeley Crockett, dia memasukkan Silent Talker sebagai sebuah perusahaan dan mulai mencari klien, termasuk departemen kepolisian dan perusahaan swasta, untuk teknologi pembuatan profil psikologisnya. Silent Talker adalah salah satu pendeteksi kebohongan AI pertama yang memasuki pasar. Menurut perusahaan, tahun lalu teknologi yang berasal dari Silent Talker digunakan sebagai bagian dari iBorderCtrl, inisiatif penelitian yang didanai Uni Eropa yang menguji sistem pada sukarelawan di perbatasan di Yunani, Hongaria, dan Latvia. Bandar mengatakan perusahaannya sekarang sedang dalam pembicaraan untuk menjual teknologi itu ke firma hukum, bank, dan perusahaan asuransi, membawa tes ke wawancara tempat kerja dan penyaringan penipuan.

Bandar dan O'Shea menghabiskan waktu bertahun-tahun untuk mengadaptasi algoritma inti untuk digunakan dalam berbagai pengaturan. Mereka mencoba memasarkannya ke departemen kepolisian di wilayah metropolitan Manchester dan Liverpool. Kami berbicara dengan orang yang sangat senior secara informal, kata perusahaan itu kepada publikasi Inggris Insinyur pada tahun 2003, mencatat bahwa tujuan mereka adalah untuk menguji ini dalam wawancara nyata. Sebuah kertas putih 2013 O'Shea dipublikasikan di situs webnya menyarankan bahwa Silent Talker dapat digunakan untuk melindungi pasukan kita dalam penempatan di luar negeri dari serangan Green-on-Blue ('Orang Dalam'). (Istilah hijau-biru biasanya digunakan untuk merujuk pada serangan yang dilakukan tentara Afghanistan berseragam terhadap sekutu mereka sebelumnya.)

Tim juga menerbitkan hasil eksperimen yang menunjukkan bagaimana Silent Talker dapat digunakan untuk mendeteksi pemahaman dan juga deteksi. Dalam sebuah penelitian tahun 2012, yang pertama menunjukkan sistem Silent Talker yang digunakan di lapangan, tim bekerja dengan LSM perawatan kesehatan di Tanzania untuk merekam ekspresi wajah 80 wanita saat mereka mengikuti kursus online tentang pengobatan HIV dan penggunaan kondom. Idenya adalah untuk menentukan apakah pasien memahami pengobatan yang akan mereka dapatkan—sebagai pengantar catatan studi, penilaian pemahaman peserta selama proses persetujuan masih tetap menjadi area kritis yang menjadi perhatian. Ketika tim melakukan referensi silang tebakan AI tentang apakah para wanita memahami kuliah dengan skor mereka pada ujian pasca kuliah singkat, mereka menemukan bahwa 80% akurat dalam memprediksi siapa yang akan lulus dan siapa yang akan gagal.

Algoritme yang dilatih di Manchester akan, menurut siaran pers, memberikan penyeberangan perbatasan darat yang lebih efisien dan aman serta berkontribusi pada pencegahan kejahatan dan terorisme.

Eksperimen Tanzania adalah yang menyebabkan dimasukkannya Silent Talker di iBorderCtrl. Pada tahun 2015, Athos Antoniades, salah satu penyelenggara konsorsium yang baru lahir, mengirim email ke O'Shea, menanyakan apakah tim Pembicara Diam ingin bergabung dengan sekelompok perusahaan dan pasukan polisi yang menawar untuk hibah UE. Pada tahun-tahun sebelumnya, pertumbuhan lalu lintas kendaraan ke UE telah membuat agen kewalahan di negara-negara perbatasan serikat, dan sebagai akibatnya UE menawarkan €4,5 juta ( juta) kepada lembaga mana pun yang dapat memberikan penyeberangan perbatasan darat yang lebih efisien dan aman ... dan dengan demikian berkontribusi pada pencegahan kejahatan dan terorisme. Antoniades berpikir Silent Talker bisa memainkan peran penting.

Ketika proyek tersebut akhirnya mengumumkan uji coba publik pada Oktober 2018, Komisi Eropa dengan cepat menggembar-gemborkan kisah sukses pendekatan unik sistem terhadap deteksi penipuan. dalam siaran pers , menjelaskan bahwa teknologi menganalisis gerakan mikro wisatawan untuk mengetahui apakah orang yang diwawancarai berbohong. Algoritme yang dilatih di Manchester akan, lanjut siaran pers, memberikan penyeberangan perbatasan darat yang lebih efisien dan aman serta berkontribusi pada pencegahan kejahatan dan terorisme.

Algoritme yang mendasari program, O'Shea memberi tahu saya, dapat digunakan dalam berbagai pengaturan lain — periklanan, analisis klaim asuransi, penyaringan pelamar kerja, dan penilaian karyawan. Keyakinannya yang luar biasa pada kebijaksanaannya sulit untuk saya bagikan, tetapi bahkan ketika dia dan saya berbicara melalui telepon, Silent Talker sudah menyaring sukarelawan di penyeberangan perbatasan UE; perusahaan baru saja diluncurkan sebagai bisnis pada Januari 2019. Jadi saya memutuskan untuk pergi ke Manchester untuk melihat sendiri.


Kantor Silent Talker berjarak sekitar satu mil dari Manchester Metropolitan University, tempat O'Shea sekarang menjadi dosen senior. Dia telah mengambil alih perkembangan teknologi sehari-hari dari Bandar. Perusahaan ini berbasis di sebuah taman kantor bata di lingkungan perumahan, di ujung jalan dari restoran kebab dan di seberang lapangan sepak bola. Di dalam, kantor Silent Talker adalah satu ruangan dengan beberapa komputer, meja dengan tas kerja, dan poster penjelasan tentang teknologi dari awal 2000-an.

Ketika saya mengunjungi kantor perusahaan pada bulan September, saya duduk bersama O'Shea dan Bandar di ruang konferensi di ujung lorong. O'Shea tegas tetapi sedikit kusut, botak kecuali beberapa jumbai rambut dan janggut Van Dyke. Dia memulai percakapan dengan bersikeras bahwa kita tidak berbicara tentang proyek iBorderCtrl, kemudian menyebut para kritikusnya salah informasi. Dia berbicara tentang kekuatan kerangka kerja AI sistem dalam garis singgung yang panjang dan menyimpang, kadang-kadang mengutip pelopor komputasi Alan Turing atau filsuf bahasa John Searle.

Mesin dan manusia sama-sama memiliki intensionalitas—keyakinan, keinginan, dan niat tentang objek dan keadaan di dunia, katanya, membela ketergantungan sistem pada algoritme. Oleh karena itu, aplikasi yang rumit mengharuskan Anda untuk saling memberi bobot pada ide dan niat keduanya.

O'Shea mendemonstrasikan sistem dengan memintanya menganalisis video seorang pria yang menjawab pertanyaan tentang apakah dia mencuri dari sebuah kotak. Program tersebut menempatkan sebuah kotak kuning di sekitar wajah pria itu dan dua kotak yang lebih kecil di sekitar matanya. Saat dia berbicara, jarum di sudut layar berubah dari hijau menjadi merah ketika dia memberikan jawaban yang salah, dan kembali ke oranye sedang ketika dia tidak berbicara. Ketika wawancara selesai, perangkat lunak menghasilkan grafik yang memplot kemungkinan penipuan terhadap waktu. Secara teori, ini terlihat ketika dia mulai dan berhenti berbohong.

Saat dia berbicara, jarum di sudut layar berubah dari hijau menjadi merah ketika dia memberikan jawaban yang salah, dan kembali ke oranye sedang ketika dia tidak berbicara.

Sistem ini dapat berjalan di laptop tradisional, kata O'Shea, dan pengguna membayar sekitar per menit untuk video yang dianalisis. O'Shea memberi tahu saya bahwa perangkat lunak melakukan beberapa pemrosesan lokal awal video, mengirim data terenkripsi ke server di mana itu dianalisis lebih lanjut, dan kemudian mengirimkan hasilnya kembali: pengguna melihat grafik kemungkinan penipuan yang dihamparkan di bagian bawah dari video.

Menurut O'Shea, sistem memantau sekitar 40 saluran fisik di tubuh peserta—mulai dari kecepatan kedipan hingga sudut kepala. Ini membawa ke setiap wajah baru teori tentang penipuan yang telah dikembangkan dengan melihat kumpulan data pelatihan pembohong dan pencerita kebenaran. Mengukur gerakan wajah subjek dan perubahan postur berkali-kali per detik, sistem mencari pola gerakan yang cocok dengan yang dibagikan oleh pembohong dalam data pelatihan. Pola-pola ini tidak sesederhana mata yang melihat ke langit-langit atau kepala yang miring ke kiri. Mereka lebih seperti pola pola, hubungan multifaset antara gerakan yang berbeda, terlalu rumit untuk dilacak manusia — ciri khas sistem pembelajaran mesin.

Tugas AI adalah menentukan jenis pola gerakan apa yang dapat dikaitkan dengan penipuan. Psikolog sering mengatakan Anda harus memiliki semacam model untuk bagaimana suatu sistem bekerja, kata O'Shea kepada saya, tetapi kami tidak memiliki model yang berfungsi, dan kami tidak membutuhkannya. Kami membiarkan AI mencari tahu. Namun, dia juga mengatakan pembenaran untuk saluran di wajah berasal dari literatur akademis tentang psikologi penipuan. Di sebuah Makalah 2018 tentang Pembicara Diam , pembuatnya mengatakan perangkat lunak mereka mengasumsikan bahwa kondisi mental tertentu yang terkait dengan perilaku menipu akan mendorong [perilaku non-verbal] orang yang diwawancarai saat menipu. Di antara perilaku-perilaku ini adalah beban kognitif, atau energi mental ekstra yang dibutuhkan untuk berbohong, dan kesenangan yang menipu, atau kesenangan yang didapat seseorang dari kebohongan yang berhasil.

foto Paul Ekman

Paul Ekman, seorang psikolog yang teori 'ekspresi mikronya' banyak diperdebatkan, telah berkonsultasi dengan banyak lembaga pemerintah AS. Wikimedia / Momopuppycat

Tetapi Ewout Meijer, seorang profesor psikologi di Universitas Maastricht di Belanda, mengatakan bahwa alasan untuk percaya bahwa perilaku seperti itu bersifat universal tidak stabil. Gagasan bahwa seseorang dapat menemukan tanda kebocoran perilaku di wajah berakar pada karya Paul Ekman, seorang psikolog Amerika yang pada 1980-an mendukung teori ekspresi mikro yang sekarang terkenal, atau gerakan wajah yang tidak disengaja yang terlalu kecil untuk dikendalikan. Penelitian Ekman membuatnya menjadi penulis terlaris dan menginspirasi drama kriminal TV berbohong padaku . Dia berkonsultasi untuk berbagai lembaga pemerintah AS, termasuk DHS dan DARPA. Mengutip keamanan nasional, ia telah merahasiakan data penelitian. Hal ini telah menyebabkan perdebatan kontroversial tentang apakah ekspresi mikro bahkan membawa makna.

AI Silent Talker melacak semua jenis gerakan wajah, bukan ekspresi mikro khusus Ekman. Kami menguraikan isyarat tingkat tinggi ini ke dalam rangkaian gerakan mikro kami sendiri dan melatih komponen AI untuk menggabungkannya kembali menjadi pola indikatif yang bermakna, tulis juru bicara perusahaan dalam email. O'Shea mengatakan ini memungkinkan sistem untuk melihat perilaku menipu bahkan ketika subjek hanya melihat-lihat atau bergeser di kursi.

Banyak tergantung pada apakah Anda memiliki pertanyaan teknologi atau pertanyaan psikologis, kata Meijer, memperingatkan bahwa O'Shea dan timnya mungkin mencari teknologi untuk jawaban atas pertanyaan psikologis tentang sifat penipuan. Sistem AI mungkin mengungguli orang dalam mendeteksi [ekspresi wajah], tetapi bahkan jika itu masalahnya, itu masih tidak memberi tahu Anda apakah Anda dapat menyimpulkan dari mereka jika seseorang menipu ... penipuan adalah konstruksi psikologis. Tidak hanya tidak ada konsensus tentang yang ekspresi berkorelasi dengan penipuan, Meijer menambahkan; bahkan tidak ada konsensus tentang Apakah mereka lakukan. Dalam sebuah email, perusahaan mengatakan bahwa kritik semacam itu tidak relevan dengan Silent Talker dan bahwa statistik yang digunakan tidak sesuai.

berbohong padaku poster tv

Drama televisi berbohong padaku sebagian didasarkan pada teori ekspresi mikro Ekman. studio rubah

Lebih lanjut, Meijer menunjukkan bahwa algoritme akan tetap tidak berguna di penyeberangan perbatasan atau dalam wawancara kerja kecuali jika telah dilatih pada kumpulan data yang beragam seperti yang akan dievaluasi dalam kehidupan nyata. Penelitian menunjukkan bahwa algoritme pengenalan wajah lebih buruk dalam mengenali minoritas ketika mereka telah dilatih pada set wajah yang didominasi kulit putih, sesuatu yang diakui O'Shea sendiri. Seorang juru bicara Silent Talker menulis dalam email, Kami melakukan beberapa eksperimen dengan ukuran sampel yang lebih kecil dan bervariasi. Ini menambahkan hingga ratusan. Beberapa di antaranya bersifat akademis dan telah dipublikasikan [sic], beberapa bersifat komersial dan bersifat rahasia.

Namun, semua penelitian yang diterbitkan yang mendukung akurasi Silent Talker berasal dari kumpulan data kecil dan parsial: dalam makalah 2018, misalnya, populasi pelatihan 32 orang berisi dua kali lebih banyak pria daripada wanita dan hanya 10 peserta keturunan Asia/Arab, dengan tidak ada mata pelajaran hitam atau Hispanik. Sementara perangkat lunak saat ini memiliki pengaturan yang berbeda untuk menganalisis pria dan wanita, O'Shea mengatakan dia tidak yakin apakah itu memerlukan pengaturan untuk latar belakang etnis atau usia.


Setelah uji coba iBorderCtrl diumumkan pada tahun 2018, para aktivis dan politisi mengecam program tersebut sebagai perluasan Orwellian dari negara pengawasan yang belum pernah terjadi sebelumnya. Sophie in 't Veld, seorang anggota Parlemen Eropa Belanda dan pemimpin partai kiri-tengah Demokrat 66, mengatakan dalam sebuah surat kepada Komisi Eropa bahwa sistem Pembicara Diam dapat melanggar hak-hak dasar banyak pelancong yang melintasi perbatasan dan bahwa organisasi seperti Privacy International mengutuknya sebagai bagian dari tren yang lebih luas terhadap penggunaan sistem otomatis yang buram, dan seringkali tidak memadai untuk menilai, menilai, dan mengklasifikasikan orang. Pihak oposisi tampaknya mengejutkan konsorsium iBorderCtrl: meskipun awalnya Komisi Eropa mengklaim bahwa iBorderCtrl akan mengembangkan sistem untuk mempercepat penyeberangan perbatasan, juru bicara sekarang mengatakan program itu murni proyek penelitian teoretis. Antoniades mengatakan kepada sebuah surat kabar Belanda pada akhir 2018 bahwa sistem pendeteksi penipuan pada akhirnya mungkin tidak berhasil masuk ke dalam desain, tetapi, hingga tulisan ini dibuat, Silent Talker masih menggembar-gemborkan partisipasinya dalam iBorderCtrl di situsnya .

Namun sering kali kritikus seperti Wilde menyanggahnya, impian pendeteksi kebohongan yang sempurna tidak akan mati, terutama ketika dipoles dengan kemilau AI.

Silent Talker adalah versi baru dari penipuan lama, menurut Vera Wilde, seorang akademisi dan aktivis privasi Amerika yang tinggal di Berlin, dan yang membantu memulai kampanye melawan iBorderCtrl. Dalam beberapa hal, ini adalah penipuan yang sama, tetapi dengan ilmu yang lebih buruk. Dalam tes poligraf, pemeriksa mencari peristiwa fisiologis yang dianggap berkorelasi dengan penipuan; dalam sistem AI, pemeriksa membiarkan komputer mengetahui korelasinya sendiri. Ketika O'Shea mengatakan dia tidak memiliki teori, dia salah, dia melanjutkan. Dia memang punya teori. Itu hanya teori yang buruk.

Namun sering kali kritikus seperti Wilde menyanggahnya, impian pendeteksi kebohongan yang sempurna tidak akan mati, terutama ketika dipoles dengan kemilau AI. Setelah DHS menghabiskan jutaan dolar untuk mendanai penelitian penipuan di universitas pada tahun 2000-an, DHS mencoba membuat versi sendiri dari teknologi analisis perilaku. Sistem yang disebut Future Attribute Screening Technology (FAST), bertujuan untuk menggunakan AI untuk mencari kecenderungan kriminal di mata dan gerakan tubuh subjek. (Versi awal mengharuskan orang yang diwawancarai untuk berdiri di atas papan keseimbangan Wii Fit untuk mengukur perubahan postur.) Tiga peneliti yang berbicara secara off the record untuk membahas proyek rahasia mengatakan bahwa program tersebut tidak pernah berhasil—terlalu banyak ketidaksepakatan di dalam departemen tentang apakah akan menggunakan ekspresi mikro Ekman sebagai pedoman untuk analisis perilaku. Departemen mengakhiri program pada tahun 2011.

Meskipun FAST gagal, DHS masih menunjukkan minat pada teknik deteksi kebohongan. Tahun lalu, misalnya, ia memberikan kontrak 0.000 kepada perusahaan sumber daya manusia untuk melatih petugasnya dalam mendeteksi penipuan dan mendapatkan tanggapan melalui analisis perilaku. Sementara itu, bagian lain dari pemerintah masih memberikan bobot mereka di belakang solusi AI. Laboratorium Penelitian Angkatan Darat (ARL) saat ini memiliki kontrak dengan Universitas Rutgers untuk membuat program AI untuk mendeteksi kebohongan dalam permainan ruang tamu Mafia, sebagai bagian dari upaya yang lebih besar untuk menciptakan sesuatu seperti Google Glass yang memperingatkan kita tentang beberapa pencopet di bazaar yang ramai, menurut Purush Iyer, kepala divisi ARL yang bertanggung jawab atas proyek tersebut. Nemesysco, sebuah perusahaan Israel yang menjual perangkat lunak analisis suara AI, mengatakan kepada saya bahwa teknologinya digunakan oleh departemen kepolisian di New York dan sheriff di Midwest untuk mewawancarai tersangka, serta oleh pusat panggilan penagihan utang untuk mengukur emosi debitur pada panggilan telepon.

Masa depan deteksi kebohongan AI yang segera dan berpotensi berbahaya tidak ada pada pemerintah tetapi di pasar swasta. Politisi yang mendukung inisiatif seperti iBorderCtrl pada akhirnya harus menjawab pemilih, dan sebagian besar pendeteksi kebohongan AI dapat dilarang dari pengadilan di bawah preseden hukum yang sama yang mengatur poligraf. Perusahaan swasta, bagaimanapun, menghadapi lebih sedikit kendala dalam menggunakan teknologi tersebut untuk menyaring pelamar kerja dan klien potensial. Silent Talker adalah salah satu dari beberapa perusahaan yang mengklaim menawarkan cara yang lebih objektif untuk mendeteksi perilaku anomali atau menipu, memberikan klien metode analisis risiko yang melampaui skor kredit dan profil media sosial.

Perangkat lunak ini menghasilkan sejumlah besar positif palsu.

Sebuah perusahaan yang berbasis di Montana bernama Neuro-ID melakukan analisis AI dari gerakan mouse dan penekanan tombol untuk membantu bank dan perusahaan asuransi menilai risiko penipuan, memberi pemohon pinjaman skor kepercayaan 1 hingga 100. Dalam sebuah video yang ditunjukkan perusahaan kepada saya, ketika seorang pelanggan membuat aplikasi pinjaman online membutuhkan waktu ekstra untuk mengisi bidang pendapatan rumah tangga, menggerakkan mouse saat melakukannya, faktor sistem yang menjadi skor kredibilitasnya. Ini didasarkan pada penelitian oleh ilmuwan pendiri perusahaan yang mengklaim menunjukkan korelasi antara gerakan mouse dan gairah emosional: satu makalah yang menyatakan bahwa menipu dapat meningkatkan jarak gerakan yang dinormalisasi, mengurangi kecepatan gerakan, meningkatkan waktu respons, dan hasil. dalam lebih banyak klik kiri. Tes perusahaan sendiri, mengungkapkan bahwa perangkat lunak menghasilkan sejumlah besar positif palsu: dalam satu studi kasus di mana Neuro-ID memproses 20.000 aplikasi untuk situs web e-niaga, kurang dari setengah pelamar yang mendapat skor terendah (5 hingga 10) ternyata curang, dan hanya 10% dari mereka yang menerima skor dari 20 hingga 30 mewakili risiko penipuan. Dengan pengakuan perusahaan sendiri, perangkat lunak menandai pelamar yang mungkin ternyata tidak bersalah dan membiarkan perusahaan menggunakan informasi itu untuk menindaklanjuti sesuka hati. Tidak ada yang namanya analisis berbasis perilaku yang 100% akurat, kata seorang juru bicara kepada saya. Yang kami sarankan adalah Anda menggunakan ini dalam kombinasi dengan informasi lain tentang pelamar untuk membuat keputusan yang lebih baik dan menangkap [klien penipu] dengan lebih efisien.

Converus, startup yang berbasis di Utah, menjual perangkat lunak yang disebut EyeDetect yang mengukur pelebaran pupil subjek selama wawancara untuk mendeteksi beban kognitif. Seperti Silent Talker, alat ini dimulai dari premis bahwa berbohong lebih menuntut secara kognitif daripada mengatakan yang sebenarnya. Menurut artikel 2018 di Wired, departemen kepolisian di Salt Lake City dan Columbus, Georgia, telah menggunakan EyeDetect untuk menyaring pelamar kerja. Converus juga memberi tahu Wired bahwa McDonald's, Best Western, Sheraton, IHOP, dan FedEx menggunakan perangkat lunaknya di Panama dan Guatemala dengan cara yang ilegal di AS.

Dalam sebuah pernyataan yang diberikan kepada saya, perusahaan mengutip ke sedikit studi yang menunjukkan EyeDetect mencapai akurasi sekitar 85% dalam mengidentifikasi pembohong dan teller kebenaran, dengan sampel hingga 150 orang. Presiden perusahaan Todd Mickelsen mengatakan bahwa algoritme perusahaannya telah dilatih dalam ratusan ribu wawancara. Tetapi Charles Honts, seorang profesor psikologi di Boise State University yang juga menjabat sebagai dewan penasihat Converus, mengatakan hasil ini tidak membuktikan bahwa EyeDetect dapat diandalkan dalam wawancara lapangan. Menurut saya sistem EyeDetect sangat menarik, tetapi di sisi lain, saya tidak menggunakannya, katanya kepada saya. Menurut saya databasenya masih relatif kecil, dan kebanyakan berasal dari satu laboratorium. Sampai diperluas dan orang lain mereplikasinya, saya enggan menggunakannya di lapangan.

Peneliti Universitas Arizona yang mengembangkan sistem AVATAR juga telah memulai perusahaan swasta, Discern Science, untuk memasarkan teknologi pendeteksi penipuan mereka sendiri. Diluncurkan tahun lalu, Discern menjual kios setinggi enam kaki yang mirip dengan AVATAR asli; menurut sebuah artikel di Financial Times, perusahaan telah menandatangani perjanjian usaha patungan dengan mitra di industri penerbangan untuk menjual alat ke bandara. Sistem Pengukuran gerakan wajah dan tekanan suara untuk mengumpulkan informasi secara tak terlihat dari subjek pada jarak percakapan, menurut materi promosi. Seperti Silent Talker dan Converus, Discern mengklaim bahwa teknologi tersebut dapat dengan andal mendeteksi sekitar 85% pembohong dan pencerita kebenaran, tetapi sekali lagi, hasilnya tidak pernah direplikasi secara independen. Setidaknya salah satu input yang digunakan kios adalah berkali-kali ditampilkan menjadi tidak dapat dipercaya . (Honts lebih lanjut mencatat bahwa hampir tidak ada dukungan untuk analisis gerakan wajah seperti AVATAR dan Silent Talker — ada begitu banyak kegagalan untuk ditiru di sana, katanya.)

dari pengiriman up

Siapa pun yang memberi tahu Anda bahwa mereka memiliki perangkat yang dapat mendeteksi kebohongan secara langsung adalah penipu.

Ketika ditanya tentang dukungan ilmiah untuk kios perusahaan, peneliti Discern Judee Burgoon menekankan bahwa mereka hanya membuat penilaian, tidak mengikat penilaian tentang kebenaran dan kepalsuan. Sistem seperti AVATAR dan Silent Talker, katanya, tidak dapat secara langsung mengukur penipuan, menambahkan bahwa siapa pun yang memberi tahu Anda bahwa mereka memiliki perangkat yang dapat mendeteksi kebohongan secara langsung adalah penipu. Namun, dalam materi pemasaran, Discern menghadirkan alat tersebut sebagai pendeteksi kebohongan yang andal: situs web perusahaan klaim bahwa itu dapat membantu mengungkap rencana tersembunyi dan bahwa algoritmenya telah terbukti secara ilmiah untuk mendeteksi penipuan lebih cepat dan lebih andal daripada alternatif mana pun.


Pengadilan banding mengosongkan keyakinan Emmanuel Mervilus pada tahun 2011, membebaskannya dari penjara dan memerintahkan pengadilan ulang; dia telah menjalani lebih dari tiga tahun hukumannya. Pada persidangan kedua, pada 2013, juri hanya berunding selama 40 menit sebelum membebaskannya. Jika bukan karena poligraf, dan keyakinan yang teguh pada keakuratannya, dia mungkin tidak akan pernah menginjakkan kaki di ruang sidang untuk pertama kalinya. Mervilus telah menggugat petugas polisi yang awalnya menangkap dan menginterogasinya, menuduh bahwa mereka melanggar haknya untuk proses hukum dengan menggunakan tes poligraf yang mereka tahu salah untuk mengamankan keyakinan. Kasus ini akan dilanjutkan ke konferensi penyelesaian pada 13 Maret.

Bahkan jika meluasnya penggunaan Pembicara Diam dan sistem seperti itu tidak mengarah pada lebih banyak keyakinan orang yang tidak bersalah seperti Mervilus, itu masih bisa membantu menciptakan jenis kekacauan sosial baru, memaksa orang untuk menjalani penilaian kredibilitas sebelum menyewa mobil atau mengambil pinjaman.

Di pengadilan, Anda harus memberikan bukti material, seperti rambut dan darah Anda, kata Wilde. Tetapi Anda juga memiliki hak untuk tetap diam, hak untuk tidak berbicara menentang diri sendiri. Mervilus memilih untuk mengikuti tes poligraf dengan asumsi bahwa, seperti tes DNA, itu akan menunjukkan bahwa dia tidak bersalah. Dan meskipun perangkatnya salah, bukan mesin itu sendiri yang mengirimnya ke penjara. Itu adalah keyakinan juri bahwa hasil tes lebih kredibel daripada fakta kasus.

Premis dasar deteksi kebohongan AI adalah bahwa kebohongan ada untuk dilihat dengan alat yang tepat. Psikolog masih tidak tahu seberapa valid klaim itu, tetapi sementara itu, keyakinan akan validitasnya mungkin cukup untuk mendiskualifikasi pelamar yang layak untuk pekerjaan dan pinjaman, dan untuk mencegah orang yang tidak bersalah melintasi batas negara. Janji jendela ke kehidupan batin orang lain terlalu menggoda untuk dilewatkan, bahkan jika tidak ada yang bisa memastikan seberapa jelas jendela itu.

Ini adalah janji membaca pikiran, kata Wilde. Anda dapat melihat bahwa itu palsu, tetapi itulah yang mereka jual.

bersembunyi

Teknologi Aktual

Kategori

Tidak Dikategorikan

Teknologi

Bioteknologi

Kebijakan Teknologi

Perubahan Iklim

Manusia Dan Teknologi

Bukit Silikon

Komputasi

Majalah Berita Mit

Kecerdasan Buatan

Ruang Angkasa

Kota Pintar

Blockchain

Cerita Fitur

Profil Alumni

Koneksi Alumni

Fitur Berita Mit

1865

Pandangan Ku

77 Jalan Massal

Temui Penulisnya

Profil Dalam Kemurahan Hati

Terlihat Di Kampus

Surat Alumni

Berita

Pemilu 2020

Dengan Indeks

Di Bawah Kubah

Pemadam Kebakaran

Cerita Tak Terbatas

Proyek Teknologi Pandemi

Dari Presiden

Sampul Cerita

Galeri Foto

Direkomendasikan