Departemen Pertahanan telah menghasilkan alat pertama untuk menangkap deepfake

SUNYSUNY



Alat forensik pertama untuk menangkap porno balas dendam dan berita palsu yang dibuat dengan AI telah dikembangkan melalui program yang dijalankan oleh Departemen Pertahanan AS.

Pakar forensik telah bergegas menemukan cara untuk mendeteksi video yang disintesis dan dimanipulasi menggunakan pembelajaran mesin karena teknologinya membuat jauh lebih mudah untuk membuat video palsu yang meyakinkan yang dapat digunakan untuk menabur disinformasi atau melecehkan orang.





Teknik paling umum untuk menghasilkan video palsu melibatkan penggunaan pembelajaran mesin untuk menukar wajah satu orang ke wajah orang lain. Video yang dihasilkan, yang dikenal sebagai deepfake, mudah dibuat, dan dapat sangat realistis . Penyesuaian lebih lanjut, dibuat oleh editor video yang terampil, dapat membuatnya tampak bahkan lebih nyata .

Trik video melibatkan penggunaan teknik pembelajaran mesin yang dikenal sebagai pemodelan generatif, yang memungkinkan komputer belajar dari data nyata sebelum menghasilkan contoh palsu yang secara statistik serupa. Perubahan baru-baru ini melibatkan memiliki dua jaringan saraf, yang dikenal sebagai jaringan permusuhan generatif, bekerja sama untuk menghasilkan pemalsuan yang semakin meyakinkan (lihat The GANfather: Orang yang memberi mesin hadiah imajinasi).

Alat untuk menangkap deepfake dikembangkan melalui program—yang dijalankan oleh Badan Proyek Penelitian Lanjutan Pertahanan AS (DARPA)—disebut Forensik Media . Program ini dibuat untuk mengotomatisasi alat forensik yang ada, tetapi baru-baru ini mengalihkan perhatiannya ke pemalsuan buatan AI.



'Kami telah menemukan isyarat halus dalam gambar dan video yang dimanipulasi GAN saat ini yang memungkinkan kami mendeteksi adanya perubahan, kata Matthew Turek, yang menjalankan program Media Forensics.

Empat video gambar diam Tucker Carlson berbicara Empat gambar diam video yang mencerminkan video Tucker Carlson asli. Wajah di speaker tampaknya adalah wajah aktor Nicolas Cage.

Tucker Carlson mendapatkan makeover Nicolas Cage-nya sendiri. Universitas di Albany, SUNY

Salah satu teknik yang sangat sederhana dikembangkan oleh tim yang dipimpin oleh Siwei Lyu , seorang profesor di Universitas Negeri New York di Albany, , dan salah satu muridnya. Kami membuat sekitar 50 video palsu dan mencoba banyak metode forensik tradisional. Mereka bekerja mati-matian, tetapi tidak terlalu baik, kata Lyu.

Kemudian, suatu sore, saat mempelajari beberapa deepfake, Lyu menyadari bahwa wajah yang dibuat menggunakan deepfake jarang, jika pernah, berkedip. Dan ketika mereka berkedip, gerakan mata tidak wajar. Ini karena deepfake dilatih pada gambar diam, yang cenderung menunjukkan seseorang dengan mata terbuka.

Orang lain yang terlibat dalam tantangan DARPA sedang mengeksplorasi trik serupa untuk secara otomatis menangkap deepfake: gerakan kepala yang aneh, warna mata yang aneh, dan sebagainya. Kami sedang berupaya mengeksploitasi jenis sinyal fisiologis ini yang, setidaknya untuk saat ini, sulit untuk ditiru oleh deepfake, kata Hany Farid , pakar forensik digital terkemuka di Dartmouth College.

Turek dari DARPA mengatakan bahwa agensi tersebut akan mengadakan lebih banyak kontes untuk memastikan teknologi yang sedang dikembangkan dapat mendeteksi teknik terbaru.'

Kedatangan alat forensik ini mungkin hanya menandakan awal dari perlombaan senjata bertenaga AI antara pemalsu video dan detektif digital. Masalah utama, kata Farid, adalah bahwa sistem pembelajaran mesin dapat dilatih untuk mengalahkan alat forensik.

Lyu mengatakan seorang pemalsu yang terampil bisa menyiasati alat pengedip matanya hanya dengan mengumpulkan gambar yang menunjukkan seseorang berkedip. Tetapi dia menambahkan bahwa timnya telah mengembangkan teknik yang lebih efektif, tetapi mengatakan dia merahasiakannya untuk saat ini. Saya lebih suka menunda setidaknya sebentar, kata Lyu. Kami memiliki sedikit keuntungan atas pemalsu sekarang, dan kami ingin mempertahankan keuntungan itu.

bersembunyi

Teknologi Aktual

Kategori

Tidak Dikategorikan

Teknologi

Bioteknologi

Kebijakan Teknologi

Perubahan Iklim

Manusia Dan Teknologi

Bukit Silikon

Komputasi

Majalah Berita Mit

Kecerdasan Buatan

Ruang Angkasa

Kota Pintar

Blockchain

Cerita Fitur

Profil Alumni

Koneksi Alumni

Fitur Berita Mit

1865

Pandangan Ku

77 Jalan Massal

Temui Penulisnya

Profil Dalam Kemurahan Hati

Terlihat Di Kampus

Surat Alumni

Berita

Pemilu 2020

Dengan Indeks

Di Bawah Kubah

Pemadam Kebakaran

Cerita Tak Terbatas

Proyek Teknologi Pandemi

Dari Presiden

Sampul Cerita

Galeri Foto

Direkomendasikan