Bagaimana Apple mempersonalisasi Siri tanpa membuang data Anda

Seorang wanita menggunakan asisten suaranya di ponselnya.

Seorang wanita menggunakan asisten suaranya di ponselnya.kyonntra/Getty Images



Jika Anda memiliki iPhone, Anda mungkin telah memperhatikan perubahan perilaku Siri dalam satu tahun terakhir. Asisten suara di telepon akan bangun saat Anda mengucapkan Hai Siri, tetapi tidak saat frasa yang sama datang dari teman atau keluarga Anda.

Alasan Apple melakukan ini masuk akal: ia menginginkan cara untuk mencegah semua iPhone di ruangan merespons ketika satu orang mengucapkan frasa bangun. Anda mungkin berpikir bahwa Apple perlu mengumpulkan banyak data audio Anda untuk melakukan ini. Anehnya, tidak.





Sebaliknya, itu terutama bergantung pada teknik yang disebut pembelajaran federasi, kepala privasi Apple, Julien Freudiger, mengatakan kepada audiensi di konferensi Sistem Informasi Pemrosesan Saraf pada 8 Desember. Pembelajaran federasi adalah metode pembelajaran mesin yang melestarikan privasi yang pertama kali diperkenalkan oleh Google pada tahun 2017 . Ini memungkinkan Apple untuk melatih salinan berbeda dari model pengenalan speaker di semua perangkat penggunanya, hanya menggunakan data audio yang tersedia secara lokal. Kemudian hanya mengirim model yang diperbarui kembali ke server pusat untuk digabungkan menjadi model master. Dengan cara ini, audio mentah dari permintaan Siri pengguna tidak pernah meninggalkan iPhone dan iPad mereka, tetapi asisten terus-menerus menjadi lebih baik dalam mengidentifikasi speaker yang tepat.

Selain pembelajaran gabungan, Apple juga menggunakan sesuatu yang disebut privasi diferensial untuk menambahkan lapisan perlindungan lebih lanjut. Teknik ini menyuntikkan sejumlah kecil noise ke dalam data mentah apa pun sebelum dimasukkan ke dalam model pembelajaran mesin lokal. Langkah tambahan membuat sangat sulit bagi aktor jahat untuk merekayasa balik file audio asli dari model terlatih.

Meskipun Apple telah menggunakan privasi diferensial sejak 2017, itu telah digabungkan dengan pembelajaran federasi hanya pada iOS 13, yang diluncurkan ke publik pada bulan September tahun ini. Selain mempersonalisasi Siri, kedua teknik tersebut sekarang juga digunakan untuk beberapa aplikasi lain, termasuk QuickType (keyboard Apple yang dipersonalisasi) dan fitur Found In Apps, yang memindai kalender dan aplikasi email Anda untuk mencari nama pengirim pesan dan penelepon yang nomornya tidak ada di ponsel Anda. Freudiger mengatakan perusahaan berencana untuk segera meluncurkan metode privasi ke lebih banyak aplikasi dan fitur.



Pada tahun lalu, pembelajaran federasi semakin populer dalam komunitas riset AI karena kekhawatiran tentang privasi data telah berkembang. Pada bulan Maret, Google dilepaskan seperangkat alat baru untuk memudahkan pengembang menerapkan model pembelajaran federasi mereka sendiri. Di antara banyak kegunaan lainnya, para peneliti berharap ini akan membantu mengatasi tantangan privasi dalam penerapan AI untuk perawatan kesehatan. Perusahaan termasuk Owkin, Doc.ai, dan Nvidia tertarik untuk menggunakannya dengan cara ini.

Meskipun teknik ini masih relatif baru dan perlu penyempurnaan lebih lanjut, adopsi terbaru Apple menawarkan studi kasus lain tentang bagaimana hal itu dapat diterapkan dalam skala besar. Ini juga menandai perubahan mendasar dalam pertukaran yang secara tradisional diasumsikan oleh industri teknologi antara privasi dan utilitas: pada kenyataannya, sekarang mungkin untuk mencapai keduanya. Mari berharap perusahaan lain segera menyusul.

Untuk mendapatkan lebih banyak cerita seperti ini yang dikirimkan langsung ke kotak masuk Anda, daftar untuk buletin AI nominasi Webby, The Algorithm. Gratis.

bersembunyi

Teknologi Aktual

Kategori

Tidak Dikategorikan

Teknologi

Bioteknologi

Kebijakan Teknologi

Perubahan Iklim

Manusia Dan Teknologi

Bukit Silikon

Komputasi

Majalah Berita Mit

Kecerdasan Buatan

Ruang Angkasa

Kota Pintar

Blockchain

Cerita Fitur

Profil Alumni

Koneksi Alumni

Fitur Berita Mit

1865

Pandangan Ku

77 Jalan Massal

Temui Penulisnya

Profil Dalam Kemurahan Hati

Terlihat Di Kampus

Surat Alumni

Berita

Pemilu 2020

Dengan Indeks

Di Bawah Kubah

Pemadam Kebakaran

Cerita Tak Terbatas

Proyek Teknologi Pandemi

Dari Presiden

Sampul Cerita

Galeri Foto

Direkomendasikan