Berkembang ke AI yang lebih adil

Bekerjasama dengan Tenaga penjualan



Pandemi yang telah mengamuk di seluruh dunia selama setahun terakhir telah menyinari banyak hal—tingkat kesiapsiagaan yang bervariasi untuk merespons; sikap kolektif terhadap kesehatan, teknologi, dan ilmu pengetahuan; dan kesenjangan keuangan dan sosial yang luas. Ketika dunia terus menghadapi krisis kesehatan covid-19, dan beberapa tempat bahkan mulai kembali bekerja, sekolah, bepergian, dan rekreasi secara bertahap, sangat penting untuk menyelesaikan prioritas bersaing untuk melindungi kesehatan masyarakat secara adil sambil memastikan privasi.





Krisis yang berkepanjangan telah menyebabkan perubahan cepat dalam pekerjaan dan perilaku sosial, serta meningkatnya ketergantungan pada teknologi. Sekarang menjadi lebih penting dari sebelumnya bahwa perusahaan, pemerintah, dan masyarakat berhati-hati dalam menerapkan teknologi dan menangani informasi pribadi. Adopsi kecerdasan buatan (AI) yang diperluas dan cepat menunjukkan bagaimana teknologi adaptif cenderung bersinggungan dengan manusia dan lembaga sosial dengan cara yang berpotensi berisiko atau tidak adil.

apa yang terjadi dengan air di mars

Hubungan kita dengan teknologi secara keseluruhan akan berubah secara dramatis pasca-pandemi, kata Yoav Schlesinger, kepala praktik AI etis di Salesforce. Akan ada proses negosiasi antara orang, bisnis, pemerintah, dan teknologi; bagaimana data mereka mengalir di antara semua pihak tersebut akan dinegosiasikan ulang dalam kontrak data sosial baru.

AI beraksi

Ketika krisis covid-19 mulai terungkap pada awal 2020, para ilmuwan melihat AI untuk mendukung berbagai penggunaan medis, seperti mengidentifikasi calon obat potensial untuk vaksin atau pengobatan, membantu mendeteksi potensi gejala covid-19, dan mengalokasikan sumber daya yang langka seperti intensif. -tempat tidur unit perawatan dan ventilator. Secara khusus, mereka bersandar pada kekuatan analitik sistem yang ditambah AI untuk mengembangkan vaksin dan perawatan mutakhir.



Meskipun alat analisis data tingkat lanjut dapat membantu mengekstrak wawasan dari sejumlah besar data, hasilnya tidak selalu merupakan hasil yang lebih adil. Faktanya, alat yang digerakkan oleh AI dan kumpulan data yang digunakannya dapat melanggengkan bias yang melekat atau ketidakadilan sistemik. Selama pandemi, lembaga seperti Pusat Pengendalian dan Pencegahan Penyakit dan Organisasi Kesehatan Dunia telah mengumpulkan sejumlah besar data, tetapi data tersebut tidak selalu secara akurat mewakili populasi yang telah terpengaruh secara tidak proporsional dan negatif—termasuk hitam, coklat, dan pribumi. orang-juga tidak beberapa kemajuan diagnostik yang telah mereka buat, kata Schlesinger.

Misalnya, perangkat biometrik yang dapat dikenakan seperti Fitbit atau Apple Watch menunjukkan kemampuan mereka untuk mendeteksi potensi gejala COVID-19, seperti perubahan suhu atau saturasi oksigen. Namun analisis tersebut bergantung pada kumpulan data yang sering cacat atau terbatas dan dapat menimbulkan bias atau ketidakadilan yang secara tidak proporsional mempengaruhi orang dan komunitas yang rentan.

Ada beberapa penelitian yang menunjukkan lampu LED hijau memiliki waktu yang lebih sulit untuk membaca denyut nadi dan saturasi oksigen pada warna kulit yang lebih gelap, kata Schlesinger, mengacu pada sumber cahaya semikonduktor. Jadi itu mungkin tidak melakukan pekerjaan yang sama baiknya dalam menangkap gejala covid bagi mereka yang berkulit hitam dan coklat.

AI telah menunjukkan kemanjuran yang lebih besar dalam membantu menganalisis kumpulan data yang sangat besar. Sebuah tim di Viterbi School of Engineering di University of Southern California mengembangkan kerangka kerja AI untuk membantu menganalisis kandidat vaksin covid-19. Setelah mengidentifikasi 26 kandidat potensial, itu mempersempit lapangan menjadi 11 yang paling mungkin berhasil. Sumber data untuk analisis adalah Basis Data Epitop Imun, yang mencakup lebih dari 600.000 faktor penentu penularan yang muncul dari lebih dari 3.600 spesies.



kamera satelit untuk pengawasan

Peneliti lain dari Viterbi menerapkan AI untuk menguraikan kode budaya lebih akurat dan lebih memahami norma sosial yang memandu perilaku kelompok etnis dan ras. Itu dapat berdampak signifikan pada bagaimana populasi tertentu bertahan selama krisis seperti pandemi, karena upacara keagamaan, tradisi, dan adat istiadat sosial lainnya yang dapat memfasilitasi penyebaran virus.

Ilmuwan utama Kristina Lerman dan Fred Morstatter mendasarkan penelitian mereka pada Teori Landasan Moral , yang menggambarkan etika intuitif yang membentuk konstruksi moral budaya, seperti kepedulian, keadilan, kesetiaan, dan otoritas, membantu menginformasikan perilaku individu dan kelompok.

Tujuan kami adalah untuk mengembangkan kerangka kerja yang memungkinkan kami untuk memahami dinamika yang mendorong proses pengambilan keputusan dari suatu budaya pada tingkat yang lebih dalam, kata Morstatter dalam sebuah laporan yang dirilis oleh USC . Dan dengan melakukan itu, kami menghasilkan prakiraan yang lebih berwawasan budaya.

Penelitian ini juga mengkaji bagaimana menerapkan AI dengan cara yang etis dan adil. Kebanyakan orang, tapi tidak semua, tertarik untuk membuat dunia menjadi tempat yang lebih baik, kata Schlesinger. Sekarang kita harus pergi ke tingkat berikutnya—tujuan apa yang ingin kita capai, dan hasil apa yang ingin kita lihat? Bagaimana kita mengukur kesuksesan, dan seperti apa bentuknya?

Meredakan masalah etika

Sangat penting untuk menginterogasi asumsi tentang data yang dikumpulkan dan proses AI, kata Schlesinger. Kami berbicara tentang mencapai keadilan melalui kesadaran. Pada setiap langkah proses, Anda membuat penilaian atau asumsi nilai yang akan membebani hasil Anda ke arah tertentu, katanya. Itulah tantangan mendasar dalam membangun AI yang beretika, yaitu melihat semua tempat di mana manusia bias.

Bagian dari tantangan itu adalah melakukan pemeriksaan kritis terhadap kumpulan data yang menginformasikan sistem AI. Sangat penting untuk memahami sumber data dan komposisi data, dan untuk menjawab pertanyaan seperti: Bagaimana data dibuat? Apakah itu mencakup beragam pemangku kepentingan? Apa cara terbaik untuk menyebarkan data itu ke dalam model untuk meminimalkan bias dan memaksimalkan keadilan?

Saat orang kembali bekerja, majikan mungkin sekarang menggunakan teknologi penginderaan dengan AI bawaan , termasuk kamera termal untuk mendeteksi suhu tinggi; sensor audio untuk mendeteksi batuk atau suara yang meninggi, yang berkontribusi pada penyebaran tetesan pernapasan; dan streaming video untuk memantau prosedur cuci tangan, peraturan jarak fisik, dan persyaratan masker.

teknologi baru di tahun 2021

Sistem pemantauan dan analisis seperti itu tidak hanya memiliki tantangan akurasi teknis tetapi juga menimbulkan risiko utama bagi hak asasi Manusia , privasi, keamanan, dan kepercayaan . Dorongan untuk meningkatkan pengawasan telah menjadi efek samping yang meresahkan dari pandemi. Instansi pemerintah telah menggunakan rekaman kamera pengintai, data lokasi ponsel cerdas, catatan pembelian kartu kredit, dan bahkan pemindaian suhu pasif di area publik yang padat seperti bandara untuk membantu melacak pergerakan orang yang mungkin telah tertular atau terpapar covid-19 dan membuat penularan virus rantai.

Pertanyaan pertama yang perlu dijawab bukan hanya dapatkah kita melakukan ini—tetapi haruskah kita melakukannya? kata Schlesinger. Memindai individu untuk data biometrik mereka tanpa persetujuan mereka menimbulkan masalah etika, bahkan jika itu diposisikan sebagai manfaat untuk kebaikan yang lebih besar. Kita harus memiliki percakapan yang kuat sebagai masyarakat tentang apakah ada alasan bagus untuk menerapkan teknologi ini sejak awal.

Seperti apa masa depan

Saat masyarakat kembali ke sesuatu yang mendekati normal, inilah saatnya untuk secara mendasar mengevaluasi kembali hubungan dengan data dan menetapkan norma baru untuk mengumpulkan data, serta penggunaan yang tepat—dan potensi penyalahgunaan—data. Saat membangun dan menerapkan AI, para teknolog akan terus membuat asumsi yang diperlukan tentang data dan prosesnya, tetapi dasar-dasar data itu harus dipertanyakan. Apakah data berasal dari sumber yang sah? Siapa yang merakitnya? Asumsi apa yang mendasarinya? Apakah disajikan secara akurat? Bagaimana privasi warga negara dan konsumen dapat dipertahankan?

Karena AI lebih banyak digunakan, penting untuk mempertimbangkan bagaimana juga menimbulkan kepercayaan. Menggunakan AI untuk meningkatkan pengambilan keputusan manusia, dan tidak sepenuhnya menggantikan input manusia, adalah salah satu pendekatan.

jawaban google untuk siri

Akan ada lebih banyak pertanyaan tentang peran AI yang harus dimainkan dalam masyarakat, hubungannya dengan manusia, dan tugas apa yang sesuai untuk manusia dan tugas apa yang sesuai untuk AI, kata Schlesinger. Ada area tertentu di mana kemampuan AI dan kemampuannya untuk meningkatkan kemampuan manusia akan mempercepat kepercayaan dan ketergantungan kita. Di tempat-tempat di mana AI tidak menggantikan manusia, tetapi meningkatkan upaya mereka, itulah cakrawala berikutnya.

Akan selalu ada situasi di mana manusia perlu dilibatkan dalam pengambilan keputusan. Dalam industri yang diatur, misalnya, seperti perawatan kesehatan, perbankan, dan keuangan, perlu ada manusia dalam lingkaran untuk menjaga kepatuhan, kata Schlesinger. Anda tidak bisa hanya menggunakan AI untuk membuat keputusan perawatan tanpa masukan dari dokter. Sebanyak yang kami ingin percayai bahwa AI mampu melakukan itu, AI belum memiliki empati, dan mungkin tidak akan pernah.

Sangat penting untuk data yang dikumpulkan dan dibuat oleh AI untuk tidak memperburuk tetapi meminimalkan ketidakadilan. Harus ada keseimbangan antara menemukan cara bagi AI untuk membantu mempercepat kemajuan manusia dan sosial, mempromosikan tindakan dan tanggapan yang adil, dan sekadar mengakui bahwa masalah tertentu akan membutuhkan solusi manusia.

Konten ini diproduksi oleh Insights, lengan konten khusus dari MIT Technology Review. Itu tidak ditulis oleh staf editorial MIT Technology Review.

bersembunyi

Teknologi Aktual

Kategori

Tidak Dikategorikan

Teknologi

Bioteknologi

Kebijakan Teknologi

Perubahan Iklim

Manusia Dan Teknologi

Bukit Silikon

Komputasi

Majalah Berita Mit

Kecerdasan Buatan

Ruang Angkasa

Kota Pintar

Blockchain

Cerita Fitur

Profil Alumni

Koneksi Alumni

Fitur Berita Mit

1865

Pandangan Ku

77 Jalan Massal

Temui Penulisnya

Profil Dalam Kemurahan Hati

Terlihat Di Kampus

Surat Alumni

Berita

Pemilu 2020

Dengan Indeks

Di Bawah Kubah

Pemadam Kebakaran

Cerita Tak Terbatas

Proyek Teknologi Pandemi

Dari Presiden

Sampul Cerita

Galeri Foto

Direkomendasikan