Apa itu bias AI? [+ Data]

Kita Laporan Survei Keadaan AI menemukan bahwa salah satu tantangan utama yang dihadapi pemasar saat menggunakan AI generatif adalah kemampuannya untuk menjadi bias.

Dan pemasar, profesional penjualan, dan staf layanan pelanggan melaporkan ragu-ragu untuk menggunakan alat AI karena terkadang dapat menghasilkan informasi yang bias.

Jelas bahwa profesional bisnis khawatir tentang AI yang bias, tetapi apa yang membuatnya bias? Dalam postingan ini, kita akan membahas potensi bahaya dalam penggunaan AI, contoh AI yang bias dalam kehidupan nyata, dan bagaimana masyarakat dapat mengurangi potensi bahaya.

Apa itu bias AI?

Bias AI adalah gagasan bahwa algoritme pembelajaran mesin dapat menjadi bias saat menjalankan tugas terprogramnya, seperti menganalisis data atau membuat konten). AI biasanya bias dengan cara yang menjunjung tinggi keyakinan berbahaya, seperti stereotip ras dan gender.

Menurut Laporan Indeks Kecerdasan Buatan 2023, AI bias ketika menghasilkan keluaran yang memperkuat dan melanggengkan stereotip yang merugikan kelompok tertentu. AI adil ketika membuat prediksi atau keluaran yang tidak mendiskriminasi atau mendukung kelompok tertentu.

Selain bias dalam prasangka dan keyakinan stereotip, AI juga bisa bias karena:

pemilihan sampel, di mana data yang digunakannya tidak mewakili seluruh populasi, sehingga prediksi dan rekomendasinya tidak dapat digeneralisasikan atau diterapkan pada kelompok yang ditinggalkan
Pengukuran, di mana proses pengumpulan data bias, mengarahkan AI untuk membuat kesimpulan yang bias.

Bagaimana bias AI mencerminkan bias masyarakat?

AI bias karena masyarakat bias.

Karena masyarakat bias, banyak data AI yang dilatih mengandung bias dan prasangka masyarakat, sehingga ia mempelajari bias tersebut dan menghasilkan hasil yang mendukungnya. Misalnya, pembuat gambar yang diminta untuk membuat gambar CEO mungkin menghasilkan gambar laki-laki kulit putih karena bias historis pengangguran dalam data yang dipelajarinya.

Karena AI menjadi lebih umum, ketakutan di antara banyak orang adalah bahwa AI berpotensi meningkatkan bias yang sudah ada di masyarakat yang berbahaya bagi banyak kelompok orang yang berbeda.

Contoh Bias AI

Repositori Kontroversi Insiden AI, Algoritma, dan Otomasi (AIAAIC) mengatakan bahwa jumlah insiden dan kontroversi AI yang baru dilaporkan adalah 26 kali lebih besar pada tahun 2021 dibandingkan tahun 2012.

Sumber Gambar

Mari kita bahas beberapa contoh bias AI.

Tingkat persetujuan hipotek adalah contoh yang bagus prasangka dalam AI. Algoritma telah ditemukan 40-80% lebih cenderung menolak peminjam kulit berwarna karena data pinjaman historis secara tidak proporsional menunjukkan minoritas ditolak pinjaman dan peluang keuangan lainnya. Data historis mengajarkan AI untuk bias dengan setiap aplikasi masa depan yang diterimanya.

Ada juga potensi untuk bias ukuran sampel di bidang medis. Katakanlah seorang dokter menggunakan AI untuk menganalisis data pasien, mengungkap pola, dan menguraikan rekomendasi perawatan. Jika dokter itu terutama menangani pasien kulit putih, rekomendasinya tidak didasarkan pada sampel populasi yang representatif dan mungkin tidak memenuhi kebutuhan medis unik setiap orang.

Beberapa bisnis memiliki algoritme yang menghasilkan pengambilan keputusan yang bias di kehidupan nyata atau membuat potensinya lebih terlihat.

1. Algoritma Perekrutan Amazon

Amazon membuat algoritme perekrutan yang dilatih berdasarkan data riwayat pekerjaan selama sepuluh tahun. Data mencerminkan tenaga kerja yang didominasi laki-laki, sehingga algoritme belajar untuk menjadi bias terhadap lamaran dan resume yang dihukum dari perempuan atau resume apa pun yang menggunakan kata “perempuan”.

2. Pemotongan Gambar Twitter

A twit viral di tahun 2020 menunjukkan bahwa algoritme Twitter lebih menyukai wajah Putih daripada Hitam saat memotong gambar. Seorang pengguna kulit putih berulang kali membagikan foto yang menampilkan wajahnya dan wajah rekannya yang berkulit hitam serta wajah kulit hitam lainnya dalam gambar yang sama, dan foto tersebut secara konsisten dipangkas untuk menampilkan wajahnya di pratinjau gambar.

Twitter mengakui bias algoritme dan berkata, “Meskipun analisis kami hingga saat ini belum menunjukkan bias rasial atau gender, kami menyadari bahwa cara kami memangkas foto secara otomatis berarti ada potensi bahaya. Kami seharusnya melakukan pekerjaan yang lebih baik dalam mengantisipasi kemungkinan ini saat kami pertama kali merancang dan membangun produk ini.”

3. Pengenalan Wajah Rasis Robot

Ilmuwan baru-baru ini melakukan penelitian meminta robot untuk memindai wajah orang dan mengelompokkannya ke dalam kotak berbeda berdasarkan karakteristiknya, dengan tiga kotak adalah dokter, penjahat, dan ibu rumah tangga.

Robot itu bias dalam prosesnya dan paling sering mengidentifikasi wanita sebagai ibu rumah tangga, pria kulit hitam sebagai penjahat, pria Latino sebagai petugas kebersihan, dan wanita dari semua etnis cenderung tidak dipilih sebagai dokter.

4. Perangkat Lunak Pemantauan Intel dan Teknologi Kelas

Perangkat lunak Kelas Intel dan Classroom Technology memiliki fitur yang memantau wajah siswa untuk mendeteksi emosi saat belajar. Banyak yang mengatakan norma budaya yang berbeda dalam mengekspresikan emosi sebagai kemungkinan besar emosi siswa salah diberi label.

Jika guru menggunakan label ini untuk berbicara dengan siswa tentang tingkat usaha dan pemahaman mereka, siswa dapat dihukum atas emosi yang sebenarnya tidak mereka tunjukkan.

Apa yang dapat dilakukan untuk memperbaiki bias AI?

etika AI adalah topik hangat. Ini bisa dimengerti karena bias AI telah ditunjukkan dalam kehidupan nyata dengan berbagai cara.

Selain bias, AI dapat menyebarkan informasi yang salah, seperti deepfake, dan alat AI generatif bahkan dapat menghasilkan informasi yang salah secara faktual.

Apa yang dapat dilakukan untuk memahami AI dengan lebih baik dan mengurangi potensi bias?

Pengawasan manusia: Orang dapat memantau output, menganalisis data, dan melakukan koreksi saat bias ditampilkan. Misalnya, pemasar dapat memberikan perhatian khusus pada keluaran AI generatif sebelum menggunakannya dalam materi pemasaran untuk memastikannya adil.
Menilai potensi bias: Beberapa kasus penggunaan AI memiliki potensi lebih tinggi untuk berprasangka dan berbahaya bagi komunitas tertentu. Dalam hal ini, orang dapat meluangkan waktu untuk menilai kemungkinan AI mereka menghasilkan hasil yang bias, seperti lembaga perbankan yang menggunakan data prasangka secara historis.
Berinvestasi dalam etika AI: Salah satu cara terpenting untuk mengurangi bias AI adalah dengan terus berinvestasi dalam penelitian AI dan etika AI, sehingga orang dapat menyusun strategi konkret untuk menguranginya.
Diversifikasi AI: Memiliki beragam perspektif dalam AI membantu menciptakan praktik yang tidak memihak saat orang membawa pengalaman hidup mereka sendiri. Bidang yang beragam dan representatif membawa lebih banyak peluang bagi orang-orang untuk mengenali potensi bias dan menghadapinya sebelum menimbulkan kerugian.
Akui bias manusia: Semua manusia memiliki potensi bias, baik dari perbedaan pengalaman hidup atau bias konfirmasi selama penelitian. Orang yang menggunakan AI dapat mengenali bias mereka untuk memastikan AI mereka tidak bias, seperti peneliti yang memastikan ukuran sampel mereka representatif.
Menjadi transparan: Transparansi selalu penting, terutama dengan teknologi baru. Orang dapat membangun kepercayaan dan pemahaman dengan AI hanya dengan memberitahukannya saat mereka menggunakan AI, seperti menambahkan catatan di bawah artikel berita yang dibuat oleh AI.

Sangat mungkin untuk menggunakan AI secara bertanggung jawab.

AI dan minat pada AI hanya tumbuh, jadi cara terbaik untuk tetap berada di atas potensi bahaya adalah tetap mendapat informasi tentang bagaimana hal itu dapat melanggengkan bias berbahaya dan mengambil tindakan untuk memastikan penggunaan AI Anda tidak menambah bahan bakar ke api.

Ingin mempelajari lebih lanjut tentang kecerdasan buatan? Lihat ini jalur pembelajaran.

Sumber Artikel