Bisnis.com, JAKARTA - IBM, perusahaan teknologi global, berusaha untuk meningkatkan inklusivitas kecerdasan buatan (artificial intelligence/AI).
Managing Partner IBM Consulting APAC Lula Mohanty mengatakan saat ini AI masih mempunyai stereotype pekerjaan dan beberapa hal lainnya. Hal ini dikarenakan pembuatan AI didominasi oleh laki-laki.
Lula menambahkan jika mencari "CEO", sistem pengenalan gambar AI kemungkinan akan memberi Anda hasil berupa 90 persen wajah laki-laki.
Beberapa algoritma perekrutan secara tidak sengaja telah menyaring kandidat dari perguruan tinggi wanita atau belajar memilih kandidat pria berdasarkan kata-kata yang lebih umum ditemukan dalam lamaran pria.
Sistem AI dibangun oleh manusia dan dengan demikian mencerminkan bias manusia juga. Jika kumpulan data di mana AI dibuat berdasarkan gender, demikian juga algoritmanya.
"Faktanya, perempuan hanya 26 persen dari angkatan kerja AI secara global, menurut laporan Global Gender Gap," ujar Lula kepada Bisnis.com, beberapa waktu lalu.
Adapun, berdasarkan studi terbaru dari IBM dan Chief mencatatkan adanya peningkatan kecil dalam jumlah perempuan di tingkat C-suite dan Dewan Direksi (sekarang 12 persen untuk keduanya), dan meningkat menjadi 40 persen representasi perempuan dalam peran profesional junior/spesialis (37 persen pada 2021) untuk perusahaan teknologi.
Lebih lanjut, IBM menjelaskan saat ini ada tiga cara membuat AI dan teknologi untuk lebih inklusif mulai dari keanekaragaman dalam tim, keragaman dalam kumpulan data, dan tata kelola dan kebijakan AI untuk membuat dan menetapkan aturan seputar keadilan.
Keragaman dalam tim, Lula menjelaskan perusahaan teknologi perlu memasukkan lebih banyak wanita ke dalam karier STEM (Science, technology, engineering, and mathematics) bekerja dan maju dalam AI dan bidang yang berdekatan.
Kedua, keanekaragaman dalam kumpulan data. Saat ini , IBM telah berbagi penelitian dan alat seperti AI Fairness 360 untuk membantu mendukung mitigasi bias dan memberikan pemahaman yang lebih baik kepada perusahaan dan konsumen mereka tentang sistem AI yang mereka bangun dan gunakan setiap hari.
Ketiga, tata kelola AI. AI sendiri memiliki banyak segi dan dapat diterapkan di berbagai tingkatan. Transparansi AI juga penting. Sama seperti Peraturan Perlindungan Data Umum (GDPR) seputar privasi data, mungkin ada yang setara dengan AI.
IBM telah menetapkan tiga prinsip AI. Pertama, tujuan AI adalah untuk meningkatkan kecerdasan manusia. Artinya, IBM tidak berusaha mengganti kecerdasan manusia dengan AI, tetapi mendukungnya.
Kedua, data dan wawasan adalah milik penciptanya. Klien IBM dapat merasa yakin bahwa mereka, dan hanya mereka sendiri, yang memiliki data mereka. IBM belum dan tidak akan memberikan akses pemerintah ke data klien untuk program pengawasan apa pun, dan IBM tetap berkomitmen untuk melindungi privasi kliennya.
Terakhir, sistem AI harus transparan dan dapat dijelaskan. IBM percaya bahwa perusahaan teknologi harus jelas tentang siapa yang melatih sistem AI mereka, data apa yang digunakan dalam pelatihan itu, dan yang paling penting, apa yang dimasukkan ke dalam rekomendasi algoritma mereka.
