Futurismo, Bisakah Kita Percaya pada Kecerdasan Buatan?

Lucunya, tak ada yang mempertanyakan (baca: kepo), bagaimana sebuah algoritma digital bisa melakukan ke semuanya itu dengan jauh lebih efektif dan efisien ketimbang bila dilakukan oleh satu team salesman terbaik sekalipun.

Mereka – para konsumen itu – lebih suka terima jadi tanpa memusingkan cara kerja ‘jeroan otak’ mesin-mesin AI itu.

Dua bulan kemudian, di pertengahan September 2018, analis di TechGenix, Rahul Sharma yang menyimpulkan bahwa AI, sebagai sebuah bauran antara otomasi (automation) dan kecerdasan (intelligence), telah secara efektif membuat konsumen bergerak menjalani kesehariannya dalam mode ‘autopilot’, dan ini adalah sebuah kenyamanan yang bisa menetralisir rasa ingin tahu bagaimana sih sebenarnya cara AI bekerja.

Fenomenanya sama: tak ada yang benar-benar kepo untuk tahu bagaimana AI bekerja sampai sebuah rekomendasi atau jawaban dikonstruksikan.

Sebenarnya dalam hal sederhana di keseharian saya pun ‘kenyamanan’ di atas juga menina-bobokkan saya untuk tak kritis lagi dalam bernalar, misalnya, mengapa ayam goreng yang kita beli di gerai makanan cepat saji terkenal lebih enak rasanya daripada kalau kita menggoreng sendiri di rumah.

Saya – dan mungkin konsumen yang lain – tak terlalu peduli untuk menanyakan apa sih resepnya, kok ayam goreng di gerai itu lebih sedap rasanya.

Rahul Sharma, Ben Lamm dan juga Marianne Lehnis mewakili manusia-manusia langka yang mencoba kritis terhadap perkembangan teknologi AI yang masuk sangat dalam di berbagai aspek kehidupan kita.

Dan tiba-tiba saya juga ikut kepo.

Apalagi menurut Rahul Sharma, di awal tahun 2020 ini diperkirakan hampir 85 persen interaksi layanan konsumen di perusahaan-perusahaan mapan adalah layanan otomasi, di mana teknologi AI dengan mudah akan mengambil peran besar di sana.

Artinya, saya dan juga para pembaca akan lebih banyak ‘ngobrol’ dengan mesin AI ketimbang manusia.

Apakah preferensi tentang siapa kita dikendalikan oleh AI?

Pertanyaan besar Lehnis, bisakah kita menyerahkan proses pengambilan keputusan pada algoritma mesin AI?

Misalnya begini, kita sedang mengajukan kredit ke bank, semua dokumen elektronik telah kita siapkan lengkap, dan semuanya bagus, dengan kata lain tak ada alasan pengajuan pinjaman kredit kita bakal ditolak.

Namun takdir yang dibentuk mesin AI berkata lain. Pengajuan kredit ditolak. Saat kita tanya apa masalahnya, jawabannya: algoritma credit risk assessment-nya memilih untuk tak mengabulkan pengajuan kredit kita.

Dan celakanya, tak ada satu staff pun di bank yang bisa menjelaskan ‘algoritma’ itu kepada kita. Semuanya diputuskan oleh sebuah mesin AI. Inilah ‘takdir digital’ yang diciptakan algoritma dalam mesin AI.

Atau contoh lainnya – bayangkan anda mengajukan aplikasi visa secara elektronik untuk mengunjungi sebuah negara maju di Barat.