Seluruh Pendekatan Kita terhadap AI Penuh Cacat

Ketika kita berbicara tentang AI, kita biasanya berfokus pada satu metrik: produktivitas. Metrik tersebut telah digunakan dalam setiap pengumuman teknologi sejak awal era teknologi saat ini.

Kembali ke saat saya pertama kali menjadi analis teknologi eksternal dan selama persiapan peluncuran Windows 95, argumennya adalah bahwa Windows 95 meningkatkan produktivitas sedemikian rupa sehingga akan memberikan laba atas investasi (ROI) dalam waktu satu tahun sejak pembeliannya. Ternyata selama tahun pertama, produk tersebut rusak sedemikian rupa sehingga berdampak negatif pada produktivitas, bukan positif.

ROI AI berpotensi jauh lebih buruk, dan ironisnya, sebagian besar masalah kita abad ini bukanlah kurangnya produktivitas atau kinerja, tetapi dukungan keputusan yang buruk.

Minggu lalu, saya menghadiri acara persiapan Computex. Saat menonton presentasinya, saya melihat arus bawah produktivitas yang familiar. Saya tetap khawatir bahwa jika kita meningkatkan kecepatan secara signifikan tetapi tidak juga meningkatkan kualitas keputusan terkait, kita akan membuat kesalahan pada kecepatan mesin, yang mungkin tidak dapat bertahan lama.

Mari kita bahas hal itu minggu ini, dan kita akan tutup dengan Produk Minggu Ini, yaitu maskapai penerbangan yang baru saja saya tumpangi ke Taiwan. Maskapai itu jauh lebih baik daripada United, yang biasanya saya gunakan untuk perjalanan internasional, sehingga saya pikir saya akan menjelaskan mengapa begitu banyak maskapai penerbangan non-AS jauh lebih baik daripada maskapai penerbangan AS.

Produktivitas vs. Kualitas

Saya mantan karyawan IBM. Selama bekerja di sana, saya adalah salah satu dari sekelompok kecil yang mengikuti program pelatihan eksekutif IBM. Salah satu prinsip yang ditanamkan kepada semua karyawan adalah bahwa kualitas itu penting.

Kelas yang paling berkesan yang saya ikuti dalam hal ini bukan dari IBM, melainkan dari Society of Competitive Intelligence Professionals (SCIP). Fokusnya adalah kecepatan vs. arah. Instruktur berpendapat bahwa sebagian besar perusahaan berfokus pada kecepatan terlebih dahulu ketika menyangkut proses dan teknologi baru.

Ia berpendapat bahwa jika Anda tidak fokus pada arah terlebih dahulu, Anda akan berakhir berjalan ke arah yang salah dengan kecepatan yang semakin cepat. Jika Anda tidak fokus pada penentuan tujuan terlebih dahulu, kecepatan tidak akan membantu Anda. Kecepatan justru akan memperburuk keadaan.

Saat bekerja di IBM dan Siemens sebagai analis kompetitif, saya memiliki pengalaman menyebalkan saat memberikan dukungan keputusan dan rekomendasi kami tidak hanya diabaikan tetapi juga diperjuangkan dan kemudian tidak diikuti. Hal itu mengakibatkan kerugian besar dan kegagalan beberapa kelompok tempat saya bekerja.

Alasannya adalah para eksekutif lebih suka terlihat benar daripada benar-benar benar. Setelah beberapa waktu, unit saya dibubarkan (tren yang melanda industri) karena para eksekutif tidak suka dipermalukan setelah mengalami kegagalan besar karena mengabaikan nasihat yang berdasar karena “naluri” mereka mengatakan bahwa arah yang telah ditentukan sebelumnya pasti lebih baik, tetapi berulang kali tidak demikian.

Setelah saya berhenti bekerja di dalam perusahaan dan menjadi analis eksternal, saya terkejut karena saran saya lebih mungkin diikuti karena para eksekutif tidak merasa kebenaran saya mengancam karier mereka.

Dari dalam perusahaan, mereka menganggap saya berisiko. Dari luar, saya tidak, jadi mereka lebih bersedia mendengarkan dan mengikuti strategi yang berbeda karena mereka tidak merasa bersaing dengan saya.

Para eksekutif memiliki akses ke sejumlah besar data yang seharusnya memungkinkan mereka membuat keputusan yang lebih baik. Namun, saya masih melihat banyak orang yang membuat keputusan yang tidak berdasar yang mengakibatkan hasil yang buruk.

Oleh karena itu, AI harus difokuskan untuk membantu perusahaan membuat keputusan yang lebih baik, dan baru kemudian fokus pada produktivitas dan kinerja. Jika Anda berfokus pada kecepatan tanpa memastikan keputusan di balik arah tersebut adalah yang benar, Anda cenderung akan mengambil arah yang salah dengan lebih cepat, yang mengakibatkan kesalahan yang lebih sering terjadi dan lebih mahal.

Tantangan Pengambilan Keputusan

Dari kehidupan pribadi hingga profesional, kita dapat membuat keputusan lebih cepat dengan AI, tetapi kualitas keputusan tersebut menurun. Jika Anda menengok kembali Microsoft dan Intel, dua pendukung utama gelombang teknologi AI saat ini, Anda akan melihat bahwa selama sebagian besar keberadaan mereka, khususnya abad ini, perusahaan-perusahaan tersebut membuat keputusan buruk yang mengakibatkan mereka kehilangan satu atau lebih CEO.

Teman lama saya Steve Ballmer dikutuk oleh keputusan buruk demi keputusan buruk, yang menurut saya lebih merupakan hasil dari orang-orang atau pihak yang mendukungnya daripada sesuatu yang melekat pada diri orang itu sendiri.

Orang itu adalah orang terbaik di kelasnya di Harvard dan bisa dibilang orang terpintar yang pernah saya temui. Dia dianggap berjasa atas keberhasilan Xbox. Namun, setelah itu, meskipun berhasil mengelola kinerja keuangan Microsoft dengan baik, dia gagal dengan Zune, Microsoft Phone, dan Yahoo, yang melumpuhkan valuasi Microsoft dan mengakibatkan dia dipecat.

Bersama beberapa analis lainnya, saya awalnya ditugaskan untuk membantunya membuat keputusan yang lebih baik. Namun, kami semua langsung dikesampingkan, meskipun saya menulis banyak email, dengan alasan bahwa jika dia tidak meningkatkan kualitas keputusannya, dia akan dipecat. Sayangnya, dia marah dengan usaha saya. Saya masih menganggap kegagalannya sebagai kegagalan saya sendiri, dan itu akan menghantui saya selama sisa hidup saya.

Masalah ini mencerminkan apa yang terjadi pada John Akers di IBM, yang dikelilingi oleh orang-orang yang tidak mengizinkan informasi dari kami yang lebih dekat dengan masalah. Sementara upaya saya di IBM untuk menghilangkan masalah di perusahaan itu membuahkan hasil, dampak dari orang-orang seperti saya, dan jumlahnya banyak, sangat diturunkan sehingga Akers kehilangan pekerjaannya. Itu bukan karena dia bodoh atau tidak mendengarkan. Itu karena kami diblokir oleh para eksekutif yang mendengarkannya dan tidak ingin kehilangan status yang terkait dengan akses itu.

Dengan demikian, informasi yang dibutuhkan kedua CEO perusahaan untuk meraih kesuksesan ditolak oleh orang-orang yang mereka percaya. Mereka lebih berfokus pada status dan akses daripada memastikan keberhasilan perusahaan tempat mereka bekerja.

Masalah Keputusan AI Ada Dua

Pertama, kita tahu bahwa hasil dari upaya AI, meskipun mengesankan dalam hal kemampuan, juga sangat tidak akurat atau tidak lengkap. The Wall Street Journal baru saja mengevaluasi produk AI teratas dan menemukan bahwa Gemini dari Google dan Copilot dari Microsoft, dengan beberapa pengecualian, memiliki kualitas terendah, meskipun seharusnya paling banyak digunakan.

Selain itu, seperti yang saya sebutkan di atas, meskipun mereka jauh lebih akurat, mengingat perilaku masa lalu, para eksekutif mungkin tidak menggunakannya, lebih memilih intuisi mereka daripada apa pun yang dikatakan sistem kepada mereka. Meskipun ini dapat mengurangi dampak masalah kualitas dengan produk-produk ini, hasilnya adalah sistem yang tidak dapat atau tidak akan dipercaya.

Masalah kualitas saat ini membantu mendukung dan memperkuat perilaku buruk yang ada sebelum generasi AI saat ini, jadi meskipun masalah kualitas dengan AI diperbaiki, AI tetap akan gagal mencapai potensinya untuk membuat bisnis dan pemerintahan lebih sukses.