Studi menunjukkan ChatGPT cenderung memberikan resep berlebihan dalam keadaan darurat

Sebuah studi yang dilakukan oleh UC San Francisco menemukan bahwa ChatGPT, ketika diterapkan dalam perawatan darurat, sering kali merekomendasikan perawatan yang tidak perlu seperti sinar-X dan antibiotik. Ia juga menerima pasien yang tidak memerlukan rawat inap. Meskipun memiliki kelebihan di beberapa area, model AI kesulitan untuk menyamai keakuratan dokter manusia dalam pengambilan keputusan yang lebih kompleks.
Para peneliti menemukan bahwa meskipun ChatGPT dapat unggul dalam tugas-tugas yang lebih sederhana seperti menentukan pasien mana yang lebih sakit, ChatGPT cenderung memberikan resep yang berlebihan ketika menghadapi kasus-kasus darurat yang sebenarnya. ChatGPT-4 berkinerja 8% lebih buruk daripada dokter residen, sementara versi 3.5 24% kurang akurat. Pemberian resep yang berlebihan ini dapat menyebabkan perawatan yang tidak perlu, peningkatan biaya perawatan kesehatan, dan tekanan pada sumber daya.
Penelitian ini menyoroti bahwa model AI dipengaruhi oleh pelatihan internet mereka, sering kali lebih berhati-hati dengan merekomendasikan konsultasi medis. Meskipun pendekatan ini sesuai untuk keselamatan umum, pendekatan ini dapat menjadi masalah dalam situasi darurat, di mana perawatan yang tidak diperlukan dapat membahayakan pasien. Kerangka kerja yang lebih baik diperlukan sebelum AI dapat membantu UGD dengan andal.
Para peneliti tengah berupaya menemukan cara yang lebih baik bagi AI untuk mengevaluasi informasi klinis dalam perawatan darurat. Keseimbangan harus ditemukan antara mencegah kelalaian serius dan menghindari intervensi medis yang berlebihan.