Melampaui Ekspektasi: Evaluasi Kinerja Dunia Nyata, Bias Algoritmik, dan Integrasi Kecerdasan Buatan dalam Triase Klinis dan Diagnostik

Sistem kecerdasan buatan (AI) semakin cepat diintegrasikan ke dalam alur kerja triase klinis dan diagnostik, namun kinerja dunia nyata, potensi bias algoritmik, dan tantangan integrasi praktisnya masih belum dipahami sepenuhnya. Penelitian ini mengkaji lanskap terkini AI dalam triase klinis dan diagnostik melalui tinjauan literatur sistematis, dengan fokus pada tiga dimensi kritis: evaluasi kinerja dunia nyata, bias dan keadilan algoritmik, serta integrasi ke dalam alur kerja klinis. Temuan menunjukkan bahwa model bahasa besar seperti ChatGPT menunjukkan akurasi triase yang menjanjikan—dengan akurasi diagnostik mencapai 89–92% dan rekomendasi triase dinilai sesuai dalam 92% skenario triase onkologi yang disimulasikan—tanpa rekomendasi berbahaya atau tidak tepat dalam lebih dari 132 interaksi simulasi. Namun, kinerja bervariasi secara signifikan antar model, dengan ChatGPT-4o mengungguli ChatGPT-o1pro dalam rekomendasi pengobatan (94% vs 77% sesuai). Bias sangat berdampak dalam layanan kesehatan, karena sistem AI dilatih pada data klinis yang dihasilkan dalam sistem yang telah dipengaruhi oleh disparitas dalam hasil, akses, dan bias penyedia. Sebuah studi terhadap sembilan LLM yang menganalisis lebih dari 1,7 juta output dari 1.000 kasus gawat darurat menemukan bahwa kasus yang diberi label Kulit Hitam, tunawisma, atau LGBTQIA+ lebih sering diarahkan ke perawatan darurat, intervensi invasif, atau evaluasi kesehatan mental, sementara kasus berlabel berpenghasilan tinggi menerima rekomendasi pencitraan lanjutan secara signifikan lebih banyak. Kerangka audit doubly-robust yang menganalisis 193.683 pasien ICU mengidentifikasi disparitas mortalitas sebesar 5,1 poin persentase dengan perbedaan efek pengobatan prediktif antara pasien muda dan tua. Dalam pencitraan diagnostik, model visi-bahasa menunjukkan potensi tetapi masih terbatas oleh halusinasi yang meresap (~22% kesalahan faktual dalam laporan yang dihasilkan AI), kurangnya validasi eksternal, dan hambatan integrasi. Keberhasilan integrasi memerlukan desain yang berpusat pada manusia, optimasi ambang batas untuk konteks klinis spesifik, dan pemantauan berkelanjutan pasca-penerapan. Penelitian ini menyimpulkan bahwa sistem AI memiliki potensi transformatif tetapi belum siap untuk penggunaan klinis otonom; nilai utamanya terletak pada augmentasi alur kerja klinisi, yang memerlukan evaluasi bias yang kuat, validasi spesifik model, dan mempertahankan pengawasan manusia sebagai komponen penting dari penerapan AI yang bertanggung jawab dalam triase klinis dan diagnostik.