Langkah-langkah peringatan yang biasanya diterapkan pada teknologi baru apa pun tidak dilakukan secara konsisten sehubungan dengan alat model bahasa besar (LLM), yang menggunakan AI untuk mengolah data, membuat konten, dan menjawab pertanyaan, Organisasi Kesehatan Dunia (WHO) memperingatkan.
“Adopsi yang cepat dari sistem yang belum teruji dapat menyebabkan kesalahan oleh petugas layanan kesehatanmembahayakan pasien, mengikis kepercayaan pada AI, dan dengan demikian merusak atau menunda potensi manfaat jangka panjang dan penggunaan teknologi semacam itu di seluruh dunia,” kata agensi tersebut.
Dengan demikian, agensi mengusulkan agar masalah ini ditangani dan bukti yang jelas tentang manfaat diukur sebelum penggunaannya secara luas dalam perawatan kesehatan rutin dan obat-obatan.
Menghindari kesalahan terkait kesehatan
Meskipun antusias dengan penggunaan teknologi yang tepat untuk mendukung profesional perawatan kesehatan, pasien, peneliti, dan ilmuwan, WHO mengatakan hal ini alat berbasis AI baru membutuhkan kewaspadaanterutama mengingat platform yang berkembang pesat seperti ChatGPT, Bard, BERT, dan banyak lainnya yang meniru pemahaman, pemrosesan, dan menghasilkan komunikasi manusia.
Misalnya, alat baru ini dapat menghasilkan jawaban yang mungkin tampak otoritatif dan masuk akal bagi pengguna akhir. Bahayanya adalah tanggapan ini mungkin sepenuhnya salah atau mengandung kesalahan serius, terutama yang berkaitan dengan masalah kesehatan, kata WHO.
Mereka juga bisa disalahgunakan untuk menghasilkan dan menyebarkan disinformasi yang sangat meyakinkan berupa konten teks, audio, atau video yang sulit dibedakan oleh publik dengan konten kesehatan terpercaya.
Memanfaatkan AI dengan aman
Itu risiko harus diperiksa dengan hati-hati ketika menggunakan alat baru ini untuk meningkatkan akses ke informasi kesehatan, sebagai alat pendukung keputusan, atau bahkan untuk meningkatkan kapasitas diagnostik di lingkungan yang kekurangan sumber daya untuk melindungi kesehatan masyarakat dan mengurangi ketidaksetaraan, kata WHO.
Berkomitmen untuk memanfaatkan teknologi baru untuk meningkatkan kesehatan manusia, WHO merekomendasikan para pembuat kebijakan menjamin keselamatan dan perlindungan pasien sebagai perusahaan teknologi bekerja untuk mengkomersialkan alat LLM.
Agensi menegaskan kembali pentingnya menerapkan prinsip-prinsip etika dan tata kelola yang tepat. Dalam nada ini, badan kesehatan PBB pada tahun 2021, diterbitkan Etika dan Tata Kelola Kecerdasan Buatan untuk Kesehatan menjelang adopsi kesepakatan global pertama tentang etika AI.
Sumber :