SIAPA telah mengeluarkan panduan baru mengenai etika dan tata kelola model multimodal besar (LMM) agar dapat digunakan secara tepat untuk meningkatkan dan melindungi kesehatan masyarakat. LMM merupakan jenis generatif yang pertumbuhannya cepat kecerdasan buatan (AI) teknologi yang memiliki lima aplikasi luas untuk kesehatan in
1. Diagnosis dan perawatan klinis, seperti menanggapi pertanyaan tertulis pasien;
2. Penggunaan yang dipandu oleh pasien, seperti untuk menyelidiki gejala dan pengobatan;
3. Tugas administrasi dan administrasi, seperti mendokumentasikan dan merangkum kunjungan pasien dalam catatan kesehatan elektronik;
4. Pendidikan kedokteran dan keperawatan, termasuk memberikan simulasi pertemuan pasien kepada peserta pelatihan, dan;
5. Penelitian ilmiah dan pengembangan obat, termasuk untuk mengidentifikasi senyawa baru.
Namun, penerapan layanan kesehatan ini berisiko menghasilkan pernyataan yang salah, tidak akurat, bias, atau tidak lengkap, yang dapat merugikan orang yang menggunakan informasi tersebut dalam mengambil keputusan kesehatan. Selain itu, LMM mungkin dilatih mengenai data yang berkualitas buruk atau bias, baik berdasarkan ras, etnis, keturunan, jenis kelamin, identitas gender, atau usia. Ada juga risiko yang lebih luas terhadap sistem kesehatan, seperti aksesibilitas dan keterjangkauan LMM yang berkinerja terbaik. LMM juga dapat mendorong 'bias otomasi' oleh para profesional layanan kesehatan dan pasien, yang mana kesalahan yang seharusnya teridentifikasi diabaikan atau pilihan-pilihan sulit didelegasikan secara tidak tepat ke LMM. LMM, seperti bentuk lainnya AI, juga rentan terhadap risiko keamanan siber yang dapat membahayakan informasi pasien atau keandalan algoritma tersebut dan penyediaan layanan kesehatan secara lebih luas.
Oleh karena itu, untuk menciptakan LMM yang aman dan efektif, WHO telah memberikan rekomendasi kepada pemerintah dan pengembang LMM.
Pemerintah mempunyai tanggung jawab utama untuk menetapkan standar pengembangan dan penerapan LMM, serta integrasi dan penggunaannya untuk tujuan kesehatan masyarakat dan medis. Pemerintah harus berinvestasi atau menyediakan infrastruktur nirlaba atau publik, termasuk daya komputasi dan kumpulan data publik, yang dapat diakses oleh pengembang di sektor publik, swasta, dan nirlaba, yang mengharuskan pengguna untuk mematuhi prinsip-prinsip dan nilai-nilai etika. pertukaran akses.
· Menggunakan undang-undang, kebijakan dan peraturan untuk memastikan bahwa LMM dan aplikasi yang digunakan dalam layanan kesehatan dan pengobatan, terlepas dari risiko atau manfaat yang terkait dengan AI teknologi, memenuhi kewajiban etis dan standar hak asasi manusia yang mempengaruhi, misalnya, martabat, otonomi, atau privasi seseorang.
· Menugaskan badan pengatur yang sudah ada atau yang baru untuk menilai dan menyetujui LMM dan aplikasi yang dimaksudkan untuk digunakan dalam layanan kesehatan atau pengobatan – jika sumber daya mengizinkan.
· Memperkenalkan audit wajib pasca-rilis dan penilaian dampak, termasuk untuk perlindungan data dan hak asasi manusia, oleh pihak ketiga yang independen ketika LMM diterapkan dalam skala besar. Audit dan penilaian dampak harus dipublikasikan
dan harus mencakup hasil dan dampak yang dipilah berdasarkan jenis pengguna, termasuk misalnya berdasarkan usia, ras, atau disabilitas.
· LMM dirancang tidak hanya oleh ilmuwan dan insinyur. Pengguna potensial dan seluruh pemangku kepentingan langsung dan tidak langsung, termasuk penyedia layanan kesehatan, peneliti ilmiah, profesional layanan kesehatan, dan pasien, harus dilibatkan sejak tahap awal. AI pembangunan dalam desain yang terstruktur, inklusif, transparan dan diberikan peluang untuk mengangkat isu-isu etika, menyuarakan keprihatinan dan memberikan masukan bagi masyarakat AI aplikasi yang sedang dipertimbangkan.
LMM dirancang untuk melakukan tugas yang terdefinisi dengan baik dengan akurasi dan keandalan yang diperlukan untuk meningkatkan kapasitas sistem kesehatan dan memajukan kepentingan pasien. Pengembang juga harus mampu memprediksi dan memahami potensi hasil sekunder.
***
Sumber:
WHO 2024. Etika dan tata kelola kecerdasan buatan untuk kesehatan: panduan model multimodal besar. Tersedia di https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
