Bisnis.com, JAKARTA — Kementerian Komunikasi dan Digital (Komdigi) menilai teknologi kecerdasan artifisial atau Artificial Intelligence (AI) di sektor kesehatan membutuhkan perhatian yang lebih serius.
Wakil Menteri Komunikasi dan Digital Nezar Patria, menegaskan arti penting proses pengembangan dan pengawasan melalui pendekatan sandboxing.
Menurutnya, sebelum sebuah sistem AI diimplementasikan secara luas, terlebih dahulu perlu melewati tahapan pengujian dalam lingkungan terbatas dan terkontrol sebelum terintegrasi ke sistem yang lebih besar.
“Saya kira penting sekali. AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat,” kata Nezar dalam keterangannya, Sabtu (3/5/2025).
Menurut Nezar, dalam proses sandboxing para pemangku kepentingan bisa menilai berbagai aspek teknis dan etis, termasuk kesiapan operasional dan potensi dampaknya terhadap masyarakat.
Dia mencontohkan proses yang dijalankan di China dan bisa mengungguli negara-negara maju lain karena melakukan sandboxing terlebih dahulu di level domestik.
“Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxingnya sudah berlangsung di negara mereka lebih dulu,” tambahnya.
Nezar mengingatkan tantangan lain dalam penerapan model Agentic AI, yang mampu membuat keputusan sendiri tanpa campur tangan orang lain.
Menurutnya, hal ini adalah risiko yang tidak bisa dihindari dalam pengembangan teknologi mutakhir. Khususnya dalam konteks kesehatan, risiko AI bukan hanya teknis, tetapi juga sosial dan etis.
"AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” ucap Nezar.
Oleh karena itu, Nezar Patria menekankan pengembangan AI kesehatan yang berbasis pada data nasional yang telah dikurasi dan divalidasi oleh para ahli dalam negeri.
“Dengan pendekatan ini, Indonesia bisa membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila,” pungkasnya.
