WARTALENTERA- Wakil Menteri Komunikasi dan Digital Nezar Patria menegaskan pentingnya pengawasan khusus dalam pemanfaatan teknologi kecerdasan artifisial (AI) di sektor kesehatan, khususnya melalui pendekatan sandboxing dalam proses pengembangan dan uji coba.
“Saya kira penting sekali. AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat,” ujar Nezar Patria melalui keterangan resminya di Jakarta, Sabtu (3/5/2025).
Nezar menjelaskan bahwa sebelum sebuah sistem AI diimplementasikan secara luas, penting bagi sistem tersebut untuk melewati tahapan pengujian di lingkungan terbatas dan terkontrol. Hal ini memungkinkan integrasi ke sistem yang lebih besar dilakukan dengan aman.
Menurutnya, para pemangku kepentingan perlu hadir dan terlibat dalam proses sandboxing untuk menilai aspek teknis, etis, kesiapan operasional, dan potensi dampaknya bagi masyarakat. Ia mencontohkan China sebagai negara yang berhasil memanfaatkan sandboxing di pasar domestik sebelum mengembangkan AI mereka ke tingkat global.
“China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas. Dan sebelum go global, mereka mencoba di pasar domestik dulu, jadi sandboxing-nya sudah berlangsung di negara mereka lebih dulu,” kata Nezar.
Meski demikian, ia mengakui masih ada sejumlah tantangan yang harus dihadapi, khususnya dalam penerapan model Agentic AI yang mampu membuat keputusan sendiri. Risiko, katanya, tidak bisa dihindari dalam pengembangan teknologi canggih.
“AI di sektor kesehatan tantangannya besar sekali. Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” jelasnya.
Nezar menekankan pentingnya pendekatan berbasis data nasional yang telah dikurasi dan divalidasi oleh para ahli dalam negeri. Dengan demikian, Indonesia diyakini mampu membangun sistem AI yang tak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila.
