Wakil Menteri Komunikasi dan Digital Tekankan Pengawasan AI di Bidang Kesehatan
Jakarta (BERITA HARIAN ONLINE) – Wakil Menteri Komunikasi dan Digital, Nezar Patria, menyoroti pentingnya perhatian khusus dalam penggunaan teknologi kecerdasan buatan (AI) di sektor kesehatan, terutama dalam proses pengembangan dan pengawasan melalui pendekatan sandboxing.
“Saya kira ini sangat penting. AI harus melewati proses ini terlebih dahulu. Di sini kita dapat melihat bagaimana sistem tersebut mematuhi regulasi, bagaimana mitigasi risikonya, dan apakah sesuai dengan use case yang diajukan, serta uji coba yang dilakukan,” ujar Nezar Patria dalam pernyataan resminya di Jakarta, Sabtu.
Ia menambahkan bahwa sangat penting bagi sistem AI untuk menjalani pengujian di lingkungan yang terbatas dan terkontrol sebelum diterapkan secara luas dan terintegrasi ke dalam sistem yang lebih besar.
Menurutnya, para pemangku kepentingan harus terlibat dalam proses sandboxing untuk menilai berbagai aspek teknis dan etis, kesiapan operasional, serta potensi dampaknya bagi masyarakat.
China telah menjadi contoh yang baik dengan menerapkan sandboxing terlebih dahulu di tingkat domestik, sehingga mampu bersaing dengan negara maju lainnya.
“China sudah mencapai tingkat AI yang canggih, dengan banyak robot berbasis AI untuk melakukan berbagai tugas. Sebelum merambah pasar global, mereka menguji coba di pasar domestik, sehingga sandboxing sudah dilakukan di negara mereka lebih dahulu,” ungkapnya.
Meski demikian, ada beberapa tantangan yang harus diatasi dalam penerapan model Agentic AI, yang dapat mengambil keputusan secara mandiri. Menurutnya, risiko adalah sesuatu yang tidak dapat dihindari dalam pengembangan teknologi canggih.
Dalam konteks kesehatan, risiko AI tidak hanya bersifat teknis, tetapi juga sosial dan etis.
“AI di sektor kesehatan menghadapi tantangan besar. Disinformasi, misalnya, adalah sektor kedua tertinggi setelah politik. Selain itu, terdapat bias dari kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melalui uji klinis,” jelasnya.
Dengan pendekatan berdasarkan data nasional yang telah dikurasi dan divalidasi oleh para ahli lokal, Indonesia diyakini dapat membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sejalan dengan nilai-nilai Pancasila.
