JAKARTA, Cakra101.com – Perkembangan Agentic Artificial Intelligence (Agentic AI) membawa kemampuan baru bagi teknologi kecerdasan buatan untuk tidak sekadar memberikan respons, tetapi juga mengambil keputusan dan menjalankan serangkaian tindakan secara mandiri.
Di tengah manfaat tersebut, Wakil Menteri Komunikasi dan Digital Nezar Patria menekankan pentingnya memastikan batas otoritas dan keterlibatan manusia tetap jelas dalam setiap pemanfaatan Agentic AI.
“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?” ujar Wamen Nezar dalam acara Techpresso di Jakarta Barat, Kamis, 10/09/2026.
Wamen Nezar pun mencontohkan penggunaan Agentic AI sebagai asisten perjalanan.
Teknologi tersebut dapat membantu memilih tiket, mengatur akomodasi, menghubungi penyedia layanan, hingga melakukan pembayaran.
Kemampuan tersebut memberikan kemudahan, tetapi sekaligus menimbulkan pertanyaan penting mengenai seberapa jauh kewenangan dapat diberikan kepada AI.
“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.
Menurut Wamen Nezar, risiko semakin kompleks ketika Agentic AI dapat berkomunikasi dan berkoordinasi dengan Agentic AI lainnya.
Dalam kondisi tersebut, proses pengambilan keputusan dapat berlangsung antarmesin tanpa selalu melibatkan manusia secara langsung.
Ia juga mengingatkan adanya potensi silent autonomy, ketika sistem dapat membangun penalaran dan mengambil keputusan tanpa diketahui manusia.
Karena itu, pertanyaan mendasarnya bukan hanya mengenai kemampuan AI untuk menyelesaikan tugas, tetapi juga memastikan manusia tetap memiliki kendali terhadap keputusan dan tindakan yang dihasilkan.
“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan antara ruang inovasi dan perlindungan terhadap manusia,” tegasnya.
Dalam kerangka tersebut, Wamen Nezar menyebut prinsip human centric dan human in the loop sebagai bagian penting dalam tata kelola AI.
Artinya, AI dapat mengambil alih tugas-tugas tertentu untuk meningkatkan efisiensi, tetapi batas otoritas yang diberikan harus dirancang secara jelas dan pada keputusan tertentu keterlibatan manusia tetap diperlukan.
Lebih lanjut, Wamen Nezar menambahkan bahwa risiko AI perlu diperhitungkan sejak pengelolaan data, pengembangan model, hingga proses pengambilan keputusan.
Ancaman seperti prompt injection dan data poisoning, misalnya, dapat memengaruhi keputusan yang dibuat AI.
Karena itu, tata kelola AI perlu berjalan beriringan dengan keamanan siber melalui pendekatan AI safety.
“Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.
Wamen Nezar mengatakan Indonesia saat ini terus menyiapkan kerangka tata kelola AI, antara lain melalui Surat Edaran tentang Etika Kecerdasan Artifisial, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP), serta penyusunan peta jalan nasional AI dan regulasi mengenai etika AI.
Ia menjelaskan bahwa regulasi tidak dimaksudkan untuk menghambat perkembangan teknologi.
Sebaliknya, kerangka tersebut diperlukan agar inovasi AI dapat berkembang dengan risiko yang termitigasi dan manfaat yang lebih besar bagi masyarakat.
“Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” pungkas Wamen Nezar.
(MC101 – Biro Humas Kemkomdigi)
Ringkasan Berita
- Agentic AI memiliki kemampuan mengambil keputusan dan menjalankan serangkaian tindakan secara mandiri.
- Wamen Nezar menekankan pentingnya batas otoritas dan keterlibatan manusia dalam pemanfaatan Agentic AI.
- Risiko dapat meningkat ketika Agentic AI saling berkomunikasi serta mengambil keputusan tanpa keterlibatan manusia secara langsung.
- Prinsip human centric dan human in the loop menjadi bagian penting dalam tata kelola AI.
- Pemerintah menyiapkan kerangka tata kelola AI dengan pendekatan berbasis risiko yang berjalan beriringan dengan keamanan siber.
