PBB Peringatkan Bahaya AI, Jangan Sampai Masa Depan Manusia Dikendalikan Mesin

JAKARTA, KUCANTIK.COM - Perkembangan kecerdasan buatan atau artificial intelligence (AI) yang melaju sangat cepat kini memicu kekhawatiran dunia. Perserikatan Bangsa-Bangsa (PBB) mengingatkan teknologi tersebut tidak boleh dibiarkan berkembang tanpa kendali hingga akhirnya menentukan masa depan umat manusia.

Sekretaris Jenderal PBB, Antonio Guterres, menyerukan pembentukan sistem tata kelola global yang mampu memastikan AI dimanfaatkan secara bertanggung jawab, aman, dan berpihak pada kepentingan seluruh masyarakat dunia. Menurutnya, kemajuan teknologi saat ini telah melampaui kecepatan penyusunan aturan yang mengawasinya.

Dalam pembukaan Dialog Global Pertama tentang Tata Kelola AI di Jenewa, Guterres mengatakan dunia saat ini sedang menghadapi sebuah eksperimen besar. Sayangnya, eksperimen tersebut berlangsung langsung pada kehidupan masyarakat tanpa perencanaan yang matang maupun persetujuan bersama.

Ia menilai kondisi tersebut tidak dapat terus dibiarkan karena berpotensi menimbulkan konsekuensi yang jauh lebih besar di masa depan. Menurutnya, perkembangan AI kini bukan lagi sekadar persoalan inovasi teknologi, melainkan menyangkut arah peradaban manusia.

Guterres menegaskan AI memang membawa perubahan besar dalam berbagai sektor kehidupan. Teknologi ini membantu meningkatkan efisiensi kerja, mempercepat riset ilmiah, mendukung layanan kesehatan, hingga memperluas akses pendidikan di berbagai negara.

Namun di balik manfaat tersebut, muncul pertanyaan mendasar yang harus segera dijawab bersama. Apakah manusia akan mengendalikan transformasi AI secara kolektif, atau justru membiarkan teknologi tersebut membentuk kehidupan manusia tanpa batas yang jelas?

Menurut Guterres, perkembangan AI sudah memasuki fase baru. Sistem kecerdasan buatan saat ini tidak lagi hanya menjalankan perintah yang diberikan manusia, tetapi mulai mampu menulis kode program sendiri, beroperasi secara daring, bahkan mengambil berbagai keputusan dengan campur tangan manusia yang semakin minim.

Kondisi tersebut dinilai menjadi tantangan besar bagi sistem hukum dan lembaga internasional yang selama ini dirancang untuk mengatur mesin yang hanya menjalankan instruksi, bukan teknologi yang memiliki kemampuan mengambil keputusan secara mandiri.

Ia juga menyoroti tren yang kini semakin populer, yaitu vibe coding. Fenomena ini memungkinkan seseorang menciptakan aplikasi atau program hanya dengan memberikan instruksi sederhana kepada AI, tanpa harus memahami bahasa pemrograman secara mendalam.

Meski dinilai mampu mempercepat inovasi digital, Guterres mengingatkan kemudahan tersebut tidak boleh membuat manusia menyerahkan kendali terhadap masa depan kepada algoritma. Menurutnya, keputusan penting yang menyangkut kehidupan manusia tidak bisa hanya didasarkan pada respons otomatis dari teknologi.

Selain persoalan kemampuan AI yang terus berkembang, PBB juga menyoroti risiko semakin terkonsentrasinya kekuasaan teknologi pada segelintir perusahaan dan negara maju. Jika kondisi tersebut terus berlangsung, banyak negara berkembang dikhawatirkan hanya akan menjadi pengguna teknologi tanpa memiliki kesempatan menentukan arah pengembangannya.

Situasi ini berpotensi memperlebar kesenjangan digital sekaligus menciptakan ketimpangan baru dalam penguasaan ekonomi, informasi, dan teknologi di tingkat global.

Meski demikian, Guterres menegaskan PBB tidak memandang AI sebagai ancaman yang harus dihentikan. Sebaliknya, teknologi tersebut memiliki potensi luar biasa untuk mempercepat pencapaian tujuan pembangunan berkelanjutan apabila dikembangkan secara bertanggung jawab.

Menurutnya, AI dapat membantu meningkatkan kualitas layanan kesehatan, mempercepat inovasi di bidang sains, memperluas akses pendidikan, hingga mendorong pertumbuhan ekonomi di berbagai negara. Namun, seluruh manfaat tersebut hanya dapat dirasakan apabila pengembangannya disertai aturan yang jelas, standar keamanan yang ketat, serta penghormatan terhadap hak asasi manusia.

Salah satu perhatian utama PBB adalah perlindungan terhadap anak-anak. Guterres mengusulkan pembentukan Janji Keamanan Anak Berbasis AI yang mewajibkan setiap perusahaan teknologi membuktikan sistem AI yang dapat diakses anak aman digunakan.

Ia juga meminta seluruh pengembang menerapkan kebijakan tanpa toleransi terhadap segala bentuk eksploitasi seksual maupun penyalahgunaan AI yang melibatkan anak-anak.

Bagi Guterres, anak-anak tidak boleh menjadi korban dari perlombaan teknologi yang berkembang terlalu cepat tanpa pengawasan memadai. Dunia, menurutnya, harus memastikan inovasi digital tetap berjalan seiring dengan perlindungan terhadap kelompok yang paling rentan.

Melalui seruan tersebut, PBB berharap negara-negara di seluruh dunia segera menyusun tata kelola AI yang bersifat global, inklusif, dan mengikat. Tanpa regulasi yang kuat, perkembangan kecerdasan buatan dikhawatirkan tidak lagi menjadi alat yang membantu manusia, melainkan justru menjadi kekuatan yang mengendalikan arah masa depan peradaban.