KALIMANTAN TIMUR — Anggota AI Safety Institute Indonesia (AISII) Alva Erwin menilai potensi AI mengancam eksistensi manusia nyata jika dibiarkan tanpa kendali. Erwin menyebut spektrum risiko AI bergerak dari level rendah hingga katastropik, sehingga wacana perlambatan pengembangan AI oleh perusahaan besar Amerika Serikat perlu direspons dengan regulasi dan sistem keamanan yang memadai.
Alva Erwin menyampaikan penilaian itu kepada CNNIndonesia.com pada Minggu (21/9). Ia menegaskan bahwa AI sebagai produk sosio-teknologi membawa risiko yang harus dikendalikan supaya tidak menimbulkan dampak yang tidak diinginkan.
Erwin memetakan ancaman AI ke dalam empat domain utama. Pertama, masalah internal model atau intrinsic risk, mencakup halusinasi, bias, hingga potensi terciptanya super-intelligence.
Kedua, penyalahgunaan dengan niat jahat atau misuse, seperti serangan siber dan disinformasi berbasis deepfake. Ketiga, dampak sosio-ekonomi-lingkungan berupa disrupsi tenaga kerja, krisis privasi, serta kebutuhan energi dan air yang sangat tinggi.
Keempat, kerapuhan sistem dan lambatnya regulasi atau systemic & governance risks. Menurut Erwin, keempat domain ini saling terkait dan memperkuat risiko satu sama lain jika tidak ada pengawasan yang memadai.
Erwin berargumen bahwa memperlambat laju pengembangan AI dapat memberi ruang bagi berbagai pihak untuk mempersiapkan diri. Ruang itu dibutuhkan mulai dari masyarakat pengguna, masyarakat terdampak, industri pengembang AI, ilmuwan AI, hingga pembuat kebijakan.
"Memperlambat laju pengembangan AI dapat memberi ruang dari berbagai perspektif stakeholders seperti masyarakat pengguna maupun masyarakat terdampak, industri pengembang AI, AI scientist serta pembuat kebijakan untuk membuat regulasi, etika, dan sistem keamanan yang dibutuhkan, sebelum teknologinya melompat terlalu jauh di luar kendali kita," ujar Erwin.
Ia merujuk sejumlah riset yang menunjukkan bahwa secara teoritis, sistem cerdas punya kecenderungan memastikan tercapainya tujuan yang telah ditetapkan. Pencapaian tujuan itu bisa memakai cara yang keliru dan berisiko merugikan manusia.
Risiko tersebut membesar jika teknologi memiliki kemampuan recursive self-improvement. Dalam kondisi itu, model AI mampu meriset, memperbaiki, dan melatih dirinya sendiri tanpa campur tangan manusia, sehingga dapat memicu ledakan kecerdasan yang di luar kendali.
Erwin menilai perdebatan mengenai ancaman AI tidak lepas dari dinamika geopolitik antara Amerika Serikat dan China. Menurutnya, perdebatan ini kerap memicu pemikiran bahwa narasi bahaya AI dan upaya perlambatan hanyalah bentuk menakut-nakuti atau fearmongering.
"Seruan pembatasan dan perlambatan riset ini kerap dicurigai sebagai upaya untuk menghalangi kemajuan dari pihak lawan, sekaligus menjaga keunggulan kompetitif industri tertentu di kancah persaingan global," katanya.
Dari sisi industri, perlambatan pengembangan model AI paling mutakhir (frontier model) oleh sejumlah perusahaan besar dinilai dapat mengubah arah persaingan teknologi AI. Erwin memperkirakan pengembangan AI tidak lagi semata-mata berfokus memperbesar ukuran dan kemampuan model.
"Industri akan beralih dari sekadar memperbesar ukuran model (frontier scalling) menuju optimalisasi model yang lebih ramping, arsitektur RAG yang presisi serta metode kompresi (quantization) untuk meningkatkan efisiensi," ujar Erwin.
Pergeseran itu, lanjutnya, juga akan berdampak pada penerapan pengawas independen mirip regulator perbankan atau pasar modal. Namun, hal ini menambah beban biaya compliance yang kemungkinan hanya mampu dipenuhi oleh raksasa teknologi.
Perlambatan laju pengembangan AI juga dapat berdampak pada pertumbuhan ekosistem sumber terbuka (open source). "Bila model tertutup (proprietary) melambat, komunitas open-source berpotensi mengisi kekosongan, kecuali jika regulasi juga mencakup pembatasan komputasi perangkat keras (hardware/GPU export limits)," tutup Erwin.