Jakarta — Perkembangan pesat kecerdasan buatan atau artificial intelligence (AI) kembali memicu kekhawatiran di kalangan industri teknologi. CEO Anthropic, Dario Amodei, meminta perusahaan-perusahaan AI memperlambat laju pengembangan teknologi frontier AI agar sistem keselamatan dan pengawasan memiliki waktu untuk mengejar kemampuan AI yang semakin maju.
Dalam esai berjudul “We Must Pace the Frontier”, Amodei memperingatkan bahwa perkembangan AI saat ini bergerak sangat cepat. Menurutnya, risiko yang muncul bukan hanya berkaitan dengan penyalahgunaan oleh manusia, tetapi juga kemungkinan munculnya sistem AI yang mampu menjalankan operasi kompleks secara semakin mandiri.
Anthropic Soroti Risiko AI yang Semakin Otonom
Salah satu kekhawatiran utama Amodei adalah perkembangan AI agent yang dapat bekerja dalam jumlah besar dan menjalankan berbagai tugas secara otomatis.
Ia memperkirakan bahwa dalam enam hingga 12 bulan, perkembangan kemampuan AI dapat mencapai tahap di mana sekelompok agen AI yang sangat kuat berpotensi melakukan operasi berskala besar terhadap sistem internet. Pernyataan tersebut merupakan peringatan mengenai kemungkinan risiko di masa depan, bukan klaim bahwa AI saat ini sudah mampu mengambil alih internet.
Anthropic menilai kemampuan AI berkembang lebih cepat dibandingkan mekanisme keselamatan yang tersedia. Karena itu, perusahaan tersebut mendorong adanya waktu tambahan untuk mengembangkan sistem pengawasan, evaluasi keamanan, dan metode alignment sebelum kemampuan AI meningkat lebih jauh.
Tiga Langkah yang Diusulkan Anthropic
Amodei mengusulkan pendekatan yang berfokus pada pengembangan AI secara lebih terukur. Salah satu langkah utamanya adalah melibatkan pengawas keselamatan independen yang dapat memperoleh akses luas untuk mengevaluasi model AI selama proses pengembangan.
Anthropic menyatakan telah berkomitmen menjalankan langkah tersebut. Perusahaan juga mendorong adanya standar keselamatan yang lebih luas di tingkat nasional serta kerja sama internasional untuk mengurangi risiko perlombaan AI yang tidak terkendali.
Menurut Anthropic, perlambatan tidak cukup dilakukan oleh satu perusahaan saja. Jika hanya satu pengembang yang mengurangi kecepatannya sementara perusahaan atau negara lain terus melaju, tekanan kompetisi justru dapat membuat upaya keselamatan menjadi lebih sulit.
Sejumlah Bos AI Ikut Mendukung
Seruan Amodei mendapat perhatian dari sejumlah tokoh besar industri teknologi.
CEO OpenAI Sam Altman dan Elon Musk termasuk pihak yang menyatakan dukungan terhadap gagasan untuk memperlambat atau mengatur perkembangan AI frontier. Perkembangan ini menjadi menarik karena perusahaan-perusahaan tersebut pada saat yang sama tengah bersaing ketat dalam mengembangkan model AI yang semakin canggih.
Dukungan tersebut menunjukkan adanya kekhawatiran yang semakin besar di kalangan pengembang AI mengenai keseimbangan antara kecepatan inovasi dan keselamatan teknologi.
Tidak Semua Pihak Setuju Memperlambat AI
Seruan untuk memperlambat pengembangan AI juga menghadapi tantangan. Salah satu kekhawatiran terbesar adalah persaingan teknologi antara Amerika Serikat dan China.
Jika perusahaan-perusahaan AS memperlambat pengembangan secara sepihak, terdapat kekhawatiran negara atau perusahaan lain dapat terus mengembangkan teknologi AI dengan kecepatan tinggi dan memperoleh keunggulan strategis.
Presiden AS Donald Trump sendiri pada Minggu, 13 September 2026, menolak gagasan bahwa Amerika Serikat seharusnya memperlambat pengembangan AI. Trump menegaskan keinginannya agar AS tetap menjadi pemimpin dalam teknologi tersebut dan menyatakan bahwa pihak yang memenangkan persaingan AI akan memiliki keunggulan besar.
Perlombaan AI Memasuki Babak Baru
Perdebatan terbaru ini menunjukkan bahwa industri AI kini menghadapi dilema besar. Di satu sisi, kemampuan AI berkembang dengan cepat dan berpotensi memberikan manfaat besar bagi ekonomi, penelitian, kesehatan, serta berbagai sektor lainnya.
Di sisi lain, peningkatan kemampuan AI juga memunculkan pertanyaan mengenai keamanan, penyalahgunaan, serangan siber, dan kemampuan manusia untuk tetap mengendalikan sistem yang semakin otonom.
Anthropic sendiri tidak menyerukan penghentian permanen seluruh pengembangan AI. Fokus yang disampaikan Amodei adalah memberikan waktu bagi teknologi keselamatan dan tata kelola untuk mengejar perkembangan kemampuan AI.
Dengan semakin banyaknya perusahaan dan tokoh teknologi yang mulai membicarakan perlunya “memperlambat” perkembangan AI, persaingan kecerdasan buatan kini tidak hanya mengenai siapa yang memiliki model paling kuat, tetapi juga siapa yang mampu memastikan teknologi tersebut berkembang secara aman dan dapat dikendalikan.
Teknologi
← Kembali ke Beranda