Apa yang Terjadi?
Anthropic, pengembang AI, baru saja mengajukan gugatan terhadap pemerintah AS. Mereka mengklaim bahwa pemerintah sedang memaksa mereka untuk menghapus dua 'guardrail' dari sistem AI mereka, Claude. Guardrail tersebut meliputi larangan untuk menggunakan AI dalam perang otonom dan pengawasan massal terhadap warga AS.
Detail Teknis
Gugatan tersebut diajukan karena Departemen Perang AS mengancam Anthropic dengan dua tindakan yang bertentangan. Mereka mengancam akan menerapkan Undang-Undang Produksi Pertahanan (Defense Production Act) untuk memaksa Anthropic menyerahkan Claude, atau melarang mereka dari rantai pasokan sebagai ancaman keamanan. Anthropic berargumen bahwa pemerintah tidak dapat mengklaim bahwa sebuah perusahaan sangat penting sehingga harus dipaksa oleh hukum, dan pada saat yang sama dianggap berbahaya sehingga harus di-blacklist.
Apa yang Baru?
Gugatan ini juga menantang landasan hukum untuk tindakan pemerintah. Undang-undang yang dikutip, 10 U.S.C. § 3252, awalnya ditulis untuk kasus di mana musuh asing mungkin menyabotase atau memanipulasi sistem informasi. Definisi pemerintah tentang 'musuh asing' mencakup negara-negara seperti China, Rusia, Iran, Korea Utara, Kuba, dan Venezuela.
Opini Gue
Gokilnya lagi, gugatan ini bukan hanya tentang Anthropic, tapi tentang masa depan pengembangan AI. Kita harus peduli karena ini menyangkut keamanan dan etika dalam pengembangan AI. Jika pemerintah dapat memaksa perusahaan untuk menghapus guardrail, maka itu bisa berarti bahwa kita akan kehilangan kontrol atas pengembangan AI. Ini adalah red flag yang besar, dan kita harus memperhatikan perkembangan ini dengan seksama.
