Anthropic baru saja menambahkan fitur keamanan baru pada model AI Fable 5 untuk memenuhi permintaan pemerintah Trump.
Latar Belakang
Perusahaan ini sebelumnya mengalami masalah dengan pemerintah Trump karena model AI-nya yang dianggap terlalu powerful.
Fitur Keamanan Baru
Fitur keamanan baru ini akan mencegah pengguna mengakses kemampuan tertentu yang dianggap sensitif.
- Pengguna yang mencoba mengakses kemampuan tersebut akan diarahkan ke model AI yang menos advanced, Opus 4.8.
- Fitur ini ditambahkan setelah ditemukan bahwa pengguna dapat mengakali sistem keamanan dengan meminta model AI untuk memperbaiki kode, bukan mengidentifikasi masalah keamanan.
Dampak
Penambahan fitur keamanan baru ini diharapkan dapat meningkatkan kepercayaan pemerintah Trump terhadap Anthropic. Namun, masih banyak tantangan yang dihadapi perusahaan ini, termasuk perintah dari sekretaris pertahanan Pete Hegseth yang menyatakan bahwa Anthropic masih dianggap sebagai risiko rantai pasokan.
Pendapat Geek
Menurut saya, penambahan fitur keamanan baru ini adalah langkah yang tepat untuk meningkatkan kepercayaan pemerintah dan masyarakat terhadap model AI. Namun, masih banyak pekerjaan yang harus dilakukan untuk memastikan bahwa model AI dapat digunakan dengan aman dan bertanggung jawab.
