Pembobol Akses Sistem AI Mythos yang Direstriksi
Sekelompok pengguna tidak sah berhasil mengakses model AI Mythos yang direstriksi oleh Anthropic, seperti yang dilaporkan oleh Bloomberg.
Model AI ini dianggap sangat kuat oleh Anthropic sehingga dapat memungkinkan serangan cyber yang berbahaya, sehingga hanya tersedia untuk mitra tertentu seperti Apple, Amazon, dan Cisco melalui program "Project Glasswing".
Teknis Detil
Pengguna tidak sah tersebut, yang merupakan anggota dari sebuah kanal Discord pribadi, berhasil mengakses sistem menggunakan kredensial akses dari seorang kontraktor yang bekerja untuk Anthropic, serta informasi yang tersedia secara publik dari kebocoran data di startup AI Mercor.
Fitur Utama
- Model AI Mythos dianggap sangat kuat oleh Anthropic
- Hanya tersedia untuk mitra tertentu melalui program "Project Glasswing"
- Pengguna tidak sah berhasil mengakses sistem menggunakan kredensial akses dari kontraktor dan informasi publik dari kebocoran data
Pendapat Geek
Ini adalah contoh kasus di mana keamanan sistem AI sangat penting.
Pengguna tidak sah berhasil mengakses model AI yang direstriksi, tetapi untungnya tidak menggunakan akses tersebut untuk kejahatan.
Namun, ini masih menimbulkan pertanyaan tentang keamanan sistem AI dan bagaimana mencegah akses tidak sah di masa depan.
