Fable, Model AI Terbaru dari Anthropic, Mendapat Kritik dari Peneliti Keamanan Sibernetik
Anthropic baru saja meluncurkan model AI terbarunya, Fable, yang digadang-gadang sebagai versi publik dan terbatas dari model keamanan sibernetik yang kuat dan banyak dibicarakan, Mythos. Namun, tidak semua pihak bahagia dengan keterbatasan yang diterapkan pada Fable. Beberapa peneliti keamanan sibernetik dan profesional telah mengungkapkan keluhan mereka secara online.
Apa yang Membuat Fable Berbeda?
Fable memiliki "guardrails" yang dirancang untuk membatasi risiko bahwa model AI ini bisa digunakan untuk mengembangkan malware atau kompromi perangkat lunak. Namun, beberapa peneliti keamanan sibernetik merasa bahwa keterbatasan ini terlalu ketat dan tidak memungkinkan mereka untuk melakukan pekerjaan yang mereka butuhkan.
Fitur Utama Fable
- Fable memiliki kemampuan untuk memahami dan merespons pertanyaan dengan lebih baik daripada model AI sebelumnya
- Fable memiliki keterbatasan yang dirancang untuk membatasi risiko keamanan sibernetik
- Fable dapat digunakan untuk melakukan pekerjaan yang terkait dengan keamanan sibernetik, tetapi dengan keterbatasan yang ketat
Pendapat Para Ahli
Beberapa peneliti keamanan sibernetik merasa bahwa keterbatasan yang diterapkan pada Fable terlalu ketat dan tidak memungkinkan mereka untuk melakukan pekerjaan yang mereka butuhkan. Namun, lainnya merasa bahwa keterbatasan ini diperlukan untuk membatasi risiko keamanan sibernetik.
Kesimpulan
Fable, model AI terbaru dari Anthropic, memiliki keterbatasan yang dirancang untuk membatasi risiko keamanan sibernetik. Namun, beberapa peneliti keamanan sibernetik merasa bahwa keterbatasan ini terlalu ketat dan tidak memungkinkan mereka untuk melakukan pekerjaan yang mereka butuhkan. Dengan demikian, perlu dilakukan evaluasi lebih lanjut untuk menentukan apakah keterbatasan ini diperlukan atau tidak.
