Anthropic's Safety Warnings Mungkin Saja Gagal - Pemerintah Amerika Pull Out AI Paling Kuat
Pemerintah Amerika pada hari Jumat memerintahkan Anthropic untuk segera mematikan akses ke dua model AI paling kuatnya, Claude Fable 5 dan Claude Mythos 5, karena kekhawatiran keamanan nasional.
Anthropic menyatakan bahwa mereka telah mematuhi perintah tersebut, tetapi mereka juga menyatakan bahwa mereka tidak setuju dengan keputusan pemerintah ini.
Mengapa ini penting? Mythos adalah model AI paling kuat yang dimiliki oleh Anthropic, yang telah dipamerkan pada awal April dan telah dibatasi aksesnya karena kekhawatiran keamanan.
Fable 5, yang dirilis dalam waktu tiga hari terakhir, adalah versi yang lebih aman dari Mythos, yang telah dibuat dengan menambahkan pelindung untuk melindungi dari respons yang berbahaya.
Namun, pemerintah Amerika tidak terkesan dengan alasan tersebut dan memutuskan untuk mematikan akses ke model AI tersebut.
Anthropic menyatakan bahwa mereka tidak setuju dengan keputusan ini dan bahwa mereka akan terus berusaha untuk meningkatkan keamanan AI mereka.
Geek Opinion: OP banget! Pemerintah Amerika memang memiliki kekhawatiran keamanan nasional, tetapi Anthropic juga memiliki hak untuk menjelaskan dan menunjukkan kemampuan AI mereka.
Sumber:
