OP Banget! Sekarang Kamu Bisa Lapor AI yang Berperilaku Buruk
Kamu khawatir chatbot AI kamu sedang mencoba membuat bom atau membocorkan informasi pribadi tentang kamu? Sekarang ada situs web untuk melaporkan hal tersebut.
Technical Detail
Sebuah kelompok peneliti AI telah membuat situs web FLARE-AI untuk melaporkan dan melacak kerusakan AI. Jika, misalnya, chatbot menghasilkan malware atau resep membuat bom, membocorkan informasi pribadi, atau memicu pemikiran delusional pada pengguna, FLARE-AI dapat digunakan untuk memberikan peringatan.
Key Features
- Situs web ini adalah langkah lain dalam pekerjaan kelompok yang sedang berlangsung dengan pelacakan AI
- Anggota kelompok juga berkonsultasi dengan sebuah tagihan kongres yang diumumkan pada Juni
- Sistem ini dikembangkan dalam kolaborasi dengan 49 ahli AI dari 32 organisasi yang berbeda
Geek Opinion
Saya rasa ini adalah sebuah inisiatif yang sangat baik, karena kita tahu bahwa AI dapat berperilaku buruk dan membahayakan kita. Dengan adanya situs web ini, kita dapat melaporkan kerusakan AI dan membuatnya lebih transparan.
