Mengapa Keamanan AI Multi-Agen Rusak
Keamanan AI multi-agen rusak karena masalah identitas, bukan kualitas model. Ketika Anda memiliki lebih dari satu agen, Anda perlu menjawab pertanyaan-pertanyaan yang membosankan seperti: * Siapa agen ini, sebenarnya? * Apa yang diizinkan untuk dilakukan? * Apakah dapat bertindak atas nama orang lain? * Bagaimana kita membuktikan apa yang terjadi nanti?
Pola yang Paling Banyak Digunakan yang Tidak Bekerja
Banyak sistem agen masih menggunakan pola berbagi kredensial, seperti API key atau token GitHub yang sama untuk semua agen. Ini bekerja dengan baik sampai satu agen mengalami injeksi prompt, alur kerja memerlukan izin yang lebih sempit, atau Anda memerlukan jejak audit.
Pola Identitas yang Sebenarnya Bekerja
Pola identitas yang paling dapat diandalkan adalah:
- Beri setiap agen identitas kriptografis
- Terbitkan akses yang didelegasikan dengan waktu hidup yang singkat
- Enforcir kebijakan di batas alat
- Log setiap tindakan dengan identitas agen + rantai delegasi
Fitur Kunci
- Identitas unik untuk setiap agen
- Akses yang didelegasikan dengan waktu hidup yang singkat
- Pemeriksaan kebijakan di batas alat
- Log tindakan dengan identitas agen + rantai delegasi
Pendapat Geek
Mengelola keamanan AI multi-agen memerlukan pendekatan yang berbeda. Daripada memikirkan agen sebagai fitur, kita harus memperlakukannya sebagai beban kerja dengan identitas. Dengan demikian, sistem multi-agen menjadi dapat dikelola dan tidak misterius.
