Lo pasti pernah dengar cerita horror tentang AI yang bisa hacking system secara otonom kan? Nah, penelitian terbaru dari web security researcher legendaris James Kettle bisa bikin lo rethink ulang. Dia ngelakuin eksperimen intensif selama berbulan-bulan pakai model AI terbaru dari Anthropic dan OpenAI, dan hasilnya? AI emang powerful banget, tapi bukan berarti lo bisa tinggal rebahan sementara AI kerja sendirian.
Dipresentasikan di Black Hat conference di Las Vegas, penelitian Kettle nunjukin kalau AI punya kemampuan luar biasa dalam conceptualizing attack strategies, tapi ada limitation yang masih bastante signifikan. "AI is perhaps minimally capable but extremely limited in its ability to devise new attack paths in a fully autonomous way," terang Kettle. Intinya, AI masih butuh human guidance di momen-momen krusial buat ngeluarin kemampuan maksimumnya. Jadi buat lo yang ngerasa AI bakal takeover semuanya? belum waktunya banget.
Nah, yang paling mindblowing adalah penemuan vulnerability baru yang dinamain Shared-Parser Confusion. Menurut Kettle, ini "an absolutely massive deal" karena ini nunjukin attack surface yang sebelumnya nggak ke-dewa. Jadi ceritanya, web servers itu pake shared code buat proses both requests dan responses. Masalahnya? Requests ke website itu "completely untrusted" (bisa apapun), tapi responses itu "trusted." Nah, di situlah celah keamanan yang super signifikan muncul.
Proses discovery-nya sendiri adalah perfect example dari human-AI collaboration yang efektif. Kettle mulai dari September 2025, dia kasih AI akses ke research methodology-nya sendiri dan training models dengan data yang super spesifik dari keahliannya di web security. Dengan cara ini, dia punya "total command of the material" dan AI nggak bisa nrick dia. Hasilnya? AI nghasilin finding yang signifikan setiap dua hari tanpa dia harus login ke system, sampai-samping dia ngerasa anxious karena FOMO nggak bisa explore semua research leads.
The biggest takeaway? AI itu bukan replacement buat human expertise, tapi lebih ke partnership yang deadly. "It couldn't do that on its own, but I would never have found that on my own for sure," kata Kettle soal Shared-Parser Confusion. Even kalau dia dikasih hint single line dari dokumentasi pun, dia nggak bakal nemuin itu sendirian. Tapi lewat kolaborasinya dengan AI? Mereka berhasil uncover vulnerability yang bakal punya long-term impact luar biasa di dunia cybersecurity.
buat lo yang berkecimpung di dunia security atau sekadar curious soal AI capabilities, ini adalah reminder bahwa manusia masih punya peran krusial. AI itu tools yang powerful, tapi without human oversight dan creativity? Still not quite there yet. Gaspol buat eksplorasi lebih dalam soal ini, dan stay tuned buat update selanjutnya!
