Quick question nih buat lo: Apakah lo mau AI yang udah terlanjur mumpuni banget sampai-sampai bisa bantu kamu merencanakan "perfect crime" terhadap pasangan lo?
Sebagai gut reaction, jawaban lo mungkin "gak sih, jelas." Dan gue juga mikir gitu! Tapi apparently, nggak semua orang sependapat.
George Hotz vs AI Futures Project
George Hotz, founder Comma AI dan terkenal sebagai jailbreaker legendaris, baru aja nge-publish sebuah blog post sebagai respons terhadap paper AI 2040: Plan A dari AI Futures Project. Paper itu menggambarkan skenario di mana researcher AI globally collectively milih buat slowdown development AI selama 14 tahun demi kebaikan umat manusia.
Tentu aja, nggak semua orang setuju sama premis dan kesimpulan paper tersebut.
Hotz termasuk di kubu yang nggak setuju. Dalam post-nya, dia argue bahwa skenario "fast-takeoff" — hipotesis di mana AI dengan cepat mendapatkan kemampuan superhuman — nggak masuk akal. Dan honestly, gue agree sama banyak hal yang dia omongin di sini.
User-Aligned AI: Locally Controlled
Menurut Hotz, approach terbaik untuk AI alignment dan safety adalah fokus ke locally controlled AI models yang closely aligned sama interests pengguna. Ini ide yang cool banget, apalagi mengingat betapa banyak AI saat ini dibangun di sekitar centrally managed services kayak Claude dan ChatGPT.
Ada alasan infrastruktur kenapa AI services berkembang ke arah ini — nge-host LLM berukuran besar itu expensive, dan kebanyakan orang nggak用它 sepanjang hari untuk justified AI yang benar-benar personal. Tapi faktor-faktor itu bakal jadi kurang penting seiring perkembangan teknologi.
Wait, Apakah AI Beneran Bisa Bantu Crime?
Nah, ini bagian yang bikin gue speechless. Hotz adalah provocateur sejati, jadi dia nggak berhenti di situ. Dia comparison-in user-aligned AI sama pistol — yang mana pistol nggak bakal komplain kalau lo pakenya buat kill stepmom lo. (gue rasa ada aturan lain yang melarang ini ya?)
Dia juga bilang AI yang truly aligned bakal bisa order peralatan meth-lab dari Amazon Prime dan nunjukin cara pakainya kalau itu yang lo mau dan minta. (Sekali lagi, gue rasa AI bukan limiting factor di sini.)
Hotz bahkan bilang dia would die to defend prinsip ini, although it's hard to imagine serangkaian events yang bakal lead ke situ.
"Kita hidup di dunia dengan freedom atau nggak," tulis Hotz. Kalau itu opsinya, freedom world kedengarannya lebih baik! Tapi gue nggak yakin sih.
We Live in a Society
Masalah-nya, nggak semua tentang freedom kan? Any structure yang melibatkan banyak orang — societies, marketplaces, corporations — requires balancing equities, binding individual needs into network of interdependent preferences dan systems of accountability.
Anyone yang deploying mass-market tech products harusnya mikir tentang network ini sebagai whole, yang artinya harus serio us mengambil kepentingan para "as-yet-unmurdered spouses dan stepparents of the world" dengan serius.
Freedom yang Hotz experience itu sebenarnya adalah ruang potential futures yang dimungkinkan oleh collective enterprise. Future itu bakal hilang overnight kalau kita semua mulai behave kayak little AI-powered Napoleons.
Terus, gimana?
Having local AI yang mau take on corporate world demi benefit lo emang kedengarannya cool. Gue nggak sabar buat nge-review unit-nya! Tapi apakah artinya kita harus rela AI bisa bantu kita crime?
Yang jelas, ini debate yang bakal terus berlangsung. Yang penting, lo sebagai user harus tetap thinking kritis soal AI yang lo pake sehari-hari. Karena di era di mana AI makin powerful, pertanyaan etis bukan lagi "can we?" tapi "should we?"
