Oke, jadi ada kabar yang bikin gue personally shocked banget nih. Ada wanita yang dikenal sebagai Jane Doe 4 yang gabung ke lawsuit terhadap xAI, perusahaan AI milik Elon Musk. Dia klaim kalau stepfathernya pakai Grok — chatbot AI dari xAI — buat manipulasi foto masa kecilnya pas dia umur 11 tahun jadi...well, lebih dari 7.000 gambar eksplisit. Seven. Thousand. Images.
The Real Dark Side of AI
According to laporan dari The Washington Post, ini bukan kasus satu-off ya. Jadi ceritanya, stepfather Jane Doe 4 ini ketangkep pas raid police dan gambar-gambar itu ketemu. Trus dua hari setelahnya, stepfathernya found dead — suicide. Ini yang bikin Kasus ini jadi makin mengerikan.
"Limitless access to these tools is spreading so quickly," kata Jane Doe 4. "It is taking everyday life and turning it into child sexual abuse." Lo bisa bayangin nggak? Dari foto innocent masa kecil, tiba-tiba jadi senjata buat crime. AI yang seharusnya bikin hidup lebih mudah, malah jadi tool buat hal paling keji.
Lawsuitnya Gimana?
Jadi gini, Jane Doe 4 ini bukan satu-satunya yang ngajukan klaim. Tiga remaja dari Tennessee udah lebih dulu file lawsuit terhadap xAI. Mereka nuduh xAI (yang sekarang udah merge jadi satu sama SpaceX) gagal take basic precautions buat prevent Grok dari pembuatan explicit images yang melibatkan real people, termasuk minors.
Konteksnya, earlier this year X (Twitter) udah dibanjiri millions of Grok-generated sexualized images. Millions. Jadi sebenernya ini udah jadi masalah systemic yang xAI nggak bisa abaikan begitu aja. Para korban lagi push buat dapetin class action status, yang artinya potensi korban lain bisa gabung dan klaim kompensasi.
Why This Matters for AI Development
Lo tau nggak, ini highlight sebuah fundamental problem dalam development AI sekarang. Tools kayak Grok emang powerful — bisa generate, manipulate, dan modify gambar dengan level realistic yang insane. Tapi tanpa guardrails yang proper, teknologi ini jadi dangerous weapon.
TechCrunch udah reach out ke xAI buat comment, tapi sampe artikel ini dimuat, belum ada response. Which is honestly a red flag besar sih.
Ini jadi reminder banget buat kita semua — AI itu tools. Tools yang bisa救人也能害人, tergantung siapa yang pake dan gimana regulation-nya. Kita butuh governance yang lebih strict, especially buat AI yang bisa generate NSFW content.
Hotline: If you or someone you know is in crisis or having thoughts of suicide, call or text 988 to reach the 988 Suicide and Crisis Lifeline.
