Hook
Jadi gini, lo tau nggak? Rippling, perusahaan HR software yang lumayan beken di Silicon Valley, tuh abis kelewatan banget pengeluaran buat AI. Kita ngomongin bukan angka receh, tapi jutaan dollar yang ilang dalam hitungan bulan. Mereka tuh kayak orang yang baru dapet kartu kredit tanpa limit — semua karyawan gaspol pake AI tools tanpa kontrol, dan tiba-tiba CFO present angka yang bikin semua orang di meeting pada melongo.
Chief Product Officer Matt MacInnis masih inget banget meeting executive team di Maret itu. CFO Adam Swiecicki nongol dengan angka yang bikin shock semua orang: Rippling on track buat nge-burn 40% dari budget R&D headcount cuma buat token AI. Jadi bayangin, mereka keluarin duit buat AI sebanyak 40% dari semua compensation yang dibayar ke karyawan di unit itu. Gila nggak tuh?
Technical Detail
Jadi ceritanya, Rippling lagi nge-gas banget pakai tokenmaxxing di awal tahun. Semua orang pada excited banget kayak lagi rame-ramenyamain AI tools baru. Tapi yang terjadi malah sebaliknya — pengeluaran grows 80% month-over-month. Kalo trend ini terus, tahun depan mereka bakal spend 90% dari budget R&D unit buat token AI. "We were incredulous," kata MacInnis ke TechCrunch. Same, bro. Same.
Management langsung undertake "urgent" project buat ngerti spending mereka dan apa yang mereka dapet dari duit segitu. Malah launch ad["https://www.youtube.com/watch?v=_haQBAsPa5E"] untuk produk ini featured Swiecicki duduk di atas stool sambil karyawan pada narik cash dan masukin ke paper shredder. Konsep yang quite brutal tapi efektif buat nunjukin severity of the problem.
Pas Rippling conduct analysis, mereka nemuin fakta yang pretty wild: roughly 10–15% of their employees were driving about 60% of total AI spend. Dan ini yang paling gila — one engineer was spending $50,000 per bulan. Fifty. Grand. Per bulan. Buat satu orang. Bro, itu udah bisa beli mobil mewah configurationsan.
Key Features
Nah akhirnya mereka release AI Spend Console["https://www.rippling.com/blog/introducing-ai-spend-console"], product yangintip banget buat nge-track dan contain AI spending. Fitur-fitur utamanya:
-
Individual/Team/Role Spending Mapping: Tool ini bisa nunjukin exactly berapa much individual employees, teams, dan roles spend di AI.Jadi lo bisa liat mana tim yang beneran benefited dan mana yang... ya nggak produktif sih.
-
Productivity Correlation: Tool ini bisa map apakah employee yang high AI spend tuh beneran more productive, atau generally producing more AI slop. Rippling promises bakal nunjukin "which engineers have high AI spend whose peers frequently ask them to redo work in code reviews." Red flagged.
-
AI Gateway Built-in: Rippling bangun AI gateway mereka sendiri yang bisa route prompts ke model yang paling cost-effective buat task yang lagi dihandle. Mereka nemuin kalo employees default ke most expensive frontier models buat semua tasks — which is stupid.
-
Dashboard Scoring: Ada dashboards yang score attributes kayak prompts per day combined dengan work output (lines of code/pull requests) dan spend. Jadi lo bisa liat secara real-time siapa yang perform dan siapa yang cuma bikin biaya naik.
Geek Opinion
Dari pengalaman Rippling, ada beberapa lesson yang bisa lo ambil kalo company lo lagi (atau planning) go heavy on AI:
Inference providers gak punya incentive buat ngontrol spend lo. MacInnis spotted it perfectly: "The truth is that the inference providers, like Anthropic and OpenAI, have absolutely no incentives to help you control your spend. They have every incentive for it to be a runaway expense." They don’t provide great usage insight, dan they don’t collaborate with one another. So lo harus DIY.
Routing ke model yang tepat itu crucial. Ketika Rippling implementasi proper routing system, mereka bisa turunin cost dari 40% jadi sekitar 15% dari budget headcount dalam 8 bulan. Even better — mereka tetep pake 600 billion tokens di Juli, tapi cost July’s token spend was 37% of the cost April’s token spend. That’s just because now they’re routing to the more effective models.
Multiple models from multiple providers is the move. Rippling founder Parker Conrad noted["https://x.com/parkerconrad/status/2082870730027339987"] kalo pas mereka conduct benchmarks buat internal uses, mereka discover SpaceX’s Grok was the all-around leader, tapi GLM 5.2 dari Z.ai itu 85% cheaper tapi nearly identical performance. Dan lo tau? GLM 5.2 is a Chinese model yang recently popular buat coding tasks. So jangan underestimate open weight options ya.
People management tetep penting. Technology solutions aja nggak cukup. Rippling found people yang using AI effectively dan made them "AI captains" tasked dengan assisting the rest of the company. So ada human element yang harus dijaga.
Kesimpulan
AI Spend Console tuh bukti kalo AI di workplace emang butuh proper governance. Bukan soal stop AI usage, tapi more soal optimalize usage biar beneran valuable dan measurable. Dengan tools yang bisa track ROI, companies bisa lebih data-driven soal AI deployment di team mereka.
Rippling berhasil turunin spending dari 40% jadi 15% dari budget, dan mereka tetep bisa maintain 600 billion tokens usage per month. They’re still consuming tokens like there’s no tomorrow, tapi with better routing dan management. That’s the move — bukan stop spending, tapi spend smarter.
Kalo lo company yang lagi planning atau udah go heavy on AI, mungkin waktu yang tepat buat cek berapa much lo spend dan apa ROI yang lo dapet. Because if you can’t measure productivity, then all bets are off on any of this stuff being available to the broader employee base.
