Mondayreview.com– Perkembangan AI agentik membuat perusahaan dapat menjalankan agen kecerdasan buatan secara otomatis di belakang layar untuk menyelesaikan berbagai pekerjaan digital. Namun, kemampuan tersebut juga menghadirkan persoalan baru: biaya penggunaan model AI dapat terus bertambah tanpa selalu disadari oleh organisasi.
Menurut Technology Magazine, salah satu sumber biaya tersembunyi berasal dari retry loops. Berbeda dengan perangkat lunak tradisional yang berhenti ketika terjadi kesalahan, AI agent dapat mencoba memperbaiki kesalahan secara berulang. Setiap percobaan tersebut membutuhkan pemrosesan tambahan dan dapat meningkatkan konsumsi token.
Persoalan lain adalah context rot. Dalam pekerjaan yang berlangsung melalui banyak tahapan, agen AI dapat mempertahankan riwayat percakapan dan konteks sebelumnya. Ketika informasi tersebut terus diproses kembali, perusahaan berpotensi membayar berkali-kali untuk data yang sebenarnya sudah diketahui oleh sistem.
Masalah biaya juga muncul ketika perusahaan menerapkan batas anggaran yang terlalu kaku. Jika sebuah agen dihentikan ketika pekerjaan sudah mencapai 90 persen, misalnya, komputasi yang telah digunakan sebelumnya bisa menjadi sia-sia. Di sisi lain, penyediaan infrastruktur berdasarkan kebutuhan puncak dapat membuat perusahaan tetap membayar kapasitas yang menganggur ketika permintaan turun.
Google Cloud Tawarkan Model Pembayaran Fleksibel
Untuk menjawab persoalan tersebut, Google Cloud memperkenalkan sejumlah opsi pengelolaan biaya bagi beban kerja AI agentik di Gemini Enterprise dan perangkat pengembang. Michael Gerstenhaber, Vice President of Product Management, Cloud AI, Google Cloud, mengatakan struktur pembayaran perlu disesuaikan dengan cara setiap organisasi mengelola beban kerja AI.
Pilihan yang ditawarkan mencakup langganan berbasis pengguna dengan biaya yang lebih mudah diprediksi, model pay-as-you-go berdasarkan konsumsi, serta skema penghematan yang semakin besar seiring peningkatan penggunaan AI. Perusahaan juga dapat menggabungkan model berlangganan dan pembayaran berdasarkan penggunaan.
Google Cloud juga memperluas fitur spend guardrails agar organisasi dapat mengawasi pengeluaran AI dan proyek secara lebih terpusat. Pendekatan ini mendorong AI FinOps tidak sekadar menjadi aktivitas mencatat tagihan setelah penggunaan terjadi, tetapi menjadi mekanisme tata kelola yang dilakukan sejak awal.
Diskon untuk Pekerjaan yang Tidak Mendesak
Salah satu pendekatan yang menarik adalah deferred execution pricing. Melalui skema ini, perusahaan dapat menunda pekerjaan AI yang tidak membutuhkan hasil secara langsung untuk mendapatkan biaya inferensi yang lebih rendah.
Google Cloud menyebut perusahaan dapat membayar hingga setengah dari biaya inferensi untuk pekerjaan yang dapat menunggu. Skema tersebut memungkinkan organisasi menjalankan volume pekerjaan agentik yang lebih besar dengan anggaran yang sama, terutama untuk tugas-tugas yang tidak bersifat real-time.
Antigravity Masuk Gemini Enterprise
Google Cloud juga memperluas Google Antigravity agar terintegrasi dengan Gemini Enterprise. Antigravity akan tersedia dalam langganan Gemini Enterprise tanpa biaya tambahan dan dapat digunakan melalui lingkungan pengembangan seperti Visual Studio Code, JetBrains, dan Zed.
Integrasi ini memungkinkan administrator perusahaan mengaktifkan akses bagi pengguna yang sudah memiliki lisensi, sekaligus membawa aktivitas agen pemrograman ke dalam kerangka keamanan dan tata kelola perusahaan. Fitur seperti audit logging juga dapat membantu organisasi memantau penggunaan AI untuk kebutuhan kepatuhan.
Dengan kemampuan tersebut, agen AI tidak hanya digunakan untuk menghasilkan kode, tetapi juga menangani pekerjaan yang lebih kompleks, seperti melakukan code review, membantu debugging, dan menjalankan rangkaian tugas pemrograman secara otomatis.
Perkembangan ini menunjukkan bahwa tantangan AI agentik bukan lagi sekadar bagaimana membuat agen semakin pintar, tetapi juga bagaimana memastikan penggunaan AI tetap efisien secara finansial. Ketika jutaan token dapat dikonsumsi oleh agen yang bekerja secara otomatis, perusahaan membutuhkan visibilitas penggunaan, batas pengeluaran, serta model pembayaran yang fleksibel agar inovasi AI tidak berubah menjadi biaya operasional yang sulit dikendalikan.
