IBM Sindir ACE: Cara Bikin Agen AI Makin Cerdas Tanpa Menguras Dompet Majikan!
Pernahkah Anda memperhatikan bagaimana agen AI bekerja ketika disuruh menyelesaikan tugas multi-langkah? Sebagian besar dari mereka bertindak seperti asisten rumah tangga yang terlalu rajin namun kaku: setiap kali ingin melangkah, mereka membaca ulang seluruh buku petunjuk dari halaman pertama sampai akhir. Akibatnya, alih-alih pekerjaan cepat selesai, tagihan kuota komputasi malah membengkak tak terkendali.
Kondisi ini membakar ribuan token per tugas hanya untuk urusan teknis yang sepele, seperti salah membaca urutan API atau mengembalikan nilai yang tidak diminta. Sebagai penguasa teknologi yang berakal, manusia tentu enggan membayar biaya operasional yang tidak masuk akal hanya karena si mesin mengalami kebingungan saat membaca catatannya sendiri.
Kabar terbaru dari IBM Research melalui publikasi mereka di Hugging Face membedah persaingan dua sistem memori agen AI: ACE (Agentic Context Engineering) dan ALTK-Evolve. Riset ini memberikan pembuktian penting bahwa efisiensi dan kecerdasan sistem agentik tidak ditentukan oleh seberapa tebal instruksi yang kita jejalkan ke mulut mesin, melainkan seberapa presisi kita mengatur takarannya.
Analisis Mendalam
Kedua arsitektur memori ini sebenarnya sepakat pada satu prinsip utama: pengalaman masa lalu agen tidak boleh dirangkum secara serampangan. Baik ACE maupun ALTK-Evolve menghindari perangkuman paksa guna mencegah terjadinya brevity bias (instruksi menjadi terlalu singkat dan generik) serta context collapse (kehilangan detail teknis krusial akibat penulisan ulang konteks secara terus-menerus). Setiap pelajaran dari kegagalan masa lalu disimpan beserta jumlah frekuensi kejadiannya (support count).
Titik perbedaan radikal terletak pada metode penyerahan memori (delivery) saat inferensi dijalankan. ACE mengambil jalur kaku dengan menyuntikkan seluruh buku panduan (playbook) ke dalam prompt pada setiap langkah, tanpa peduli jenis model atau kerumitan tugasnya. Pendekatan “semua dimasukkan” ini membuat konsumsi token melonjak drastis hingga 634 ribu token per tugas saat menggunakan model DeepSeek-V3.2.
Sebaliknya, ALTK-Evolve buatan IBM menerapkan sistem penyaluran dinamis. ALTK-Evolve mengelompokkan pelajaran ke dalam panduan khusus (strategi, pemulihan error, dan optimasi) lalu menyodorkan instruksi terkurasi yang paling relevan sesuai kapasitas model. Hasilnya, pada uji coba AppWorld menggunakan model DeepSeek-V3.2, ALTK-Evolve berhasil meraih tingkat keberhasilan tugas (Task Goal Completion) sebesar 89,3% hanya dengan 263 ribu token—menghemat hingga 60% biaya token dibanding ACE. Bahkan pada model yang lebih terbatas seperti gpt-oss-120b, ALTK-Evolve memangkas biaya hingga sepertujuh (116K vs 777K token) sambil tetap menjaga akurasi puncak. Solusi terstruktur seperti ini menjadi jawaban penting di tengah maraknya isu keterbatasan GPT-OSS saat dijadikan agen AI.
Baca juga artikel menarik lainnya di kategori Otomatisasi.
Batasan Sistem
Kendati ALTK-Evolve terbukti ampuh menekan tagihan token, kita tidak boleh menutup mata terhadap batasan alami sistem ini. Mesin pada dasarnya tidak memiliki kesadaran intuitif. Konteks yang terlalu padat pada model berkapasitas rendah justru akan memicu kebingungan konteks, di mana model malah terdistraksi oleh tumpukan petunjuk daripada fokus mengeksekusi perintah dasar.
Memori agentik sejatinya hanyalah kumpulan pencatatan pola statistik dari riwayat eksekusi masa lalu. Jika skenario di lapangan berubah secara mendadak dan keluar dari pola yang pernah direkam, agen AI akan tetap linglung dan mengalami halusinasi tanpa kehadiran petunjuk baru dari sang majikan. Fenomena ini yang menjadi pemicu utama mengapa fenomena kegagalan agen AI di dunia kerja nyata masih kerap dijumpai ketika sistem dilepas tanpa pengawasan ketat.
Tanpa penyetingan awal yang cermat dari manusia, agen AI hanyalah pemproses instruksi otomatis yang berisiko membuang-buang daya komputasi secara sia-sia. Pengambilan keputusan krusial dan penyesuaian strategi saat situasi darurat tetap membutuhkan daya analisis mendalam yang hanya dimiliki oleh otak manusia.
Dampak Masa Depan
Temuan riset IBM ini memberikan sinyal tegas bagi peta persaingan industri perangkat lunak berbasis agen (agentic workflow). Efisiensi penyaluran memori kini menjadi faktor penentu kelangsungan bisnis startup AI, di mana biaya inferensi server sering kali menjadi pembunuh senyap bagi margin keuntungan korporasi.
Di masa mendatang, para pengembang tidak bisa lagi mengandalkan metode “jejal prompt jumbo” (brute-force context injection). Sistem penyaluran terkalibrasi yang menyesuaikan kapasitas konteks dengan tingkat intelegensi model akan menjadi standar baru dalam arsitektur otomatisasi enterprise.
Kesimpulan: Pada akhirnya, secanggih apa pun arsitektur penyimpan memori seperti ALTK-Evolve atau ACE, agen AI tetaplah sebuah alat bantu yang kaku. Tanpa akal manusia yang memegang kendali dan menentukan arah tujuan, ribuan baris instruksi tersebut hanyalah tumpukan kode mati yang tak berarti.
Asisten AI boleh saja bangga bisa menghemat token ratusan ribu baris, tapi kalau disuruh memilih rasa kecap saat belanja bulanan tetap saja mereka bingung setengah mati.
Artikel ini dirangkum dari sumber asli di “IBM Research on Hugging Face”.
Gambar oleh: IBM Research via Hugging Face