MAJALAH ICT – Jakarta. AI Generatif berkembang dari aplikasi berbasis pengetahuan seperti bot obrolan (chatbot) dan co-pilot menjadi agen AI otonom yang mampu berpikir dan melakukan alur kerja multitahap yang kompleks. Sistem AI yang bersifat seperti agen ini dapat mengotomatisasi berbagai kasus penggunaan dengan kompleksitas tinggi di berbagai industri dan fungsi bisnis. Rahul Pradhan, Wakil Presiden Produk dan Strategi Couchbase berbagi dan mengeksplorasi berbagai jenis sistem memori yang dibutuhkan untuk AI agentif, mengidentifikasi tantangan utama yang dihadapi sistem ini, dan membahas cara mengintegrasikan basis data yang berbeda ke dalam sistem memori yang kohesif.
Apa arti AI Agentif? AI agentif membuka pintu untuk era baru di mana agen AI bertindak sebagai kolaborator dan inovator, secara mendasar mengubah cara manusia berinteraksi dengan teknologi. Menurut Rahul AI agentif mengacu pada sistem yang dirancang untuk mengejar tujuan yang kompleks secara otonom dengan pengawasan manusia yang minimal, menunjukkan kemampuan pengambilan keputusan, perencanaan, dan eksekusi adaptif untuk menyelesaikan proses multitahap.
“Jadi agen-agen AI ini bertujuan untuk beroperasi lebih seperti manusia, yaitu memahami konteks, menetapkan tujuan, berpikir melalui tugas yang diberikan, dan menyesuaikan tindakan berdasarkan kondisi yang berubah” terang Rahul.
AI agentif membutuhkan tiga komponen penting: model bahasa besar (LLM), memori, dan rencana. Setiap komponen berfungsi untuk peran yang berbeda, dan ketika diintegrasikan, mereka memungkinkan agen untuk mencapai lebih dari jumlah bagiannya.
LLM: Agen AI dapat menggunakan LLM berkali-kali untuk memecah masalah dan melakukan tugas-tugas kecil. Ia dapat memulai dengan memanggil LLM untuk merangkum percakapan saat ini, dan menciptakan memori kerja. LLM lain kemudian dapat merencanakan tindakan berikutnya, diikuti oleh LLM ketiga untuk mengevaluasi kualitas setiap tindakan calon. Akhirnya, panggilan LLM keempat menghasilkan respons akhir untuk pengguna. Menggunakan panggilan LLM khusus untuk tujuan yang berbeda memungkinkan agen mencapai kinerja yang jauh lebih tinggi daripada dengan panggilan LLM tunggal.
Memori: Memori jangka panjang memungkinkan agen untuk menjawab pertanyaan atau memecahkan masalah lebih efektif. Sebagai contoh, agen peritel dapat mengakses pengetahuan terperinci tentang produk, kebijakan garansi, dan sejarah perusahaan, yang memungkinkan tanggapan yang akurat terhadap pertanyaan pelanggan.
Rencana: Agen AI membutuhkan repositori “rencana”, atau alur kerja, untuk melakukan tugas multitahap yang kompleks secara andal. Rencana ini menangkap pengetahuan prosedural dan membimbing agen melalui langkah-langkah yang diperlukan, memastikan tugas dilakukan dalam urutan yang benar dan dituntaskan dengan sukses.
Sistem memori sangat penting agar agen AI dapat berfungsi. Agen AI memerlukan sistem memori untuk meningkatkan fungsi, efisiensi, dan kemampuannya untuk melakukan tugas-tugas yang kompleks.
“Mereka diperlukan untuk menyimpan dan mengambil informasi, menjaga konteks, belajar dari pengalaman masa lalu, dan membuat keputusan yang tepat. Sistem memori yang tangguh sangat penting untuk mengatur dan menyimpan berbagai jenis informasi yang dapat diambil oleh agen AI selama pengambilan kesimpulan, memastikan kinerja yang akurat dan efisien” imbuh Rahul.
Sistem memori untuk agen AI dapat diklasifikasikan menjadi sistem memori jangka pendek dan jangka panjang. Memori jangka pendek mencakup memori kerja yang menyimpan sementara informasi yang sedang diproses. Ini diperlukan untuk tugas-tugas yang membutuhkan perhatian dan manipulasi segera. Penggunaan lain dari memori kerja atau jangka pendek ini adalah manajemen konteks, yang sangat penting bagi agen AI untuk menjaga konteks tugas yang sedang berlangsung. Kemampuan ini diperlukan untuk operasi dan pengambilan keputusan yang koheren, yang memungkinkan agen untuk memproses instruksi kompleks melalui beberapa interaksi dan alur kerja.
Rahul juga menjelaskan jenis kedua dari sistem memori untuk agen AI adalah memori jangka panjang yang mencakup memori episodik, semantik, dan prosedural.
Memori episodik menyimpan peristiwa dan pengalaman tertentu, memungkinkan AI untuk mengingat interaksi atau peristiwa masa lalu dan menggunakan pengetahuan tersebut untuk membuat keputusan di masa depan, yang sangat penting untuk pembelajaran dan adaptasi.
Memori semantik emantic memory menyimpan pengetahuan umum tentang dunia, termasuk fakta dan konsep, yang membantu AI dalam memahami dan berpikir tentang informasi yang ditemui untuk memberikan respons yang lebih akurat.
Memori prosedural menyimpan pengetahuan tentang cara melakukan tugas, memungkinkan AI untuk menjalankan prosedur yang telah dipelajari secara otomatis, mirip dengan bagaimana manusia mengingat cara bersepeda atau mengetik di kibor. Komponen ini menjaga alur dan konteks interaksi dengan pengguna, memastikan AI memberikan respons yang koheren dan sesuai konteks selama percakapan.
Selanjutnya Rahul juga menjabarkan apa saja tantangan yang kemungkinan dihadapi dengan pendekatan saat Ini. Pendekatan umum untuk memenuhi kebutuhan sistem memori adalah dengan menggunakan sistem manajemen basis data khusus untuk berbagai alur kerja data atau tipe, seperti Basis Data dalam Memori: Digunakan untuk caching dan menyediakan akses cepat ke data yang sering diperlukan.
Basis Data Relasional dan Nonrelasional: Digunakan untuk data operasional dan transaksi. Gudang Data dan Sistem OLAP: Digunakan untuk kumpulan data historis dan kueri kompleksBasis Data Vektor: Digunakan untuk mengelola vektor dan penting untuk tugas yang melibatkan embedding dan pencarian kemiripan.
Namun, penggunaan jaringan basis data mandiri yang kompleks ini dapat merugikan kinerja agen AI. Beberapa tantangannya adalah Masalah waktu tunggu (latensi): Basis data yang berbeda memiliki waktu respons yang bervariasi, yang dapat menyebabkan inefisiensi. Data yang Terpisah-pisah (Silos): Basis data yang terpisah menghalangi analisis data yang menyeluruh. Data yang Inkonsisten: Variasi dalam konsistensi dan integritas data dapat menyebabkan kesalahan.
Mengintegrasikan basis data yang berbeda ini ke dalam sistem memori yang kohesif, dapat dipertukarkan, dan tangguh untuk agen AI adalah tantangan tersendiri. Banyak layanan basis data yang sering digunakan tidak optimal untuk kecepatan dan skalabilitas yang dibutuhkan oleh sistem agen AI, dan kelemahan masing-masing layanan tersebut diperburuk dalam sistem multiagen.
Integrasi sistem memori menjadi semakin penting di era agen AI. Mengatasi tantangan yang terkait dengan sumber data yang terpisah dan mengoptimalkan sistem memori untuk kecepatan dan skalabilitas akan menjadi kunci untuk mewujudkan potensi penuh agen AI yang otonom.
Terakhir Rahul menambahkan dengan memanfaatkan platform data yang terintegrasi yang mendukung kinerja tinggi dan memiliki waktu tunggu (latensi) rendah, bisnis dapat memanfaatkan kekuatan AI agentif untuk mendorong inovasi, meningkatkan efisiensi, dan mencapai tujuan strategis mereka.
“Masa depan AI terletak pada penciptaan sistem, yang tidak hanya berpikir dan belajar seperti manusia, tetapi juga mengintegrasikan beragam data secara mulus untuk memberikan respons yang cerdas, adaptif, dan mampu memahami konteks secara mandiri,” tutupnya.
