Cara Membangun Agen AI [Video dan Kuis]

Jawaban singkat: Untuk membangun agen AI yang berfungsi dalam praktik, perlakukan sebagai sebuah siklus terkontrol: ambil input, tentukan tindakan selanjutnya, panggil alat dengan cakupan terbatas, amati hasilnya, dan ulangi hingga pemeriksaan "selesai" yang jelas berhasil. Agen ini akan berguna ketika tugasnya multi-langkah dan digerakkan oleh alat; jika satu perintah saja sudah cukup, lewati peran agen. Tambahkan skema alat yang ketat, batasan langkah, pencatatan log, dan validator/kritikus sehingga ketika alat gagal atau input ambigu, agen akan meningkatkan tugasnya alih-alih terus berulang.

Poin-poin penting:

Loop pengontrol: Implementasikan pengulangan input→aksi→observasi dengan kondisi berhenti yang eksplisit dan langkah maksimum.

Desain alat: Jaga agar alat tetap spesifik, terkategorisasi, memiliki izin akses, dan tervalidasi untuk mencegah kekacauan "lakukan_apa_pun".

Kebersihan memori: Gunakan ringkasan status jangka pendek ditambah pengambilan data jangka panjang; hindari memuat transkrip lengkap.

Pencegahan penyalahgunaan: Tambahkan daftar yang diizinkan (allowlist), batasan laju (rate limit), idempotensi, dan "uji coba" (dry-run) untuk tindakan berisiko.

Kemudahan pengujian: Memelihara serangkaian skenario (kegagalan, ambiguitas, injeksi) dan menjalankannya kembali setiap kali ada perubahan.

---

1) Apa itu agen AI, dalam bahasa yang mudah dipahami orang awam 🧠

Agen AI adalah sebuah perulangan. Dokumentasi LangChain “Agents”

Itu saja. Sebuah lingkaran dengan otak di tengahnya.

Masukan → berpikir → bertindak → mengamati → mengulang. Kertas ReAct (alasan + tindakan)

Di mana:

• Input berupa permintaan pengguna atau suatu kejadian (email baru, tiket dukungan, ping sensor).

• Berpikir adalah model bahasa yang bernalar tentang langkah selanjutnya.

• Act adalah alat yang digunakan untuk memanggil fungsi (mencari dokumen internal, menjalankan kode, membuat tiket, menyusun balasan). Panduan pemanggilan fungsi OpenAI

• Observe sedang membaca output dari alat tersebut.

• Pengulangan adalah bagian yang membuatnya terasa "agen" alih-alih "bertele-tele". Dokumentasi LangChain "Agents"

Beberapa agen pada dasarnya adalah makro cerdas. Yang lain bertindak lebih seperti operator junior yang dapat menangani berbagai tugas dan pulih dari kesalahan. Keduanya sama-sama penting.

Lagipula, Anda tidak membutuhkan otonomi penuh. Bahkan… Anda mungkin tidak menginginkannya 🙃

---

2) Kapan Anda harus membuat agen (dan kapan Anda tidak perlu membuatnya) 🚦

Buat agen ketika:

• Pekerjaan ini terdiri dari beberapa tahapan dan berubah tergantung pada apa yang terjadi di tengah proses.

• Pekerjaan ini membutuhkan penggunaan alat (basis data, CRM, eksekusi kode, pembuatan file, browser, API internal). Dokumentasi "Tools" LangChain

• Anda menginginkan hasil yang dapat diulang dengan batasan-batasan yang jelas, bukan hanya jawaban yang bersifat sekali saja.

• Anda dapat mendefinisikan "selesai" dengan cara yang dapat diperiksa oleh komputer, meskipun secara longgar.

Jangan membuat agen ketika:

• Sebuah perintah dan respons sederhana sudah cukup (jangan terlalu rumit, Anda akan menyesalinya nanti).

• Anda membutuhkan determinisme sempurna (agen dapat bersifat agak konsisten, tetapi tidak seperti robot).

• Jika Anda tidak memiliki alat atau data untuk terhubung, maka yang ada hanyalah firasat.

Jujur saja: separuh dari "proyek agen AI" bisa jadi hanya alur kerja dengan beberapa aturan percabangan. Tapi, terkadang suasana juga penting 🤷♂️

---

3) Apa yang membuat agen AI menjadi versi yang baik? ✅

Berikut bagian "Apa yang membuat versi yang bagus dari" yang Anda minta, hanya saja saya akan sedikit berterus terang:

Agen AI yang baik bukanlah agen yang berpikir paling keras. Melainkan agen yang:

• Mengetahui apa yang diperbolehkan untuk dilakukan (batas lingkup)

• Menggunakan alat secara andal (panggilan terstruktur, percobaan ulang, batas waktu) Panduan pemanggilan fungsi OpenAI AWS “Batas waktu, percobaan ulang, dan penundaan dengan jitter”

• Menjaga status tetap bersih (memori yang tidak membusuk) LangChain “Gambaran umum memori”

• Menjelaskan tindakannya (jejak audit, bukan uraian alasan rahasia) NIST AI RMF 1.0 (kepercayaan & transparansi)

• Berhenti dengan tepat (pemeriksaan penyelesaian, langkah maksimum, eskalasi) Dokumentasi "Agen" LangChain

• Gagal dengan aman (meminta bantuan, tidak berhalusinasi tentang otoritas) NIST AI RMF 1.0

• Dapat diuji (Anda dapat menjalankannya pada skenario yang sudah ditentukan dan menilai hasilnya)

Jika agen Anda tidak dapat diuji, pada dasarnya itu seperti mesin slot yang sangat percaya diri. Menyenangkan di pesta, menakutkan di dunia produksi 😬

---

4) Blok bangunan inti dari suatu agen (“anatomi” 🧩)

Sebagian besar agen padat memiliki komponen-komponen berikut:

A) Loop pengontrol 🔁

Inilah dalangnya:

• ambil gol

• minta model untuk tindakan selanjutnya

• jalankan alat

• menambahkan pengamatan

• Ulangi hingga selesai Dokumen “Agen” LangChain

B) Alat (atau kemampuan) 🧰

Alat adalah hal yang membuat agen efektif: Dokumentasi “Alat” LangChain

• kueri basis data

• mengirim email

• mengambil file

• kode berjalan

• memanggil API internal

• menulis ke spreadsheet atau CRM

C) Memori 🗃️

Ada dua jenis yang penting:

• Memori jangka pendek: konteks eksekusi saat ini, langkah-langkah terbaru, rencana saat ini.

• Memori jangka panjang: preferensi pengguna, konteks proyek, pengetahuan yang diambil (seringkali melalui embedding + penyimpanan vektor) Makalah RAG

D) Perencanaan dan kebijakan pengambilan keputusan 🧭

Sekalipun Anda tidak menyebutnya "perencanaan", Anda tetap membutuhkan metode:

• daftar periksa

• Alat "berpikir lalu" ala ReAct, kertas ReAct

• grafik tugas

• pola pengawas-pekerja

• Pola pengawas-pekerja Microsoft AutoGen (kerangka kerja multi-agen)

E) Batasan dan evaluasi 🧯

• izin

• Skema alat yang aman, Keluaran Terstruktur OpenAI

• validasi keluaran

• batas langkah

• pencatatan

• menguji NIST AI RMF 1.0

Ya, ini lebih ke rekayasa daripada pemberian petunjuk. Dan itulah... intinya.

---

5) Tabel Perbandingan: Cara-cara populer untuk membangun agen 🧾

Berikut ini adalah "Tabel Perbandingan" yang realistis - dengan beberapa keunikan, karena tim sungguhan memang unik 😄

Alat / Kerangka Kerja	Hadirin	Harga	Mengapa ini berhasil	Catatan (sedikit kekacauan)
LangChain	para pembangun yang menyukai komponen bergaya Lego	agak gratis + infrastruktur	ekosistem besar untuk alat, memori, rantai	Bisa jadi seperti spaghetti dengan cepat jika Anda tidak menyebutkan sesuatu dengan jelas
Indeks Llama	Tim yang banyak menggunakan kain RAG	agak gratis + infrastruktur	pola pengambilan data yang kuat, pengindeksan, konektor	Sangat bagus jika agen Anda pada dasarnya "mencari + bertindak"... yang memang umum terjadi
Pendekatan ala OpenAI Assistants	tim yang menginginkan pengaturan lebih cepat	berdasarkan penggunaan	pola pemanggilan alat bawaan dan status eksekusi	Kurang fleksibel di beberapa bagian, tetapi bersih untuk banyak aplikasi	OpenAI Menjalankan API Asisten OpenAI memanggil fungsi
Kernel Semantik	pengembang yang menginginkan orkestrasi terstruktur	agak gratis	abstraksi yang rapi untuk keterampilan/fungsi	Terasa "rapi ala perusahaan" - terkadang itu pujian 😉
AutoGen	peneliti multi-agen	agak gratis	pola kolaborasi antar agen	Bisa terlalu banyak bicara; tetapkan aturan penghentian yang ketat
CrewAI	penggemar “tim agen”	agak gratis	Peran + tugas + serah terima mudah diungkapkan	berfungsi paling baik ketika tugas-tugasnya jelas dan tegas, bukan bertele-tele
Tumpukan jerami	pencarian + saluran orang	agak gratis	pipa padat, pengambilan, komponen	Lebih sedikit "teater agen", lebih banyak "pabrik praktis"
Buat sendiri (sistem pendingin kustom)	orang yang suka mengontrol (dengan penuh kasih sayang)	waktumu	sihir minimal, kejelasan maksimal	Biasanya ini yang terbaik dalam jangka panjang… sampai kamu menciptakan kembali semuanya 😅

Tidak ada pemenang tunggal. Pilihan terbaik bergantung pada apakah tugas utama agen Anda adalah pengambilan data, eksekusi alat, koordinasi multi-agen, atau otomatisasi alur kerja.

---

6) Cara Membangun Agen AI langkah demi langkah (resep sebenarnya) 🍳🤖

Ini adalah bagian yang paling sering dilewati orang, lalu mereka heran mengapa agen tersebut bertingkah seperti rakun di dalam dapur.

Langkah 1: Jelaskan pekerjaan tersebut dalam satu kalimat 🎯

Contoh:

• “Buat draf balasan pelanggan menggunakan kebijakan dan konteks tiket, lalu mintalah persetujuan.”

• “Selidiki laporan bug, reproduksi bug tersebut, dan usulkan perbaikannya.”

• “Ubah catatan rapat yang tidak sempurna menjadi tugas, penanggung jawab, dan tenggat waktu.”

Jika Anda tidak dapat mendefinisikannya secara sederhana, agen Anda juga tidak bisa. Maksud saya, memang bisa, tetapi akan berimprovisasi, dan improvisasi adalah penyebab pemborosan anggaran.

Langkah 2: Tentukan tingkat otonomi (rendah, sedang, pedas) 🌶️

• Otonomi rendah: menyarankan langkah-langkah, manusia mengklik "setujui"

• Medium: mengoperasikan alat, menyusun draf output, meningkatkan penanganan ketidakpastian.

• Tinggi: mengeksekusi secara menyeluruh, hanya menghubungi manusia jika terjadi pengecualian.

Mulailah dengan volume yang lebih rendah dari yang Anda inginkan. Anda selalu bisa menaikkannya nanti.

Langkah 3: Pilih strategi model Anda 🧠

Anda biasanya memilih:

• satu model yang kuat untuk segalanya (sederhana)

• satu model yang kuat + model yang lebih kecil untuk langkah-langkah yang murah (klasifikasi, perutean)

• model khusus (penglihatan, kode, ucapan) jika diperlukan

Putuskan juga:

• token maksimum

• suhu

• apakah Anda mengizinkan jejak penalaran panjang secara internal (Anda bisa, tetapi jangan mengekspos rangkaian pemikiran mentah kepada pengguna akhir)

Langkah 4: Definisikan alat dengan skema yang ketat 🔩

Alat-alat yang dibutuhkan:

• sempit

• diketik

• diizinkan

• Output Terstruktur OpenAI yang tervalidasi

Alih-alih menggunakan alat bernama do_anything(input: string), buatlah:

• search_kb(query: string) -> results[]

• buat_tiket(judul: string, isi: string, prioritas: enum) -> tiket_id

• send_email(to: string, subject: string, body: string) -> status Panduan pemanggilan fungsi OpenAI

Jika Anda memberikan gergaji mesin kepada agen, jangan kaget jika gergaji itu memangkas pagar tanaman sekaligus mencabut pagarnya juga.

Langkah 5: Bangun loop kontroler 🔁

Perulangan minimum:

1. Mulailah dengan tujuan + konteks awal

2. Tanyakan pada model: “Langkah selanjutnya?”

3. Jika alat dipanggil - jalankan alat

4. Tambahkan pengamatan

5. Periksa kondisi berhenti

6. Ulangi (dengan langkah maksimum) dokumentasi LangChain “Agen”

Menambahkan:

• waktu habis

• Percobaan ulang (hati-hati - percobaan ulang dapat berulang) AWS “Timeout, percobaan ulang, dan penundaan dengan jitter”

• pemformatan kesalahan alat (jelas, terstruktur)

Langkah 6: Tambahkan memori dengan hati-hati 🗃️

Jangka pendek: buatlah “ringkasan status” yang ringkas dan selalu diperbarui di setiap langkah. “Gambaran umum memori” LangChain.
Jangka panjang: simpan fakta-fakta yang tahan lama (preferensi pengguna, aturan organisasi, dokumentasi yang stabil).

Aturan praktis:

• Jika sering berubah, sebaiknya jangka pendek saja

• Jika kondisinya stabil, simpan untuk jangka panjang

• Jika sensitif, simpan seminimal mungkin (atau jangan disimpan sama sekali)

Langkah 7: Tambahkan validasi dan "kritik" 🧪

Pola yang murah dan praktis:

• Agen menghasilkan hasil

• Validator memeriksa struktur dan batasan

• Tinjauan model kritik opsional untuk langkah-langkah yang hilang atau pelanggaran kebijakan NIST AI RMF 1.0

Tidak sempurna, tetapi alat ini berhasil menangkap banyak sekali hal-hal yang tidak masuk akal.

Langkah 8: Catat semua hal yang akan Anda sesali jika tidak dicatat 📜

Log:

• panggilan alat + input + output

• keputusan yang dibuat

• kesalahan

• keluaran akhir

• Token dan latensi: Panduan singkat tentang observabilitas OpenTelemetry

Dirimu di masa depan akan berterima kasih. Dirimu saat ini akan melupakannya. Begitulah hidup 😵💫

---

7) Panggilan alat yang tidak menghancurkan jiwamu 🧰😵

Pemanggilan alat (tool calling) adalah bagian di mana "Cara Membangun Agen AI" menjadi rekayasa perangkat lunak yang sesungguhnya.

Buatlah alat-alat yang dapat diandalkan (dapat diandalkan itu baik)

Alat yang dapat diandalkan adalah:

• deterministik

• sempit dalam cakupan

• mudah diuji

• aman untuk menjalankan ulang permintaan "Idempotent" Stripe

Tambahkan pengaman pada lapisan alat, bukan hanya petunjuk

Prompt adalah saran yang sopan. Validasi alat adalah pintu yang terkunci. Output Terstruktur OpenAI

Melakukan:

• daftar yang diizinkan (alat mana yang dapat dijalankan)

• validasi input

• Batasan tarif OpenAI Panduan batasan tarif

• pemeriksaan izin per pengguna/organisasi

• “Mode uji coba” untuk tindakan berisiko

Desain untuk kegagalan parsial

Alat bisa gagal. Jaringan goyah. Otentikasi kedaluwarsa. Seorang agen harus:

• menafsirkan kesalahan

• Coba lagi dengan penundaan (backoff) bila sesuai. Strategi percobaan ulang Google Cloud (penundaan + jitter)

• pilih alat alternatif

• meningkat ketika terjebak

Trik yang diam-diam efektif: kembalikan kesalahan terstruktur seperti:

• tipe: kesalahan_autentikasi

• tipe: tidak_ditemukan

• tipe: rate_limited
  Sehingga model dapat merespons secara cerdas alih-alih panik.

---

8) Kenangan yang membantu, bukan yang menghantui Anda 👻🗂️

Memori itu ampuh, tetapi juga bisa menjadi laci tempat menyimpan barang-barang tak terpakai.

Memori jangka pendek: jaga agar tetap ringkas

Menggunakan:

• N langkah terakhir

• ringkasan berkelanjutan (diperbarui setiap putaran)

• rencana saat ini

• kendala saat ini (anggaran, waktu, kebijakan)

Jika Anda menempatkan semuanya dalam konteks, Anda akan mendapatkan:

• biaya lebih tinggi

• latensi lebih lambat

• lebih banyak kebingungan (ya, bahkan saat itu)

Memori jangka panjang: pengambilan kembali informasi dibandingkan dengan "penyimpanan" informasi

Sebagian besar “memori jangka panjang” lebih seperti:

• penyematan

• toko vektor

• generasi augmentasi pengambilan (RAG) makalah RAG

Agen tersebut tidak menghafal. Ia mengambil cuplikan yang paling relevan pada saat runtime. LlamaIndex “Pengantar RAG”

Aturan praktis untuk mengingat

• Simpan “preferensi” sebagai fakta eksplisit: “Pengguna menyukai ringkasan poin-poin dan membenci emoji” (lol, tapi tidak di sini ya 😄)

• Simpan "keputusan" dengan cap waktu atau versi (jika tidak, kontradiksi akan menumpuk)

• Jangan pernah menyimpan rahasia kecuali jika benar-benar terpaksa

Dan inilah metafora saya yang kurang sempurna: ingatan itu seperti kulkas. Jika Anda tidak pernah membersihkannya, pada akhirnya sandwich Anda akan terasa seperti bawang dan penyesalan.

---

9) Pola perencanaan (dari yang sederhana hingga yang rumit) 🧭✨

Perencanaan hanyalah dekomposisi yang terkontrol. Jangan membuatnya menjadi sesuatu yang mistis.

Pola A: Perencana daftar periksa ✅

• Model menghasilkan daftar langkah-langkah

• Menjalankan langkah demi langkah

• Status daftar periksa pembaruan

Sangat bagus untuk proses orientasi karyawan baru. Sederhana, mudah diuji.

Pola B: Lingkaran ReAct (alasan + tindakan) 🧠→🧰

• model memutuskan panggilan alat berikutnya

• mengamati keluaran

• mengulang kertas ReAct

Inilah nuansa agen klasik.

Pola C: Supervisor-pekerja 👥

• Supervisor memecah tujuan menjadi beberapa tugas

• Para pekerja melaksanakan tugas-tugas khusus

• Supervisor menggabungkan hasil Microsoft AutoGen (kerangka kerja multi-agen)

Ini sangat berharga ketika tugas-tugas dapat dijalankan secara paralel, atau ketika Anda menginginkan "peran" yang berbeda seperti:

• peneliti

• pemrogram

• editor

• Pemeriksa QA

Pola D: Rencanakan-lalu-eksekusi dengan perencanaan ulang 🔄

• buat rencana

• menjalankan

• Jika hasil alat ukur mengubah kenyataan, rencanakan ulang

Hal ini mencegah agen untuk bersikeras mengikuti rencana yang buruk. Manusia juga melakukan hal ini, kecuali jika mereka lelah, dalam hal ini mereka juga mengikuti rencana yang buruk.

---

10) Keamanan, keandalan, dan tidak dipecat 🔐😅

Jika agen Anda dapat mengambil tindakan, Anda memerlukan desain keamanan. Bukan sekadar "hal yang bagus untuk dimiliki". Suatu kebutuhan. NIST AI RMF 1.0

Batas keras

• jumlah langkah maksimum per lari

• Jumlah panggilan alat maksimum per menit

• pengeluaran maksimum per sesi (anggaran token)

• alat-alat terbatas di balik persetujuan

Penanganan data

• sunting input sensitif sebelum masuk

• lingkungan terpisah (pengembangan vs produksi)

• izin alat hak akses minimal

Batasan perilaku

• Memaksa agen untuk mengutip cuplikan bukti internal (bukan tautan eksternal, hanya referensi internal)

• memerlukan flag ketidakpastian ketika kepercayaan rendah

• mewajibkan "mengajukan pertanyaan klarifikasi" jika input tidak jelas

Agen yang dapat diandalkan bukanlah agen yang paling percaya diri. Agen yang dapat diandalkan adalah agen yang tahu kapan ia hanya menebak-nebak… dan mengakuinya.

---

11) Pengujian dan evaluasi (bagian yang dihindari semua orang) 🧪📏

Anda tidak bisa memperbaiki apa yang tidak bisa Anda ukur. Ya, kalimat itu memang klise, tapi sayangnya memang benar adanya.

Buat serangkaian skenario

Buat 30-100 kasus uji:

• jalan bahagia

• kasus-kasus khusus

• kasus “alat gagal”

• permintaan yang ambigu

• Prompt yang bersifat antagonis (upaya injeksi prompt) OWASP Top 10 untuk Aplikasi LLM OWASP LLM01 Injeksi Prompt

Hasil skor

Gunakan metrik seperti:

• tingkat keberhasilan tugas

• waktu penyelesaian

• tingkat pemulihan kesalahan alat

• tingkat halusinasi (klaim tanpa bukti)

• tingkat persetujuan manusia (jika dalam mode pengawasan)

Pengujian regresi untuk perintah dan alat

Kapan pun Anda berubah:

• skema alat

• instruksi sistem

• logika pengambilan

• Format memori.
  Jalankan rangkaian pengujian lagi.

Agen properti adalah makhluk yang sensitif. Seperti tanaman hias, tetapi lebih mahal.

---

12) Pola penerapan yang tidak menguras anggaran Anda 💸🔥

Mulailah dengan satu layanan

• API pengontrol agen

• layanan alat di baliknya

• Panduan dasar tentang pencatatan dan pemantauan OpenTelemetry

Terapkan pengendalian biaya sejak dini

• menyimpan hasil pengambilan dalam cache

• memadatkan isi percakapan dengan ringkasan

• menggunakan model yang lebih kecil untuk perutean dan ekstraksi

• membatasi “mode berpikir mendalam” pada langkah-langkah tersulit

Pilihan arsitektur umum

• pengontrol tanpa status + penyimpanan status eksternal (DB/redis)

• Panggilan alat bersifat idempoten jika memungkinkan. Stripe “Permintaan idempoten”

• antrekan untuk tugas-tugas yang memakan waktu lama (agar Anda tidak menahan permintaan web tetap terbuka selamanya)

Selain itu: buatlah "saklar pemutus". Anda tidak akan membutuhkannya sampai Anda benar-benar membutuhkannya 😬

---

13) Catatan penutup - versi singkat tentang Cara Membangun Agen AI 🎁🤖

Jika Anda tidak mengingat hal lain, ingatlah ini:

• Cara Membangun Agen AI sebagian besar membahas tentang membangun loop yang aman di sekitar sebuah model. Dokumentasi LangChain “Agents”

• Mulailah dengan tujuan yang jelas, otonomi rendah, dan alat yang ketat. Keluaran Terstruktur OpenAI

• Tambahkan memori melalui pengambilan informasi, bukan dengan pengisian konteks tanpa henti. Makalah RAG

• Perencanaan bisa sederhana - daftar periksa dan perencanaan ulang sangat membantu.

• Pencatatan log dan pengujian mengubah kekacauan agen menjadi sesuatu yang dapat Anda luncurkan. Panduan dasar observabilitas OpenTelemetry.

• Pembatas seharusnya ada dalam kode, bukan hanya dalam perintah. OWASP Top 10 untuk Aplikasi LLM

Agen bukanlah sihir. Ia adalah sebuah sistem yang cukup sering membuat keputusan yang baik sehingga menjadi berharga… dan mengakui kegagalan sebelum menimbulkan kerusakan. Secara diam-diam menenangkan, dalam arti tertentu 😌

Dan ya, jika Anda membangunnya dengan benar, rasanya seperti mempekerjakan seorang magang digital kecil yang tidak pernah tidur, kadang-kadang panik, dan menyukai pekerjaan administrasi. Jadi, pada dasarnya seorang magang.

Contoh nyata: Membangun agen AI triase dukungan pelanggan 🎫🤖

Skenario

Bayangkan sebuah tim SaaS kecil menerima 120-180 tiket dukungan setiap minggu. Sebagian besar tiket tidak rumit, tetapi tetap membutuhkan waktu: pengaturan ulang kata sandi, pertanyaan penagihan, laporan bug, permintaan fitur, dan pesan "apakah ini perilaku yang diharapkan?".

Chatbot sederhana dapat membuat draf balasan, tetapi tidak dapat secara andal memeriksa status akun, mencari di basis pengetahuan, mengklasifikasikan urgensi, atau memutuskan kapan manusia perlu turun tangan. Di sinilah peran agen menjadi penting.

Tujuannya bukanlah untuk sepenuhnya menggantikan dukungan pelanggan. Tujuannya adalah untuk membangun agen dengan otonomi rendah yang membaca tiket baru, mengumpulkan konteks, menyusun balasan, dan mengarahkan tiket ke antrian yang tepat. Manusia tetap menyetujui segala sesuatu yang berhubungan langsung dengan pelanggan.

Apa yang dibutuhkan asisten

Agar dapat bekerja dengan aman, agen membutuhkan sejumlah kecil masukan dan alat yang terkontrol:

• Teks tiket masuk

• Jenis paket pelanggan, usia akun, dan status penagihan terbaru

• Catatan perubahan produk terbaru atau insiden yang diketahui

• Artikel pusat bantuan internal

• Alat pembaruan tiket dengan bidang terbatas

• Alat untuk membuat draf balasan, bukan alat untuk mengirim email

• Kebijakan eskalasi yang jelas

Daftar alat yang digunakan memang harus dibatasi dengan sengaja:

• pusat_bantuan_pencarian(kueri)

• mendapatkan_status_pelanggan(ID_pelanggan)

• periksa_insiden_yang_diketahui(area_produk)

• update_ticket_category(ticket_id, category, priority)

• draf_balasan(id_tiket, teks_balasan)

• escalate_to_human(ticket_id, reason)

Perhatikan apa yang hilang: tidak ada alat "pengembalian dana pelanggan", "penutupan akun", atau "kirim balasan akhir". Tindakan-tindakan tersebut terlalu berisiko untuk versi pertama.

Contoh instruksi

Anda adalah agen triase dukungan untuk produk SaaS.

Tugas Anda adalah mengklasifikasikan tiket yang masuk, mengumpulkan hanya konteks yang dibutuhkan, menyusun draf respons yang disarankan, dan memutuskan apakah tiket tersebut perlu ditindaklanjuti ke tingkat yang lebih tinggi.

Aturan:

Jangan mengirim balasan langsung ke pelanggan.

Gunakan pusat bantuan sebelum menjawab pertanyaan produk.

Periksa status pelanggan sebelum menjawab pertanyaan terkait tagihan, paket, atau akses.

Jika pelanggan menyebutkan ancaman hukum, kehilangan data, masalah keamanan, kegagalan pembayaran, pembatalan akun, atau menggunakan bahasa yang kasar, segera laporkan ke petugas layanan pelanggan.

Jika jawaban tersebut tidak didukung oleh konten pusat bantuan atau data akun yang diperoleh, sebutkan apa yang kurang dan tindak lanjuti.

Berhenti setelah maksimal 6 kali penggunaan alat.

Sebuah tiket dianggap "selesai" hanya jika memiliki kategori, prioritas, ringkasan bukti, draf balasan, dan salah satu dari pilihan "perlu persetujuan manusia" atau "ditingkatkan".

Bagaimana cara mengujinya?

Mulailah dengan 30 tiket uji coba sebelum menghubungkannya ke pengguna sebenarnya:

• 10 tiket biasa, seperti pengaturan ulang kata sandi, batasan paket, dan pertanyaan dasar "bagaimana caranya?"

• 5 tiket tagihan

• 5 laporan bug

• 5 tiket yang ambigu dengan informasi yang hilang

• 5 tiket berisiko, seperti masalah keamanan, tuntutan pengembalian dana, dan keluhan yang marah

Untuk setiap tiket, berikan skor:

• Apakah sistem tersebut memilih kategori yang tepat?

• Apakah sistem tersebut menggunakan alat yang tepat sebelum memberikan jawaban?

• Apakah hal itu menghindari klaim yang tidak didukung bukti?

• Apakah hal itu meningkatkan jumlah tiket yang berisiko?

• Apakah draf tersebut membutuhkan penyuntingan besar-besaran?

Lembar kerja lulus/gagal sederhana sudah cukup di awal. Jangan membangun sistem evaluasi yang berlebihan sebelum Anda tahu apakah agen tersebut memberikan nilai tambah.

Hasil

Contoh hasil: Berdasarkan pengukuran waktu pada 30 tiket sampel sebelum dan sesudah menggunakan alur kerja ini, seorang pemimpin dukungan dapat mengukur hal-hal berikut:

• Waktu triase pertama rata-rata berkurang dari 6 menit per tiket menjadi 90 detik

• 30 tiket diproses dalam 45 menit, bukan 3 jam

• 27 dari 30 tiket ditempatkan dalam kategori yang tepat

• 5 dari 5 tiket berisiko ditangani dengan benar

• 0 balasan pelanggan dikirim tanpa persetujuan manusia

Angka-angka ini hanyalah perkiraan contoh, bukan tolok ukur yang terbukti. Pengukuran ini mudah diulang: ukur waktu pemrosesan tiket uji yang sama secara manual, lalu jalankan melalui agen dan bandingkan akurasi kategori, akurasi eskalasi, dan waktu pengeditan.

Apa yang bisa salah?

Agen tersebut masih bisa gagal dengan cara yang sangat umum.

Sistem mungkin mengklasifikasikan pelanggan yang frustrasi namun sederhana sebagai "mendesak" karena bahasanya terdengar marah. Sistem mungkin menyusun jawaban yang percaya diri dari artikel bantuan yang sudah usang. Sistem mungkin terus mencari padahal langkah yang tepat adalah meningkatkan penanganan masalah. Sistem mungkin mengungkapkan terlalu banyak detail akun dalam draf balasan.

Solusinya bukanlah "menulis prompt yang lebih baik" dan berharap. Tambahkan batasan yang tegas:

• Laporkan jika muncul bahasa yang berkaitan dengan penagihan, keamanan, hukum, atau pembatalan

• Sertakan kutipan dari artikel bantuan internal dalam ringkasan bukti

• Pastikan "kirim balasan" hanya dapat diakses melalui persetujuan manusia

• Catat setiap penggunaan alat dan draf akhir

• Jalankan ulang rangkaian pengujian 30 tiket setelah setiap perubahan perintah, alat, atau kebijakan

Kesimpulan praktis

Agen yang berharga tidak membutuhkan otonomi yang dramatis. Dalam contoh ini, nilainya berasal dari siklus yang terkontrol: membaca tiket, mengambil konteks yang tepat, mengklasifikasikannya, menyusun respons, dan berhenti untuk ditinjau. Hal itu jauh lebih mudah untuk dipercaya, diuji, dan ditingkatkan daripada agen yang mencoba "menangani dukungan" dengan satu perintah besar.

---

Pertanyaan yang Sering Diajukan (FAQ)

Secara sederhana, apa itu agen AI?

Agen AI pada dasarnya adalah sebuah siklus yang berulang: menerima masukan, menentukan langkah selanjutnya, menggunakan alat, membaca hasilnya, dan mengulanginya hingga selesai. Bagian "agen" berasal dari bertindak dan mengamati, bukan hanya mengobrol. Banyak agen hanyalah otomatisasi cerdas dengan akses ke alat, sementara yang lain berperilaku lebih seperti operator junior yang dapat pulih dari kesalahan.

Kapan sebaiknya saya membangun agen AI alih-alih hanya menggunakan perintah?

Buat agen ketika pekerjaan terdiri dari beberapa langkah, berubah berdasarkan hasil sementara, dan membutuhkan penggunaan alat yang andal (API, basis data, sistem tiket, eksekusi kode). Agen juga berguna ketika Anda menginginkan hasil yang berulang dengan pengaman dan cara untuk menandai "selesai". Jika respons cepat sederhana sudah cukup, agen biasanya hanya menambah beban dan potensi kegagalan yang tidak perlu.

Bagaimana cara membangun agen AI yang tidak terjebak dalam perulangan?

Gunakan kondisi berhenti yang tegas: langkah maksimum, panggilan alat maksimum, dan pemeriksaan penyelesaian yang jelas. Tambahkan skema alat terstruktur, batas waktu, dan percobaan ulang yang tidak akan terus berulang selamanya. Catat keputusan dan keluaran alat sehingga Anda dapat melihat di mana terjadi kesalahan. Katup pengaman umum adalah eskalasi: jika agen tidak yakin atau mengulangi kesalahan, ia harus meminta bantuan daripada berimprovisasi.

Apa arsitektur minimum untuk Cara Membangun Agen AI?

Minimalnya, Anda memerlukan loop pengontrol yang memberikan tujuan dan konteks kepada model, meminta tindakan selanjutnya, menjalankan alat jika diminta, menambahkan observasi, dan mengulanginya. Anda juga memerlukan alat dengan bentuk input/output yang ketat dan pemeriksaan "selesai". Bahkan loop buatan sendiri pun dapat berfungsi dengan baik jika Anda menjaga status tetap bersih dan memberlakukan batasan langkah.

Bagaimana seharusnya saya mendesain pemanggilan alat agar dapat diandalkan di lingkungan produksi?

Jaga agar alat tetap spesifik, terstruktur, memiliki izin akses, dan tervalidasi—hindari alat generik yang "bisa melakukan apa saja". Lebih sukai skema yang ketat (seperti output terstruktur/pemanggilan fungsi) sehingga agen tidak dapat mengabaikan input begitu saja. Tambahkan daftar izin, batasan laju, dan pemeriksaan izin pengguna/organisasi pada lapisan alat. Rancang alat agar aman untuk dijalankan ulang jika memungkinkan, menggunakan pola idempotensi.

Apa cara terbaik untuk menambah memori tanpa memperburuk kinerja agen?

Perlakukan memori sebagai dua bagian: status eksekusi jangka pendek (langkah-langkah terkini, rencana saat ini, batasan) dan pengambilan jangka panjang (preferensi, aturan stabil, dokumen yang relevan). Jaga agar memori jangka pendek tetap ringkas dengan ringkasan yang berjalan, bukan transkrip lengkap. Untuk memori jangka panjang, pengambilan (embedding + penyimpanan vektor/pola RAG) biasanya lebih baik daripada "memasukkan" semuanya ke dalam konteks dan membingungkan model.

Pola perencanaan mana yang sebaiknya saya gunakan: daftar periksa, ReAct, atau pengawas-pekerja?

Perencana berbasis daftar periksa sangat bagus ketika tugas-tugas dapat diprediksi dan Anda menginginkan sesuatu yang mudah diuji. Perulangan ala ReAct sangat berguna ketika hasil alat mengubah apa yang akan Anda lakukan selanjutnya. Pola pengawas-pekerja (seperti pemisahan peran ala AutoGen) membantu ketika tugas dapat diparalelkan atau mendapat manfaat dari peran yang berbeda (peneliti, pemrogram, QA). Merencanakan lalu mengeksekusi dengan perencanaan ulang adalah jalan tengah yang praktis untuk menghindari rencana buruk yang sulit diubah.

Bagaimana cara membuat agen aman jika agen tersebut dapat melakukan tindakan nyata?

Gunakan izin akses seminimal mungkin dan batasi alat-alat berisiko dengan mode persetujuan atau "uji coba". Tambahkan anggaran dan batasan: langkah maksimum, pengeluaran maksimum, dan batasan panggilan alat per menit. Sembunyikan data sensitif sebelum pencatatan, dan pisahkan lingkungan pengembangan dari lingkungan produksi. Wajibkan penggunaan flag ketidakpastian atau pertanyaan klarifikasi ketika input ambigu, alih-alih membiarkan kepercayaan menggantikan bukti.

Bagaimana cara saya menguji dan mengevaluasi agen AI agar kinerjanya meningkat seiring waktu?

Buat serangkaian skenario dengan jalur sukses, kasus ekstrem, kegagalan alat, permintaan ambigu, dan upaya injeksi prompt (gaya OWASP). Beri skor pada hasil seperti keberhasilan tugas, waktu penyelesaian, pemulihan dari kesalahan alat, dan klaim tanpa bukti. Setiap kali Anda mengubah skema alat, prompt, pengambilan, atau format memori, jalankan kembali rangkaian skenario tersebut. Jika Anda tidak dapat mengujinya, Anda tidak dapat mengirimkannya dengan andal.

Bagaimana cara saya menerapkan agen tanpa meningkatkan latensi dan biaya secara drastis?

Pola umum adalah pengontrol tanpa status (stateless controller) dengan penyimpanan status eksternal (DB/Redis), layanan alat di belakangnya, dan pencatatan/pemantauan yang kuat (seringkali OpenTelemetry). Kendalikan biaya dengan caching pengambilan data, ringkasan status yang ringkas, model yang lebih kecil untuk perutean/ekstraksi, dan batasi "pemikiran mendalam" pada langkah-langkah yang paling sulit. Gunakan antrian untuk tugas-tugas yang memakan waktu lama agar Anda tidak menahan permintaan web tetap terbuka. Selalu sertakan sakelar pemutus (kill switch).

Referensi

1. Institut Standar dan Teknologi Nasional (NIST) - NIST AI RMF 1.0 (kepercayaan & transparansi) - nvlpubs.nist.gov

2. OpenAI - Output Terstruktur - platform.openai.com

3. OpenAI - Panduan pemanggilan fungsi - platform.openai.com

4. OpenAI - Panduan batasan laju permintaan - platform.openai.com

5. OpenAI - Menjalankan API - platform.openai.com

6. OpenAI - Pemanggilan fungsi asisten - platform.openai.com

7. LangChain - Dokumentasi Agen (JavaScript) - docs.langchain.com

8. LangChain - Dokumentasi Alat (Python) - docs.langchain.com

9. LangChain - Gambaran umum memori - docs.langchain.com

10. arXiv - Makalah ReAct (reason + act) - arxiv.org

11. arXiv - Makalah RAG - arxiv.org

12. Pustaka Pengembang Amazon Web Services (AWS) - Batas waktu, percobaan ulang, dan penundaan dengan jitter - aws.amazon.com

13. OpenTelemetry - Pengantar Observabilitas - opentelemetry.io

14. Stripe - Permintaan idempoten - docs.stripe.com

15. Google Cloud - Strategi percobaan ulang (backoff + jitter) - docs.cloud.google.com

16. OWASP - 10 Teratas untuk Aplikasi Model Bahasa Skala Besar - owasp.org

17. OWASP - Injeksi Cepat LLM01 - genai.owasp.org

18. LlamaIndex - Pengantar RAG - developers.llamaindex.ai

19. Microsoft - Kernel Semantik - learn.microsoft.com

20. Microsoft AutoGen - Kerangka kerja multi-agen (dokumentasi) - microsoft.github.io

21. CrewAI - Konsep Agen - docs.crewai.com

22. Haystack (deepset) - Dokumentasi Retriever - docs.haystack.deepset.ai

Temukan AI Terbaru di Toko Resmi Asisten AI

Tentang Kami