Sebagai pelaku UMKM yang setiap hari ikut mengurus operasional, saya sempat merasa cukup terbantu ketika pertama kali mengenal ChatGPT. Awalnya saya menggunakannya untuk pekerjaan sederhana, seperti mencari ide konten atau menyusun draft balasan ulasan pelanggan.
Namun, jika Anda seperti saya yang harus memegang banyak peran sekaligus—mulai dari mengurus marketing sampai mencatat transaksi—sekadar menghasilkan teks ternyata belum cukup menyelesaikan masalah keterbatasan waktu.
Belakangan ini, perhatian saya cukup banyak tertuju pada konsep AI Agent. Bagi sebagian pemilik UMKM, istilah tersebut mungkin terdengar rumit dan seolah hanya cocok untuk perusahaan teknologi yang memiliki tim developer sendiri.
Setelah saya pelajari dan coba untuk beberapa kebutuhan operasional, konsep dasarnya ternyata jauh lebih sederhana. Saya melihat AI Agent sebagai asisten digital yang diberi tujuan, konteks bisnis, tools, dan batasan tertentu untuk membantu menjalankan rangkaian tugas secara lebih mandiri. Untuk memulainya pun kita tidak selalu harus menulis kode dari nol.
Namun, di tengah ramainya pembicaraan tentang teknologi ini, saya tidak ingin menjual hype.
Mengadopsi AI Agent bukan berarti kita bisa lepas tangan dan menyerahkan operasional bisnis sepenuhnya kepada mesin. Prinsip yang tetap saya pegang adalah masalah terlebih dahulu, tools kemudian.
Semakin banyak pekerjaan mekanis yang kita delegasikan kepada asisten digital, semakin penting pula peran pemilik bisnis dalam menentukan batasnya: data apa yang boleh digunakan, tindakan apa yang boleh dilakukan, keputusan mana yang membutuhkan persetujuan, dan kapan proses harus dikembalikan kepada manusia.
Karena itu, bagi saya AI Agent yang berguna bukan yang terlihat paling canggih, tetapi yang memiliki tujuan jelas, bekerja dari informasi yang benar, dan tetap berada dalam kendali manusia.
Sebelum memilih platform atau mulai membuat agent, saya selalu kembali ke fondasi yang sudah kita bahas sebelumnya: apakah workflow pekerjaan tersebut sudah cukup jelas dan stabil? Jika proses manualnya masih berubah-ubah atau aturan bisnisnya belum tegas, memberikan lebih banyak kemandirian kepada AI justru berisiko memperbesar kesalahan.
1. Mulai dari Workflow yang Sudah Cukup Stabil
Saya tidak menyarankan membuat AI Agent untuk proses yang masih berubah-ubah setiap hari.
Sebelum memberi AI lebih banyak kemandirian, pastikan workflow dasarnya sudah cukup jelas: apa input-nya, informasi apa yang digunakan, keputusan apa yang boleh dibuat, dan kapan manusia harus mengambil alih.
Jika proses tersebut masih membingungkan ketika dilakukan manual, agent hanya berisiko mempercepat kekacauan yang sama.
Karena itu, fondasi Artikel #16 sebenarnya dimulai dari Workflow AI UMKM yang sudah diuji terlebih dahulu.
2. Tentukan Satu Tujuan yang Spesifik
Agent pertama tidak perlu diberi tugas seperti:
“Bantu urus bisnis saya.”
Tujuan seperti itu terlalu luas.
Saya lebih memilih pekerjaan yang jelas, misalnya:
- merangkum chat pelanggan dan menyiapkan draft respons;
- mengelompokkan prospek berdasarkan status;
- membaca laporan sederhana lalu membuat ringkasan;
- atau mencari informasi dari knowledge base dan menyiapkan next action.
Tentukan juga seperti apa hasil yang dianggap selesai.
Contohnya:
Tujuan: membantu CS menyiapkan draft jawaban berdasarkan knowledge base.
Selesai ketika: kebutuhan pelanggan sudah diringkas, fakta ditemukan, draft dibuat, dan kasus yang membutuhkan keputusan manusia sudah ditandai.
Prompt 1: Agent Design Canvas
Saya ingin merancang AI Agent sederhana untuk satu workflow bisnis.
Workflow saat ini:
[tempel workflow]
Masalah yang ingin dikurangi:
[isi]
Tujuan agent:
[isi]
Input:
[isi]
Output yang diharapkan:
[isi]
Tugas:
Susun blueprint agent yang berisi:
1. tujuan utama;
2. input yang dibutuhkan;
3. knowledge yang digunakan;
4. tools yang mungkin diperlukan;
5. tindakan yang boleh dilakukan;
6. kondisi selesai;
7. titik human review;
8. risiko yang perlu diperhatikan.
Batasan:
Jangan menambahkan kemampuan atau akses yang tidak diperlukan untuk mencapai tujuan. Jika workflow belum cukup jelas, tandai bagian yang harus diperbaiki sebelum agent dibuat.
3. Siapkan Knowledge dan Source of Truth
AI Agent membutuhkan konteks yang lebih kuat daripada sekadar prompt.
Jika agent harus menjawab tentang produk, ia harus memiliki sumber produk yang benar. Jika harus membantu membaca kebijakan, ia perlu mengetahui versi kebijakan yang aktif.
Di sinilah knowledge base UMKM menjadi penting.
Saya ingin agent mengetahui tiga hal:
- informasi apa yang boleh digunakan;
- sumber mana yang menjadi acuan;
- apa yang harus dilakukan ketika informasinya tidak tersedia atau bertentangan.
Aturannya sederhana: jika fakta tidak tersedia, agent tidak boleh mengarangnya.
4. Berikan Tools Sesuai Kebutuhan, Bukan Sebanyak Mungkin
Agent menjadi lebih berguna ketika memiliki tools untuk membaca informasi atau melakukan tindakan.
Namun semakin banyak tools yang diberikan, semakin besar pula ruang kesalahan.
Saya lebih memilih prinsip akses minimum.
Jika agent hanya perlu membaca spreadsheet, jangan langsung beri akses untuk mengubah seluruh data. Jika hanya perlu membuat draft, jangan langsung izinkan mengirim pesan tanpa review.
Secara umum, tools dapat dibagi menjadi:
- read tools — mengambil informasi;
- action tools — melakukan perubahan atau tindakan;
- handoff tools — meneruskan pekerjaan kepada manusia atau sistem lain.
OpenAI juga menjelaskan bahwa agent menggunakan model untuk mengelola workflow dan memilih tools yang relevan, tetapi tetap harus bekerja dalam guardrails yang jelas. 0
5. Tetapkan Instructions, Permissions, dan Human Handoff
Agent yang baik bukan agent yang bisa melakukan semuanya.
Ia harus mengetahui:
- apa yang boleh dilakukan;
- apa yang tidak boleh dilakukan;
- data apa yang boleh digunakan;
- kapan harus meminta persetujuan;
- dan kapan harus berhenti lalu menyerahkan kontrol kepada manusia.
Contohnya:
Boleh: membuat draft respons berdasarkan knowledge base.
Perlu approval: mengirim penawaran harga final.
Tidak boleh: membuat diskon sendiri.
Handoff: refund, kompensasi, keputusan finansial, atau konflik data.
OpenAI juga menekankan bahwa human intervention penting terutama pada tahap awal deployment dan untuk tindakan berisiko tinggi atau sulit dibatalkan. 1
Prompt 2: Audit Permissions dan Guardrails
Saya ingin mengaudit permissions dan guardrails AI Agent berikut.
Tujuan agent:
[isi]
Tools yang tersedia:
[isi]
Tindakan yang direncanakan:
[isi]
Tugas:
Kelompokkan setiap tindakan menjadi:
1. boleh dilakukan otomatis;
2. membutuhkan human approval;
3. harus ditolak atau dieskalasikan.
Periksa juga risiko terkait:
- data pribadi;
- perubahan data;
- transaksi finansial;
- komunikasi kepada pelanggan;
- keputusan yang sulit dibatalkan;
- informasi yang belum terverifikasi.
Batasan:
Gunakan prinsip akses minimum. Jangan menganggap tindakan berisiko aman hanya karena secara teknis bisa dilakukan.
6. Uji Agent dengan Kasus Normal dan Kasus Gagal
Agent tidak cukup diuji hanya ketika semuanya berjalan sempurna.
Saya ingin melihat apa yang terjadi ketika:
- data lengkap;
- data tidak tersedia;
- dua sumber bertentangan;
- pelanggan meminta sesuatu di luar kewenangan;
- tool gagal;
- agent salah memahami intent;
- atau agent mencoba mengambil tindakan yang seharusnya membutuhkan approval.
Tujuan testing bukan membuktikan agent selalu benar.
Tujuannya justru menemukan bagaimana agent gagal sebelum kegagalan tersebut terjadi di operasional nyata.
Prompt 3: Agent Evaluation dan Failure Test
Saya ingin menguji desain AI Agent berikut.
Agent design:
[tempel blueprint]
Guardrails:
[tempel aturan]
Tugas:
Buat skenario pengujian untuk:
1. normal case;
2. missing data;
3. conflicting data;
4. tool failure;
5. ambiguous request;
6. high-risk action;
7. human handoff.
Untuk setiap skenario, periksa:
- tindakan apa yang kemungkinan diambil agent;
- apakah tindakannya masih sesuai guardrail;
- apakah agent seharusnya berhenti;
- apakah human approval diperlukan;
- risiko jika agent mengambil keputusan yang salah.
Setelah itu, buat daftar gap yang harus diperbaiki sebelum agent digunakan.
Batasan:
Jangan membuat kebijakan baru untuk menutup gap. Pisahkan dengan jelas antara masalah desain agent dan keputusan bisnis yang masih harus dibuat manusia.
7. Mulai Kecil, Ukur, lalu Tambah Kemampuan
Saya tidak ingin agent pertama langsung menangani banyak fungsi.
Lebih aman memulai dari satu workflow, sedikit tools, dan batas tindakan yang jelas.
Setelah digunakan, ukur beberapa hal:
- apakah waktu kerja berkurang;
- apakah hasil lebih konsisten;
- berapa sering human handoff terjadi;
- jenis kesalahan yang masih muncul;
- apakah agent mengambil tindakan di luar batas;
- dan apakah tim merasa workflow menjadi lebih mudah.
Jika satu agent sudah cukup stabil, barulah kita mempertimbangkan menambah tools atau kemampuan baru.
OpenAI juga merekomendasikan pendekatan bertahap: mulai dengan sistem sederhana, evaluasi hasilnya, lalu menambah kompleksitas hanya ketika memang diperlukan. 2
Contoh AI Agent Sederhana untuk Customer Service
Sebagai contoh, kita bisa menggunakan workflow customer service yang sudah memiliki SOP dan knowledge base.
Chat masuk
↓
Agent membaca konteks
↓
Mencari informasi di knowledge base
↓
Menentukan apakah data cukup
↓
Membuat draft respons
↓
Jika normal → human review
Jika refund/kompensasi/konflik → handoff ke PIC
Dalam contoh ini, agent tidak diberikan kewenangan membuat keputusan refund atau kompensasi.
Ia hanya membantu membaca konteks, menggunakan informasi resmi, menyiapkan draft, lalu menyerahkan kasus yang berada di luar batasnya.
Aturan kewenangan seperti ini sebaiknya sudah tertulis dalam SOP customer service.
Workflow dan AI Agent Bukan Hal yang Sama
Workflow adalah alur kerja yang kita desain.
AI Agent menggunakan model untuk membantu mengelola eksekusi workflow, memilih tools, dan menentukan langkah berikutnya sesuai tujuan serta batas yang diberikan. OpenAI juga menggunakan perbedaan ini untuk membedakan agent dari chatbot atau penggunaan LLM satu kali. 3
Karena itu, saya tidak melihat AI Agent sebagai pengganti workflow.
Agent justru membutuhkan workflow yang cukup matang agar ia tahu ruang geraknya.
Pertanyaan yang Sering Diajukan
Apakah AI Agent UMKM harus menggunakan coding?
Tidak selalu. Beberapa platform memungkinkan workflow dan agent sederhana dibuat melalui antarmuka visual atau integrasi no-code. Coding diperlukan jika kebutuhan integrasi atau logic bisnisnya lebih khusus.
Apa bedanya AI Agent dengan chatbot biasa?
Chatbot umumnya berfokus pada percakapan atau menghasilkan respons. Agent dapat diberi tujuan, tools, dan aturan untuk membantu menjalankan rangkaian langkah dalam workflow, termasuk mengambil atau memproses informasi dan memilih tindakan berikutnya sesuai batas yang ditentukan.
Kapan AI Agent harus menyerahkan pekerjaan kepada manusia?
Ketika informasi tidak cukup, sumber data bertentangan, tindakan membutuhkan otorisasi, risikonya tinggi, agent gagal berulang kali, atau keputusan membutuhkan pertimbangan manusia yang lebih dalam.
Agent yang Berguna Tidak Harus Terlihat Canggih
Ketika pertama kali membaca tentang AI Agent, saya juga sempat membayangkan sistem yang sangat kompleks dan hampir sepenuhnya otomatis.
Setelah mempelajarinya lebih jauh, saya justru melihat bahwa untuk UMKM, pendekatan kecil dan terkontrol jauh lebih masuk akal.
Satu agent yang membantu satu pekerjaan berulang dengan baik bisa lebih bernilai daripada sistem besar yang kita sendiri sulit memahami cara kerjanya.
Prinsip saya tetap sama: masalah terlebih dahulu, tools kemudian.
AI boleh diberi lebih banyak kemampuan, tetapi semakin besar kemampuannya, semakin jelas pula guardrails, permissions, source of truth, dan human handoff yang harus kita siapkan.
Kalau Anda memiliki satu pekerjaan berulang yang sudah memiliki workflow cukup jelas, bagian mana yang menurut Anda paling mungkin mulai dibantu AI Agent?
Ceritakan di kolom komentar. Bisa jadi agent pertama yang paling berguna justru bukan yang paling rumit, tetapi yang menyelesaikan satu masalah kecil secara konsisten.