Saya pernah melihat jawaban AI yang terlihat sangat meyakinkan.
Bahasanya rapi. Ada angka, istilah, bahkan nama sumber yang terdengar masuk akal.
Masalahnya, jawaban yang terdengar yakin belum tentu benar.
Ini menjadi lebih penting ketika informasi tersebut akan digunakan untuk pelanggan, harga, kebijakan, pembayaran, atau keputusan bisnis.
Karena itu, menurut saya pertanyaan yang lebih berguna bukan:
“Apakah AI bisa dipercaya?”
Tetapi:
“Seberapa jauh jawaban ini perlu saya periksa sebelum digunakan?”
Untuk UMKM, kebiasaan seperti ini jauh lebih berguna daripada mencoba mempercayai atau mencurigai semua jawaban AI sekaligus.
Mengapa jawaban AI bisa terlihat benar meskipun salah?
AI generatif dapat menghasilkan informasi yang salah atau menyesatkan meskipun jawabannya terdengar lancar dan percaya diri.
Kesalahan tersebut dapat berupa fakta atau tanggal yang keliru, konteks yang tidak lengkap, sampai kutipan atau referensi yang ternyata tidak ada.[1]
Kondisi ini sering disebut sebagai hallucination atau halusinasi AI.
Istilahnya terdengar teknis, tetapi implikasinya bagi UMKM cukup sederhana:
Kelancaran bahasa bukan bukti bahwa informasi tersebut benar.
Saya pernah melihat seorang teman mengalami situasi seperti ini.
Ia mendapat sampel produk herbal impor dengan kemasan berbahasa asing. Untuk memahami spesifikasinya, ia meminta bantuan AI lalu menggunakan informasi tersebut untuk menyiapkan konsep video affiliate.
Videonya hampir siap dipublikasikan. Namun sebelum upload, ia membandingkan informasi itu dengan beberapa ulasan affiliator lain dan menemukan perbedaan spesifikasi yang cukup jauh.
Perbandingan tersebut memang belum membuktikan informasi mana yang benar. Tetapi bagi saya, itu sudah menjadi sinyal penting untuk berhenti sejenak dan kembali memeriksa sumber produk sebelum informasi dipublikasikan.
Jangan langsung mengubah jawaban AI menjadi informasi publik sebelum sumber aslinya diperiksa.
AI sangat berguna untuk membantu membuat draft, merangkum, membandingkan informasi, atau menemukan kemungkinan jawaban.
Tetapi hasil tersebut tidak otomatis menjadi Source of Truth.
Tidak semua kesalahan AI mempunyai risiko yang sama
Bayangkan AI memberikan lima jawaban berikut:
- ide caption untuk Instagram;
- alternatif judul artikel;
- harga produk yang akan dikirim kepada pelanggan;
- kebijakan refund sebuah marketplace;
- informasi pajak yang akan digunakan untuk keputusan bisnis.
Jika sebuah ide caption kurang tepat, kita mungkin hanya perlu mengeditnya.
Tetapi jika informasi harga, kebijakan, pembayaran, atau aturan ternyata salah, konsekuensinya bisa lebih besar.
Karena itu saya menggunakan prinsip sederhana:
Semakin besar konsekuensi jika informasi salah, semakin kuat pemeriksaan yang dibutuhkan.
Kita tidak perlu memperlakukan semua output AI seperti dokumen hukum.
Tetapi kita juga tidak sebaiknya menggunakan informasi penting hanya karena jawabannya terlihat profesional.
Lima tanda jawaban AI perlu diperiksa lebih lanjut
Ada beberapa jenis jawaban yang menurut saya layak mendapatkan perhatian lebih.
1. Ada angka atau tanggal yang spesifik
Misalnya biaya layanan, persentase, tanggal berlaku, batas waktu, statistik, atau angka pasar.
Angka mudah terlihat meyakinkan karena spesifik. Justru karena itu, periksa dari mana angka tersebut berasal dan apakah masih berlaku.
2. Menyebut aturan, kebijakan, atau ketentuan
Kebijakan marketplace, biaya layanan, aturan retur, ketentuan pembayaran, regulasi, dan prosedur dapat berubah.
Untuk informasi seperti ini, sumber resmi yang berlaku lebih penting daripada jawaban AI.
3. Menyertakan kutipan, studi, atau sumber
Jangan menganggap sebuah referensi benar hanya karena nama institusi, penulis, atau judulnya terdengar masuk akal.
OpenAI sendiri menjelaskan bahwa model dapat menghasilkan kutipan, studi, sitasi, atau referensi yang sebenarnya tidak ada.[1]
4. Informasinya dapat berubah dari waktu ke waktu
Harga, fitur produk, kebijakan platform, jadwal, regulasi, dan informasi bisnis adalah contoh data yang mempunyai unsur waktu.
Jawaban yang benar beberapa bulan lalu belum tentu masih benar hari ini.
5. Jawabannya sangat pasti tetapi konteksnya kurang
Misalnya kita bertanya:
“Berapa harga yang sebaiknya saya berikan kepada pelanggan?”
Padahal AI belum mengetahui biaya, margin, lokasi, jenis pelanggan, kebijakan diskon, atau kondisi bisnis.
Jawaban yang sangat spesifik dalam situasi seperti itu perlu diperlakukan sebagai masukan, bukan keputusan akhir.
Cara UMKM memeriksa informasi dari AI
Saya tidak menyarankan proses verifikasi yang rumit untuk setiap jawaban.
Untuk informasi yang memang penting, gunakan lima langkah berikut.
1. Pisahkan klaim yang ingin diperiksa
Jangan mencoba memverifikasi satu paragraf sekaligus.
Tanyakan:
Apa sebenarnya yang diklaim oleh jawaban ini?
Misalnya:
- “Batas retur adalah tujuh hari.”
- “Biaya layanan sebesar 5%.”
- “Kebijakan ini mulai berlaku bulan September.”
Semakin jelas klaimnya, semakin mudah diperiksa.
2. Cari sumber yang seharusnya mengetahui jawabannya
Jika pertanyaannya mengenai kebijakan sebuah marketplace, buka dokumentasi resmi marketplace tersebut.
Jika mengenai fitur sebuah software, periksa dokumentasi resminya.
Jika mengenai regulasi, cari sumber pemerintah atau lembaga yang mempunyai authority terhadap aturan tersebut.
Prinsipnya:
Dekatkan pemeriksaan ke sumber yang paling berwenang terhadap informasi tersebut.
3. Periksa apakah informasinya masih berlaku
Lihat tanggal publikasi, tanggal pembaruan, versi kebijakan, atau periode berlakunya.
Ini sering terlewat.
Informasi bisa benar tetapi sudah tidak relevan dengan kondisi sekarang.
4. Bandingkan jika konsekuensinya cukup penting
Google juga menyarankan pengguna memeriksa informasi penting di lebih dari satu tempat ketika menggunakan respons berbasis AI.[2]
Cross-check bukan berarti mencari sepuluh website.
Sering kali cukup dengan membandingkan jawaban AI dengan satu sumber primer dan satu sumber pendukung yang kredibel.
5. Lihat konsekuensi jika ternyata salah
Terakhir, tanyakan:
“Apa yang terjadi jika saya menggunakan informasi ini dan ternyata keliru?”
Jika dampaknya kecil, pemeriksaan sederhana mungkin sudah cukup.
Jika menyangkut pelanggan, uang, kebijakan, komitmen, atau keputusan penting, tingkat pemeriksaannya perlu lebih kuat.
Jangan meminta AI menjadi hakim atas jawabannya sendiri
Ada satu kebiasaan yang menurut saya perlu dibedakan dari verifikasi.
Kita bertanya kepada AI:
“Apakah jawaban tadi benar?”
atau:
“Apakah kamu yakin?”
Pertanyaan tersebut tetap berguna.
AI mungkin menemukan kelemahan, mengoreksi jawaban, atau mengakui bahwa ada informasi yang belum pasti.
Tetapi itu belum menjadi pemeriksaan independen.
Kita masih berada di dalam sistem yang menghasilkan jawaban pertama.
AI dapat membantu kita:
- memisahkan fakta dan asumsi;
- menunjukkan bagian yang perlu diverifikasi;
- mencari kemungkinan sumber;
- membandingkan dua dokumen; atau
- merangkum informasi dari sumber yang kita berikan.
Tetapi untuk klaim material, pemeriksaannya tetap perlu kembali kepada sumber yang relevan.
Contoh sederhana: AI menjelaskan kebijakan retur
Simulasi pembelajaran: contoh berikut bukan data klien atau kejadian bisnis Enoharyz.
Bayangkan seorang pemilik UMKM berjualan melalui sebuah marketplace.
Seorang pelanggan bertanya apakah sebuah produk masih dapat diretur.
Pemilik bisnis kemudian bertanya kepada AI.
AI memberikan jawaban:
“Produk dapat diretur maksimal tujuh hari setelah diterima selama belum digunakan.”
Jawabannya terlihat jelas.
Tetapi sebelum mengirimnya kepada pelanggan, kita dapat memeriksa:
- Apakah batas waktunya benar?
- Apakah semua kategori produk mempunyai aturan yang sama?
- Apakah ada pengecualian?
- Apakah kebijakannya masih berlaku?
- Apakah seller mempunyai kebijakan tambahan yang perlu diperhatikan?
Setelah itu buka pusat bantuan atau kebijakan resmi marketplace yang berlaku.
Untuk kebijakan platform, sumber yang berlaku tetap dokumentasi resmi platform tersebut, bukan jawaban AI atau konten pengguna lain.
Jika ada perbedaan, gunakan informasi resmi yang relevan sebagai dasar tindakan.
AI tetap membantu karena mempercepat proses memahami pertanyaan.
Tetapi keputusan tidak bergantung pada jawaban AI semata.
AI yang dapat mengakses internet pun masih perlu diperiksa
Saat ini beberapa layanan AI dapat mencari informasi di web atau menyertakan link sumber.
Ini sangat membantu.
Tetapi akses internet tidak otomatis membuat setiap jawaban benar.
Google menjelaskan bahwa sistem AI Search pun masih dapat salah menafsirkan konten web atau kehilangan konteks.[2]
Masalah lainnya juga masih mungkin terjadi:
- sumber yang digunakan sudah lama;
- sumber sekunder tidak lengkap;
- dua sumber memberikan informasi berbeda;
- AI mengambil konteks yang tidak sesuai;
- informasinya benar untuk kondisi tertentu tetapi tidak untuk bisnis kita.
Karena itu, adanya link sumber sebaiknya dipandang sebagai jalan untuk melakukan verifikasi, bukan bukti bahwa proses verifikasi sudah selesai.
Kapan spot check cukup dan kapan human review perlu lebih kuat?
Tidak semua pekerjaan memerlukan prosedur pemeriksaan yang sama.
Risiko relatif rendah
Contohnya:
- brainstorming ide;
- alternatif headline;
- draft internal;
- merapikan struktur tulisan;
- merangkum catatan yang sudah kita miliki.
Untuk pekerjaan seperti ini, membaca ulang dan melakukan spot check biasanya sudah cukup.
Konsekuensinya lebih tinggi
Perkuat human review jika output berkaitan dengan:
- harga atau diskon;
- transaksi dan pembayaran;
- refund atau kompensasi;
- kebijakan bisnis;
- komitmen kepada pelanggan;
- data pelanggan;
- informasi hukum atau pajak; atau
- keputusan penting lainnya.
Dalam kondisi seperti ini, AI dapat membantu menyiapkan informasi atau alternatif.
Tetapi authority untuk menentukan tindakan tetap berada pada manusia.
Jangan membuat proses verifikasi lebih rumit daripada masalahnya
Ada sisi lain yang juga perlu dijaga.
Setelah mengetahui bahwa AI bisa salah, kita tidak perlu berubah menjadi takut menggunakan AI.
Untuk ide sederhana:
baca → nilai → gunakan atau edit.
Untuk sebuah fakta penting:
identifikasi klaim → buka sumber → periksa → gunakan.
Untuk keputusan yang mempunyai konsekuensi lebih besar:
gunakan sumber yang relevan → lakukan human review → manusia menentukan tindakan.
Itu sudah cukup untuk banyak situasi UMKM.
Tujuan verifikasi bukan membuat pekerjaan menjadi lambat.
Tujuannya adalah mencegah kita membuat keputusan penting berdasarkan informasi yang sebenarnya belum diperiksa.
Jangan bertanya apakah semua jawaban AI bisa dipercaya
AI dapat mempercepat banyak pekerjaan.
Ia dapat membantu mencari alternatif, membuat draft, merangkum informasi, dan menemukan hal yang mungkin perlu kita periksa lebih lanjut.
Tetapi tidak semua output mempunyai tingkat kepastian dan konsekuensi yang sama.
Karena itu saya lebih suka menggunakan pertanyaan:
“Seberapa jauh saya perlu memeriksa jawaban ini sebelum menggunakannya?”
Semakin penting keputusan yang akan dibuat, semakin penting memastikan bahwa informasi di belakangnya benar, masih berlaku, dan sesuai dengan konteks bisnis.
Jika pemeriksaan sederhana sudah cukup, jangan membuatnya rumit.
Jika konsekuensinya tinggi, jangan mengambil jalan pintas.
AI membantu. Manusia memahami, mengendalikan, dan memutuskan.
Pertanyaan umum tentang jawaban AI
Apakah AI selalu memberikan informasi yang benar?
Tidak. AI generatif dapat menghasilkan informasi yang salah, kehilangan konteks, atau memberikan jawaban yang terdengar yakin meskipun faktanya keliru. Informasi penting tetap perlu diperiksa dari sumber yang relevan.
Apa itu halusinasi AI?
Halusinasi AI adalah istilah yang digunakan ketika model menghasilkan informasi yang tidak akurat secara faktual, termasuk fakta, tanggal, kutipan, atau referensi yang salah atau dibuat-buat.
Bagaimana cara mengetahui jawaban AI salah?
Kita tidak selalu dapat mengetahuinya hanya dengan membaca gaya jawabannya. Pisahkan klaim yang diberikan, periksa sumbernya, lihat tanggal atau konteksnya, lalu bandingkan dengan sumber yang seharusnya mengetahui informasi tersebut.
Apakah jawaban AI yang menyertakan sumber pasti benar?
Tidak otomatis. Periksa apakah sumber tersebut benar-benar ada, relevan dengan klaim, masih berlaku, dan mendukung kesimpulan yang diberikan.
Apakah AI dengan akses internet lebih dapat dipercaya?
Akses web dapat membantu AI menggunakan informasi yang lebih baru dan memberikan sumber yang dapat diperiksa. Namun AI masih dapat salah menafsirkan sumber, kehilangan konteks, atau menggunakan informasi yang tidak sesuai dengan kebutuhan kita.
Kapan UMKM perlu memeriksa hasil AI?
Semakin besar konsekuensi jika sebuah informasi salah, semakin kuat pemeriksaan yang diperlukan. Perhatian khusus diperlukan untuk harga, transaksi, pelanggan, kebijakan, data pribadi, komitmen, serta informasi hukum atau pajak.
Apakah informasi dari AI boleh langsung diberikan kepada pelanggan?
Untuk informasi sederhana mungkin cukup setelah diperiksa. Tetapi untuk harga, kebijakan, refund, transaksi, komitmen, atau informasi lain yang dapat memengaruhi pelanggan, pastikan sumber dan konteksnya benar sebelum digunakan.
Pelajari perubahan AI sebelum menerapkannya
Artikel ini merupakan bagian dari UMKM Paham AI, Topical Hub Enoharyz untuk membantu UMKM memahami perubahan AI, dampak, risiko, batas penggunaan, dan keputusan yang lebih relevan sebelum menerapkannya.
Jika Anda ingin melihat bagaimana perubahan AI juga mulai memengaruhi cara pelanggan menemukan website dan bisnis melalui mesin pencari, baca:
AI Search, FOMO, dan Masa Depan Website UMKM →
Bagaimana pengalaman Anda menggunakan informasi dari AI?
Apakah Anda pernah mendapatkan jawaban AI yang terlihat meyakinkan, tetapi setelah diperiksa ternyata berbeda dengan sumber aslinya?
Atau mungkin AI pernah membantu Anda menemukan informasi yang benar-benar berguna setelah melalui proses verifikasi?
Silakan bagikan pengalaman Anda di kolom komentar.
Pengalaman pelaku UMKM, affiliate, pemilik bisnis, dan praktisi lain dapat membantu Enoharyz serta pembaca lainnya memahami kapan AI benar-benar membantu dan kapan kita perlu lebih berhati-hati.
Jika memungkinkan, ceritakan juga bagaimana Anda memeriksa informasi tersebut dan sumber apa yang akhirnya digunakan sebagai acuan.
Sumber dan bacaan terkait
- OpenAI Help Center. Does ChatGPT tell the truth? Panduan mengenai keterbatasan faktual, halusinasi, serta pentingnya memverifikasi informasi penting.
- Google Search Help. Get AI-powered responses with AI Mode in Google Search. Google menjelaskan bahwa respons AI dapat mengandung kesalahan, salah menafsirkan konten, atau kehilangan konteks, serta menyarankan pemeriksaan informasi penting.