Bagaimana Chatbot Menjawab dari Dokumen Anda

Banyak orang membayangkan chatbot sebagai mesin yang sudah tahu segalanya tentang sebuah bisnis sejak hari pertama. Kenyataannya lebih sederhana sekaligus lebih menarik: bot yang baik tidak menghafal apa pun. Setiap kali pertanyaan masuk, ia mencari dulu bagian dokumen yang paling relevan, baru menyusun jawaban dari bagian itu.

Alur ini punya nama teknis: retrieval, alias pencarian. Memahaminya membuat banyak perilaku chatbot yang tadinya terasa aneh jadi masuk akal.

Dokumen dipecah menjadi potongan

Satu panduan produk bisa berisi puluhan halaman. Menyodorkan seluruh isinya ke model bahasa setiap kali ada pertanyaan bukan cuma mahal, tetapi juga menurunkan ketepatan: makin banyak bahan yang tidak relevan, makin besar peluang jawaban melenceng.

Karena itu dokumen dipecah lebih dulu menjadi potongan-potongan kecil. Pemotongan yang baik berusaha menjaga satu gagasan tetap utuh dalam satu potongan. Kalau prosedur pemasangan widget terbelah di tengah, potongan pertama berisi separuh langkah tanpa penutup, dan potongan kedua berisi langkah tanpa konteks. Keduanya jadi setengah berguna.

Setiap potongan diberi koordinat makna

Tiap potongan lalu diubah menjadi deretan angka yang mewakili maknanya, biasa disebut embedding. Anggap saja setiap potongan mendapat koordinat di sebuah peta. Yang membuat peta ini berguna: dua kalimat yang maksudnya berdekatan akan mendarat di titik yang berdekatan pula, meski tidak berbagi satu kata pun.

Pencarian berjalan di dua jalur sekaligus

Pencarian berbasis makna saja ternyata tidak cukup. Ada kelas pertanyaan yang justru menuntut kecocokan harfiah: nama produk, kode pesanan, istilah teknis, nama menu di aplikasi. Untuk itu pencocokan kata secara langsung, lewat indeks teks penuh, jauh lebih tajam daripada kedekatan makna.

Karena itu sistem yang matang memakai keduanya. Jalur makna menangkap pertanyaan yang kalimatnya berbeda dari dokumennya. Jalur kata menangkap pertanyaan yang justru bergantung pada istilah persis. Keduanya menjawab kebutuhan yang berbeda, dan tidak saling menggantikan.

Model menyusun jawaban, bukan mengarangnya

Potongan yang terpilih kemudian diserahkan ke model bahasa bersama pertanyaan aslinya, dengan instruksi yang tegas: jawab hanya berdasarkan bahan ini. Model tidak diminta mengingat, melainkan merangkum dan merapikan.

Dari sinilah kemampuan mencantumkan rujukan berasal. Bot bisa menunjuk halaman sumber karena ia memang membaca potongan tertentu untuk menjawab, bukan karena ia mengaku-ngaku pernah membacanya.

Apa artinya bagi Anda

Kesimpulan praktisnya sering mengejutkan pemilik bisnis: kualitas jawaban bot lebih ditentukan oleh kualitas dokumen sumbernya daripada oleh kecanggihan modelnya. Kalau bot sering meleset, yang pertama diperiksa bukan modelnya, melainkan apakah jawaban itu memang ada, tertulis jelas, dan tidak tersebar di banyak tempat dalam sumber Anda.

Dokumen yang rapi dan spesifik hampir selalu memberi lompatan kualitas yang lebih besar daripada mengganti model.