Kebangkitan Agen AI di Fintech

Pekerjaan dukungan di aplikasi keuangan konsumen terlihat seperti satu keputusan — refund, jelaskan, eskalasi — padahal di bawahnya ada lusinan pencarian data. Produk mana ini, transaksi ini settle kapan, pelanggan ini pernah bertanya belum, bendera risikonya apa, status mitranya sama dengan kita atau tidak. Setiap pencarian sepele. Biayanya: semuanya tinggal di sistem berbeda dan manusia harus jadi bus di antaranya.

Itulah yang sebenarnya dihapus oleh otomasi agen. Bukan penilaian — penilaian hanya beberapa detik — tapi antar-jemputnya. Saat pertama kali saya membangun alur kerja yang melakukan ini dari awal ke akhir, hasil terukurnya adalah penurunan intervensi manual 40%, dan angka itu sebenarnya menghitung seseorang yang berhenti membuka tab.

Agen yang bisa memanggil tool tidak menarik dengan sendirinya; justru dari situlah sebagian besar mode kegagalan datang. Sifat yang berguna adalah kepekaan konteks: tahu pencarian mana yang penting untuk pelanggan ini di momen ini, dan berhenti saat jawabannya sudah datang. Sebagian besar pekerjaan membangunnya adalah memberi tahu kapan untuk tidak melanjutkan — kebalikan dari yang ditekankan demo.

Hal kedua yang kurang ditekankan demo adalah eskalasi. Agen yang tidak bisa berkata "saya tidak boleh memutuskan ini" akan memutuskannya juga, karena model tidak punya naluri izin. Izin harus dibangun sebagai tepi di dalam sistem, dan harus bisa dijangkau pelanggan maupun operator. Di pekerjaan harian saya, alur eskalasi itulah desainnya; alur kerja AI agen berjalan di dalamnya.

Prediksi yang membosankan: agen menjadi perpipaan. Bagian yang terlihat dari tim dukungan bukan AI yang menjawab pelanggan, tapi serah terima yang lebih sedikit, dan antrean tempat manusia melihat semua yang sudah ditemukan mesin tepat saat ia membuka tiket. Siapa pun yang merakit konteks dengan benar yang akan menang — dan itu bukan tim dengan model paling pintar, melainkan tim yang menuliskan apa yang dicari manusia dan mengapa.