Perkembangan Kecerdasan Buatan dalam Manajemen Risiko

Kecerdasan buatan semakin merambah ke fungsi-fungsi manajemen risiko di bank dan lembaga keuangan. Teknologi ini mampu meninjau lebih banyak transaksi, mendeteksi pola-pola yang tidak biasa, dan memperbarui penilaian dengan lebih cepat dibandingkan sistem konvensional. Accenture melaporkan bahwa perusahaan keuangan yang menggunakan kecerdasan buatan telah mencapai peningkatan efisiensi operasional sebesar 20%. Namun, analisis yang lebih cepat tidak selalu berarti pengendalian yang lebih baik. Kualitas hasilnya tetap bergantung pada data, asumsi, dan orang-orang di balik model tersebut.

Manajemen risiko selalu berkaitan dengan informasi yang tidak lengkap. Bank harus memutuskan peminjam mana yang kemungkinan besar akan melunasi utangnya, transaksi mana yang perlu diselidiki, dan bagaimana portofolio dapat bereaksi di tengah kondisi pasar yang terus berubah.

Secara tradisional, keputusan-keputusan ini didasarkan pada model statistik, aturan yang telah ditetapkan, dan penilaian dari karyawan yang berpengalaman. Pendekatan ini tetap penting, namun semakin sulit untuk diterapkan pada skala dan kecepatan yang dibutuhkan oleh dunia keuangan modern.

Saat ini, lembaga-lembaga memproses sejumlah besar transaksi pembayaran, posisi pasar, dan catatan nasabah. Risiko dapat muncul di berbagai sistem dan yurisdiksi, seringkali sebelum terdeteksi dalam laporan konvensional.

AI menawarkan cara untuk menganalisis sinyal-sinyal ini secara bersamaan. AI mampu mengidentifikasi anomali, membandingkan pola perilaku di seluruh kumpulan data yang besar, dan mengarahkan perhatian manusia ke kasus-kasus yang memerlukan pemeriksaan lebih mendalam.

Nilai utamanya bukanlah kemampuan meramalkan masa depan. Melainkan kemampuan untuk mencari informasi secara lebih luas dan merespons dengan lebih cepat.

Dari aturan tetap ke pola yang terus berubah

Sistem risiko tradisional sering kali beroperasi berdasarkan ambang batas yang telah ditetapkan sebelumnya. Transaksi yang nilainya melebihi batas tertentu dapat memicu proses peninjauan. Pemohon pinjaman dengan karakteristik keuangan tertentu dapat memperoleh peringkat kredit tertentu.

Aturan-aturan ini bersifat transparan dan relatif mudah diaudit. Namun, aturan-aturan ini juga bisa jadi kurang fleksibel.

Para penipu menyesuaikan perilaku mereka untuk menghindari pengendalian yang sudah diketahui. Hubungan di pasar pun berubah. Sebuah transaksi yang tampak tidak berbahaya jika dilihat secara terpisah bisa menjadi mencurigakan ketika dibandingkan dengan pola aktivitas yang lebih luas.

Model pembelajaran mesin dapat menganalisis hubungan-hubungan ini tanpa hanya mengandalkan aturan-aturan tetap. Model-model tersebut dapat mendeteksi perubahan-perubahan halus dalam perilaku pembayaran, akses akun, atau jaringan transaksi yang sulit diidentifikasi secara manual.

Prinsip yang sama juga berlaku untuk risiko kredit dan risiko pasar. AI mampu memproses rentang variabel yang lebih luas dan memperbarui penilaian seiring tersedianya informasi baru.

Hal ini menghasilkan sistem yang lebih responsif. Selain itu, hal ini juga membuat proses pengawasan menjadi lebih menantang, terutama ketika model tersebut tidak dapat menjelaskan kesimpulannya dengan jelas.

JPMorgan menunjukkan daya tarik skala

JPMorgan Chase telah melakukan investasi besar-besaran di bidang kecerdasan buatan, baik dalam bidang perdagangan, kepatuhan, deteksi penipuan, maupun risiko operasional.

Bagi bank sebesar itu, daya tariknya sangat jelas. Bahkan peningkatan sekecil apa pun dalam kecepatan atau akurasi analisis risiko dapat menghasilkan penghematan yang signifikan jika diterapkan pada jutaan transaksi dan hubungan dengan nasabah.

Alat yang didukung AI dapat membantu karyawan mengidentifikasi aktivitas yang tidak biasa, meninjau dokumen, dan memprioritaskan peringatan. Alat tersebut juga dapat mengurangi waktu yang dihabiskan untuk penyelidikan berulang yang pada akhirnya tidak menemukan adanya masalah.

Hal ini tidak berarti bahwa pengambilan keputusan terkait risiko sepenuhnya diserahkan kepada mesin. Kasus-kasus berisiko tinggi tetap memerlukan interpretasi, bukti pendukung, dan pertimbangan yang didokumentasikan.

Pengalaman JPMorgan mencerminkan tren industri yang lebih luas. Lembaga-lembaga besar memanfaatkan kecerdasan buatan (AI) untuk memperkuat sistem pengendalian yang sudah ada, bukan untuk menggantikan departemen risiko dengan model otonom.

Teknologi ini menjadi paling berguna ketika membantu para ahli menentukan di mana mereka harus mencari.

Penerapan teknologi ini semakin meluas di seluruh industri

Sebuah survei yang dilakukan oleh Deloitte menunjukkan bahwa 76% lembaga keuangan berinvestasi dalam kecerdasan buatan (AI) untuk meningkatkan kemampuan manajemen risiko mereka.

Penerapan sistem ini mencakup risiko kredit, risiko pasar, risiko likuiditas, risiko operasional, dan risiko kepatuhan. Tingkat kematangan aplikasi-aplikasi ini sangat bervariasi.

Deteksi penipuan termasuk salah satu kasus penggunaan yang paling mapan karena lembaga-lembaga tersebut sudah memiliki data transaksi dalam jumlah besar dan dapat membandingkan peringatan dari model dengan hasil yang sudah diketahui.

Penilaian kredit lebih rumit. AI dapat memasukkan informasi arus kas, pola pembayaran, dan variabel lain yang sering terlewatkan oleh sistem penilaian tradisional. Hal ini dapat memberikan gambaran yang lebih terperinci mengenai seorang peminjam.

Hal ini juga bisa membuat keputusan menjadi lebih sulit untuk dijelaskan.

Model risiko pasar menghadapi tantangan yang berbeda. Model-model tersebut mungkin dapat mengidentifikasi korelasi antar sekuritas dan kelas aset, namun hubungan historis tersebut sering kali melemah selama periode ketegangan.

Aplikasi risiko operasional mencakup berbagai hal, mulai dari pemantauan keamanan siber hingga analisis proses internal. Dalam hal ini, kecerdasan buatan (AI) dapat mendeteksi aktivitas sistem yang tidak biasa, perilaku karyawan, atau konsentrasi transaksi yang gagal.

Tidak ada satu sistem manajemen risiko AI yang tunggal. Istilah ini mencakup berbagai alat yang ditujukan untuk mengatasi masalah-masalah yang sangat berbeda.

Perusahaan-perusahaan kecil mendapatkan akses melalui penyedia layanan

Penggunaan AI tidak hanya terbatas pada bank-bank global.

Perusahaan fintech dan lembaga keuangan berskala kecil dapat memperoleh alat manajemen risiko melalui platform cloud dan penyedia teknologi khusus. Hal ini dapat menekan biaya penyaringan penipuan, verifikasi identitas, dan analisis data.

Plaid, misalnya, menggunakan sistem otomatis untuk mendukung keamanan data dan mengidentifikasi aktivitas yang berpotensi penipuan di seluruh jaringan keuangan.

Platform eksternal memungkinkan lembaga-lembaga kecil untuk mengakses kemampuan yang tidak mampu mereka kembangkan secara internal. Platform tersebut juga menimbulkan ketergantungan baru.

Sebuah perusahaan boleh saja mengalihdayakan teknologi, tetapi tidak boleh mengalihdayakan pertanggungjawaban. Perusahaan tersebut harus memahami data apa saja yang digunakan oleh penyedia layanan, bagaimana sistem tersebut diuji, dan apa yang terjadi jika layanan tersebut mengalami gangguan.

Konsentrasi vendor itu sendiri merupakan suatu risiko. Jika banyak lembaga bergantung pada model atau infrastruktur yang sama, kelemahan teknis dapat berdampak pada sebagian besar sistem keuangan secara bersamaan.

Oleh karena itu, kenyamanan harus diimbangi dengan kontrol.

Prediksi memiliki batasan yang jelas

Analisis prediktif sering kali digambarkan sebagai keunggulan utama dari manajemen risiko berbasis kecerdasan buatan.

Model dapat memperkirakan probabilitas gagal bayar, penipuan, atau kerugian pasar dengan menganalisis hasil-hasil sebelumnya. Seiring masuknya data baru, perkiraan tersebut dapat diperbarui.

Proses ini memang bermanfaat, tetapi bahasa yang digunakan dalam prediksi dapat menimbulkan rasa percaya diri yang keliru.

Risiko keuangan jarang muncul dalam kondisi yang stabil. Perilaku peminjam berubah selama resesi. Likuiditas pasar dapat menghilang dengan cepat. Keputusan politik, serangan siber, dan bencana alam dapat memicu peristiwa-peristiwa yang kurang terwakili dalam data historis.

Sebuah model mungkin berfungsi dengan baik dalam kondisi normal, namun justru gagal tepat pada saat hasilnya paling dibutuhkan.

Oleh karena itu, kecerdasan buatan (AI) seharusnya melengkapi, bukan menggantikan, analisis skenario dan uji ketahanan. Lembaga-lembaga harus mengkaji apa yang mungkin terjadi di luar rentang hasil yang dianggap mungkin oleh model tersebut.

Manajemen risiko tidak hanya berkaitan dengan probabilitas, tetapi juga dengan konsekuensinya.

Otomatisasi membebaskan kapasitas, namun mungkin menyembunyikan kelemahan

AI dapat mengotomatiskan sebagian proses pengumpulan data, klasifikasi peringatan, dokumentasi, dan pelaporan.

Hal ini memungkinkan para profesional di bidang risiko untuk menghabiskan lebih banyak waktu pada penyelidikan yang kompleks dan masalah-masalah strategis. Hal ini juga dapat mengurangi ketidakkonsistenan yang muncul ketika pemeriksaan rutin dilakukan secara manual.

Peningkatan efisiensi ini cukup menarik. Accenture melaporkan adanya peningkatan sebesar 20% di kalangan perusahaan keuangan yang menggunakan teknologi AI.

Namun, otomatisasi dapat menyembunyikan proses yang lemah.

Jika sebuah model dilatih menggunakan klasifikasi yang tidak akurat, model tersebut mungkin akan mereproduksi kesalahan tersebut dengan lebih efisien. Jika berbagai departemen menggunakan data klien atau transaksi yang tidak konsisten, pemrosesan yang lebih cepat tidak akan menyelesaikan masalah yang mendasarinya.

Lembaga-lembaga mungkin juga menjadi kurang mampu beroperasi tanpa sistem otomatis. Karyawan yang jarang melakukan suatu tugas secara manual mungkin akan kesulitan mengenali ketika teknologi tersebut mengalami kegagalan.

Ketangguhan membutuhkan kemampuan untuk menantang sistem, bukan sekadar memanfaatkannya.

Model risiko mencerminkan keputusan manusia

Kecerdasan buatan kadang-kadang digambarkan sebagai sesuatu yang lebih objektif daripada penilaian manusia. Pada praktiknya, model-model tersebut dibangun berdasarkan pilihan-pilihan manusia.

Para pengembang menentukan data mana yang akan dimasukkan, hasil mana yang akan dioptimalkan, dan bagaimana cara mengklasifikasikan keputusan-keputusan sebelumnya. Pilihan-pilihan ini memengaruhi kesimpulan yang dihasilkan model.

Dalam risiko kredit, data historis mungkin mencerminkan ketidaksetaraan akses terhadap pinjaman atau perlakuan yang berbeda terhadap kelompok nasabah. Model yang dilatih berdasarkan catatan semacam itu dapat mengulangi pola-pola tersebut tanpa secara eksplisit menggunakan karakteristik yang dilindungi.

Sistem pencegahan penipuan mungkin menghasilkan peringatan yang tidak proporsional bagi nasabah yang transaksinya berbeda dari kebanyakan nasabah lain, meskipun aktivitas mereka sebenarnya sah.

Masalah ini tidak akan teratasi hanya dengan menghapus nama atau informasi demografis. Variabel-variabel lain mungkin berfungsi sebagai pengganti.

Oleh karena itu, lembaga-lembaga perlu menguji hasil model pada berbagai kelompok nasabah dan menyelidiki ketimpangan yang belum dapat dijelaskan.

Sebuah sistem yang akurat secara statistik tetap dapat menghasilkan keputusan yang tidak adil, tidak tepat, atau sulit dipertahankan secara hukum.

Keterjelaskan menjadi isu regulasi

Model-model yang kompleks mungkin menghasilkan prediksi yang kuat tanpa memberikan penjelasan sederhana mengenai bagaimana prediksi tersebut diperoleh.

Hal ini menjadi masalah yang cukup serius terutama ketika suatu keputusan berdampak pada nasabah. Penolakan permohonan kredit, pembekuan transaksi, atau peningkatan klasifikasi risiko mungkin memerlukan penjelasan yang mudah dipahami.

Pihak regulator dan badan tata kelola internal juga perlu mengevaluasi apakah model-model tersebut beroperasi dalam batas-batas yang telah disetujui.

Oleh karena itu, beberapa lembaga mungkin lebih memilih model yang lebih sederhana dalam aplikasi yang berisiko tinggi, meskipun sistem yang lebih kompleks menawarkan akurasi prediksi yang sedikit lebih tinggi.

Ada pertukaran antara kinerja dan keterjelaskan.

Tidak semua model kecerdasan buatan perlu mengungkapkan setiap perhitungan teknis kepada setiap pengguna. Namun, lembaga-lembaga harus mampu menjelaskan faktor-faktor penting di balik suatu keputusan dan membuktikan bahwa sistem tersebut telah diuji.

Hasil yang tidak dapat digugat sulit untuk dikelola.

Keamanan data menjadi bagian dari manajemen risiko

Sistem kecerdasan buatan (AI) memerlukan akses yang luas terhadap informasi keuangan, transaksi, dan pribadi.

Hal ini menimbulkan ketegangan yang jelas. Teknologi tersebut memang dirancang untuk mengurangi risiko, namun pengumpulan dan pemrosesan data sensitif dapat menimbulkan kerentanan baru.

Lembaga-lembaga harus melindungi informasi selama proses pengumpulan, penyimpanan, dan analisis. Akses harus dibatasi, dicatat, dan ditinjau secara berkala.

Penyedia AI eksternal perlu diteliti secara cermat. Perusahaan perlu mengetahui apakah data mereka digunakan untuk melatih model-model lain, di mana informasi tersebut diproses, dan seberapa cepat insiden harus dilaporkan.

Para pelaku serangan siber mungkin juga mencoba memanipulasi sistem kecerdasan buatan. Dengan mengubah data masukan atau meniru perilaku normal, mereka dapat berusaha menghindari deteksi.

Oleh karena itu, model itu sendiri dapat menjadi sasaran.

Keamanan data dan keamanan model tidak dapat dianggap sebagai disiplin ilmu yang terpisah. Keduanya merupakan bagian dari kerangka kerja risiko yang lebih luas di lembaga tersebut.

Model memerlukan pengawasan yang berkelanjutan

Sistem AI sering digambarkan sebagai sistem yang terus belajar dan berkembang seiring berjalannya waktu. Proses tersebut harus dikelola dengan hati-hati.

Model yang memperbarui dirinya sendiri tanpa pengendalian yang efektif dapat menyimpang dari tujuan aslinya. Perubahan pada data dapat secara bertahap mengubah cara model tersebut mengklasifikasikan risiko, meskipun belum ada keputusan resmi yang diambil untuk merevisi metodologinya.

Lembaga-lembaga perlu memantau akurasi, hasil positif palsu, dan perubahan perilaku yang tidak terduga. Kinerja harus diuji dalam berbagai kondisi pasar dan ekonomi.

Perubahan pada model material harus didokumentasikan dan disetujui. Karyawan harus mengetahui versi mana yang sedang digunakan dan apa perbedaannya dengan versi-versi sebelumnya.

Validasi independen tetap sangat penting. Tim yang mengembangkan suatu model tidak boleh menjadi satu-satunya pihak yang bertanggung jawab untuk menilai apakah model tersebut berfungsi.

Pembelajaran berkelanjutan bukanlah pengganti tata kelola yang berkelanjutan.

Penilaian manusia berfokus pada kasus-kasus pengecualian

AI akan mengubah pembagian tugas di dalam departemen risiko.

Kasus-kasus rutin semakin banyak yang dapat diproses secara otomatis. Para karyawan akan lebih fokus pada kasus-kasus pengecualian, situasi yang ambigu, dan risiko yang tidak sesuai dengan pola yang telah ditetapkan.

Hal ini justru membuat penilaian manusia menjadi lebih penting, bukan sebaliknya.

Kasus-kasus yang dirujuk ke spesialis seringkali merupakan kasus yang paling sulit. Karyawan harus memahami model tersebut dengan cukup baik agar dapat mempertanyakan kesimpulannya dan mengetahui kapan diperlukan bukti tambahan.

Mereka juga memerlukan wewenang untuk mengabaikan rekomendasi otomatis.

Sistem yang hanya memungkinkan campur tangan manusia secara teoritis tidak memberikan pengawasan yang berarti. Perusahaan harus memantau seberapa sering karyawan tidak setuju dengan hasil model dan apakah mereka menghadapi tekanan untuk mengikuti hasil yang dihasilkan secara otomatis.

Tujuannya bukanlah untuk mempertahankan pekerjaan manual semata-mata demi pekerjaan itu sendiri. Melainkan untuk memastikan bahwa keputusan-keputusan penting tetap dapat dipertanggungjawabkan.

AI juga dapat menimbulkan risiko sistemik

Penerapan model-model serupa di seluruh sektor keuangan dapat menimbulkan bentuk-bentuk baru risiko bersama.

Jika lembaga-lembaga menggunakan data dan algoritma yang serupa, mereka mungkin merespons sinyal pasar dengan cara yang serupa. Pada masa-masa krisis, hal ini dapat memperparah gelombang penjualan, mengurangi likuiditas, atau menyebabkan perubahan mendadak dalam ketersediaan kredit.

Sebuah model individu mungkin bersifat rasional dari sudut pandang satu perusahaan, namun pada saat yang sama dapat berkontribusi terhadap ketidakstabilan di seluruh sistem.

Ketergantungan pada sejumlah kecil penyedia layanan cloud dan teknologi menimbulkan risiko konsentrasi tambahan. Gangguan yang menimpa salah satu penyedia utama dapat mengganggu pengendalian risiko di beberapa lembaga secara bersamaan.

Oleh karena itu, pihak regulator perlu melihat lebih jauh dari sekadar kinerja masing-masing model. Mereka harus mempertimbangkan bagaimana AI mengubah perilaku di berbagai lembaga dan pasar.

Efisiensi yang lebih tinggi di tingkat perusahaan tidak secara otomatis menghasilkan ketahanan yang lebih tinggi di tingkat sistem.

Nilai potensialnya sangat besar

McKinsey memperkirakan bahwa kecerdasan buatan (AI) berpotensi menghasilkan nilai tahunan hingga $1 triliun bagi sektor perbankan global.

Hanya sebagian dari nilai ini yang akan berasal langsung dari manajemen risiko. Namun demikian, deteksi penipuan yang lebih baik, biaya kepatuhan yang lebih rendah, dan keputusan kredit yang lebih akurat dapat memberikan kontribusi yang signifikan.

Manfaat tersebut tidak akan tercapai hanya karena lembaga-lembaga tersebut mengadopsi alat-alat AI.

Perusahaan membutuhkan data yang andal, tujuan yang jelas, dan karyawan yang mampu memanfaatkan hasil model. Mereka harus berinvestasi dalam pengujian, keamanan, dan tata kelola sejalan dengan proses pengembangan.

Beberapa aplikasi mungkin tidak akan memberikan hasil yang dijanjikan. Yang lain mungkin terlalu sulit untuk dijelaskan atau terlalu rentan terhadap perubahan kondisi.

Oleh karena itu, para pemimpin bidang risiko sebaiknya memulai dengan masalah yang terdefinisi dengan jelas, bukan sekadar ambisi yang luas. Sistem yang dirancang untuk mengurangi peringatan penipuan palsu dapat dievaluasi berdasarkan hasil yang jelas. Sebaliknya, janji umum untuk “mentransformasi manajemen risiko” tidak dapat dievaluasi demikian.

Investasi di bidang kecerdasan buatan (AI) sebaiknya dinilai berdasarkan dampaknya terhadap pengambilan keputusan, bukan berdasarkan tingkat kecanggihan teknologinya.

Peringatan yang lebih cepat, bukan pengurangan ketidakpastian

Kecerdasan buatan kemungkinan besar akan menjadi komponen standar dalam manajemen risiko keuangan.

Teknologi ini mampu mendeteksi pola dalam kumpulan data berskala besar, mengotomatiskan pemeriksaan rutin, dan membantu lembaga-lembaga bereaksi dengan lebih cepat. Kemampuan-kemampuan ini sangat berharga dalam sistem keuangan di mana risiko berubah dengan cepat dan sering kali melintasi batas-batas organisasi.

Hal itu tidak membuat lembaga-lembaga tersebut kebal terhadap kesalahan.

Model AI dapat salah menafsirkan kondisi yang tidak biasa, mengulangi bias historis, dan menciptakan ketergantungan yang sulit dideteksi. Kecepatan hasil yang dihasilkannya mungkin mendorong perusahaan untuk lebih mempercayai prediksi tersebut daripada yang seharusnya didasarkan pada bukti yang mendasarinya.

Kerangka kerja manajemen risiko yang paling efektif akan menggabungkan analisis berbasis mesin dengan tinjauan manusia, validasi independen, dan pertanggungjawaban yang jelas.

AI dapat meningkatkan sistem peringatan. Namun, AI tidak dapat menentukan risiko apa saja yang harus diterima oleh suatu lembaga, seberapa besar ketidakpastian yang dapat ditanggungnya, atau tindakan apa yang masih dapat dianggap bertanggung jawab ketika data yang ada tidak memberikan kesimpulan yang jelas.

Keputusan-keputusan itu tetap ada di tangan masyarakat.