AI Palsu Dalam E-Dagang: Pengajaran Untuk Retail

AI dalam Perkhidmatan Kewangan (Bank, Insurans, Fintek)••By 3L3C

Kes aplikasi shopping AI di AS yang rupanya digerakkan manusia ialah amaran jelas tentang bahaya AI-washing dalam e-dagang dan fintech. Begini cara elakkannya.

AI dalam kewanganAI dalam e-dagangfintech MalaysiaAI-washingpematuhan regulatoriruncit digitalkecerdasan buatan
Share:

AI Yang Rupanya Manusia: Amaran Serius Untuk E-Dagang

Pada 2024, seorang pengasas fintech di Amerika Syarikat didakwa menipu pelabur selepas “aplikasi beli-belah AI” yang dipromosikan rupa-rupanya digerakkan oleh manusia di Filipina. Bukan model bahasa, bukan sistem computer vision – cuma manusia biasa di belakang skrin.

Kes ini melibatkan Nate, sebuah aplikasi yang sejak 2018 menjanjikan checkout universal berasaskan AI dan berjaya mengumpul lebih USD50 juta daripada pelabur ternama. Di permukaan, naratifnya sempurna: gabungkan e-dagang dan kecerdasan buatan, automasi proses belian, jana data pengguna yang kaya, semua dengan satu butang.

Masalahnya, sebahagian besar “AI” itu sebenarnya adalah tenaga kerja manual yang menekan butang bagi pihak pengguna.

Untuk pengurus e-dagang, ketua digital di rangkaian runcit besar, dan pemain fintech di Malaysia, kisah ini bukan sekadar gosip Silicon Valley. Ia isyarat jelas bahawa AI-washing – mengaku guna AI walhal tiada teknologi sebenar di belakangnya – sedang menjadi risiko besar kepada reputasi, pematuhan, dan pelaburan.

Artikel ini kupas apa yang berlaku, kenapa AI-washing berbahaya untuk e-dagang, dan apa yang syarikat di Malaysia boleh buat untuk pastikan integrasi AI mereka telus, efektif, dan patuh peraturan – terutama dalam sektor perkhidmatan kewangan dan fintech.

Apa Sebenarnya Berlaku Dalam Kes Aplikasi Nate?

Intinya: pengasas didakwa memperdaya pelabur dan rakan kongsi dengan mendakwa aplikasi mereka menggunakan automasi AI canggih untuk menyelesaikan proses checkout di pelbagai laman e-dagang, sedangkan kerja tersebut dilakukan secara manual oleh manusia yang di-outsourced.

Naratif AI Yang Dijual Kepada Pelabur

Daripada maklumat kes yang disiarkan pihak berkuasa AS:

  • Nate dipromosikan sebagai aplikasi shopping AI yang boleh melengkapkan pembelian di pelbagai kedai dalam talian secara automatik.
  • Syarikat mendakwa mampu skalakan transaksi dengan automasi, menjadikan model perniagaan kelihatan sangat menarik dari sudut margin dan pertumbuhan.
  • Pelabur ternama menyuntik lebih USD50 juta, tertarik dengan gabungan fintech, e-dagang dan AI.

Di atas kertas, model sebegini menyerupai apa yang banyak syarikat e-dagang di Malaysia impikan: satu lapisan checkout pintar, bersepadu dengan pelbagai merchant, digerakkan oleh AI yang memudahkan pengguna dan memaksimumkan conversion.

Realiti Di Sebalik Skrin

Menurut tuduhan pihak berkuasa:

  • Sebahagian besar pesanan yang kononnya diproses oleh AI sebenarnya dilakukan oleh manusia di Filipina yang mengisi borang checkout secara manual.
  • Pelabur dan mungkin juga rakan kongsi perniagaan tidak dimaklumkan tahap penggunaan tenaga kerja manusia sebenar.
  • Data prestasi dan kebolehskaalan sistem didakwa digambarkan dengan cara yang mengelirukan berbanding realiti operasi.

Kalau dilihat secara jujur, menggunakan manusia sebagai “fallback” sementara model AI belum matang tidak salah – ramai syarikat guna pendekatan human-in-the-loop. Yang jadi masalah ialah bila:

"Manusia dianggap AI, dan kos manual dianggap automasi."
Itu bukan inovasi. Itu penipuan.

Apa Itu AI-Washing Dalam E-Dagang & Fintech?

AI-washing ialah tindakan menggunakan label “AI” atau “machine learning” untuk memasarkan produk yang sebenarnya tidak, atau hampir tidak, menggunakan AI secara bermakna.

Dalam konteks e-dagang dan perkhidmatan kewangan, AI-washing biasa berlaku dalam beberapa bentuk:

  • Mengaku ada “engine cadangan AI” tapi sebenarnya sekadar rule-based statik.
  • Menjual “fraud detection AI” yang hanya guna threshold manual dan if-else.
  • Mengiklankan “chatbot AI” padahal ia hanya decision tree tanpa sebarang NLP moden.
  • Mengatakan “95% automasi AI” sedangkan 70–80% kerja dibuat secara manual di outsourcing centre.

Kenapa ramai syarikat tergoda untuk melakukan AI-washing?

  1. Tekanan pasaran – Pelabur dan lembaga pengarah mahu nampak “AI-first”.
  2. Saingan – Bila pesaing ramai bawa naratif AI, brand rasa tertinggal jika tidak menumpang label yang sama.
  3. Jurang kefahaman teknikal – Pengurusan bukan teknikal sukar membezakan apa itu AI sebenar dan apa itu automasi biasa.

Dalam sektor kewangan Malaysia, ini jadi lebih sensitif kerana produk melibatkan data pelanggan, risiko kredit, dan pematuhan regulatori. Bila AI-washing berlaku di sini, kesannya jauh lebih serius berbanding sekadar aplikasi shopping biasa.

Kenapa AI Palsu Dalam E-Dagang Sangat Berbahaya

AI-washing bukan sekadar isu pemasaran. Untuk organisasi runcit besar, bank, insurans dan fintech, risikonya merentasi undang-undang, reputasi, operasi dan kepercayaan pelanggan.

1. Risiko Undang-Undang & Pematuhan

Dalam kes Nate, pengasas didakwa menipu pelabur – itu sudah cukup menunjukkan bagaimana naratif teknologi yang mengelirukan boleh dianggap penipuan kewangan.

Bagi syarikat di Malaysia, risiko boleh datang daripada:

  • Suruhanjaya Sekuriti dan badan regulatori lain jika AI-washing digunakan untuk menarik pelaburan atau menjual produk kewangan.
  • Bank Negara Malaysia jika bank atau fintech membuat tuntutan palsu tentang model AI yang digunakan untuk credit scoring, kawal AML/CFT, atau pengurusan risiko.
  • Undang-undang perlindungan pengguna jika pelanggan dimanipulasi dengan janji palsu seperti “AI neutral dan adil” padahal keputusan dibuat secara manual dan berpotensi berat sebelah.

Ringkasnya: bila AI dijadikan sebahagian daripada asas keputusan kewangan atau perkhidmatan pelanggan, ketelusan bukan lagi pilihan, ia keperluan regulatori.

2. Kerosakan Reputasi Yang Sukar Dibaiki

Pengguna hari ini makin celik teknologi. Sekali terdengar sebuah aplikasi “AI” rupanya dikuasakan manusia misclassified sebagai bot, kepercayaan akan jatuh mendadak.

Untuk rangkaian runcit besar dan marketplace:

  • Pelanggan akan mula mempersoal setiap tuntutan AI – dari cadangan produk hingga harga dinamik.
  • Rakan kongsi (bank, penyedia pembayaran, syarikat insurans) jadi lebih berhati-hati untuk bekerjasama.

Dalam sektor kewangan, reputasi ialah aset yang paling lama dibina dan paling cepat runtuh. Sekali label “AI tipu” melekat, sukar untuk dipadam.

3. Kos Operasi & Skala Yang Tidak Realistik

Bila “AI” sebenarnya tenaga kerja manual:

  • Kos meningkat mengikut volume transaksi – lawan konsep automasi sebenar yang kos marjinalnya patut menurun.
  • Service level sukar dipertahan bila volume meningkat (masa respon, SLA, ralat manusia).
  • Pelan kewangan dan unjuran ROI untuk projek AI jadi tidak realistik.

Banyak pengurusan atasan jatuh cinta pada idea “AI akan jimat kos 40–60%”. Kalau di belakang tabir masih armada manusia, angka-angka ini hanya ada di slide, bukan di P&L sebenar.

5 Soalan Untuk Menguji Sama Ada AI Anda Tulen Atau Hanya Label

Cara paling praktikal untuk elak AI-washing dalam organisasi ialah dengan memaksa kejelasan teknikal. Saya suka mulakan dengan lima soalan mudah tapi tajam ini setiap kali menilai projek AI e-dagang atau fintech:

  1. Di mana tepatnya model AI digunakan dalam proses?

    • Contoh jawapan baik: “Model ranking cadangan guna embedding produk dan sejarah klik, dilatih semula setiap dua minggu.”
    • Jawapan kabur seperti “sistem kami menggunakan AI di banyak tempat” ialah bendera merah.

  2. Apakah metrik utama yang dioptimumkan dan bagaimana ia diukur?

    • Untuk e-dagang: CTR, add-to-cart rate, conversion, AOV.
    • Untuk bank/fintech: default rate, Gini/KS, detection rate fraud.

  3. Berapa peratus aliran yang benar-benar automatik vs manual?

    • Jika 80% masih manual, ia patut digambarkan sebagai hybrid, bukan “AI penuh”.

  4. Siapa pemilik model dan bagaimana kitar hayatnya diuruskan?

    • Adakah ada MLOps, monitoring drift, retraining schedule, audit trail?

  5. Bagaimana anda menerangkan AI ini kepada regulator atau pelanggan dalam bahasa mudah?

    • Jika pasukan sendiri tak boleh terangkan secara jelas, sukar untuk memanggilnya solusi AI yang bertanggungjawab.

Jika mana-mana pasukan produk atau vendor tak boleh jawap soalan-soalan ini dengan yakin dan spesifik, besar kemungkinan AI mereka lebih banyak pada pitch deck berbanding pada sistem produksi.

Rangka Kerja AI Yang Telus Untuk Runcit & Kewangan Di Malaysia

Ada cara yang jauh lebih sihat untuk mengadopsi AI dalam e-dagang dan perkhidmatan kewangan tanpa tergelincir ke AI-washing. Formula asasnya: jelas, boleh diaudit, dan berfasa.

1. Mula Dengan Use Case Terfokus, Bukan Janji Besar

Bagi retail dan marketplace di Malaysia, use case AI paling praktikal biasanya:

  • Cadangan produk pintar berdasarkan sejarah belian dan tingkah laku melayari.
  • Penentuan harga dinamik yang telus dan mengikut peraturan.
  • Pengesanan fraud pembayaran yang bekerjasama dengan bank & gateway.
  • Chatbot khidmat pelanggan AI yang dihubungkan dengan CRM sedia ada.

Untuk bank dan fintech:

  • Skor kredit berasaskan AI dengan dokumentasi model yang jelas.
  • Pemantauan transaksi AML menggunakan anomaly detection.
  • Analitik portfolio & wealth management dengan explainable AI.

Daripada mengaku “platform kami dikuasakan AI sepenuhnya”, lebih baik kata:
“Kami gunakan model AI untuk X dan Y, manakala Z masih dikendalikan manusia kerana faktor risiko/ polisi.” Itu lebih jujur dan jauh lebih dipercayai.

2. Amalkan Prinsip “Human-in-the-Loop” Secara Terbuka

Human-in-the-loop (HITL) ialah pendekatan di mana AI mengusul, manusia mengesah atau membetulkan. Ini sangat berguna dalam:

  • Kelulusan pinjaman bernilai tinggi.
  • Pengesahan transaksi mencurigakan.
  • Penyelesaian isu pelanggan kompleks.

Berbeza dengan kes Nate, model HITL yang sihat:

  • Diakui secara terang-terangan dalam dokumentasi dan komunikasi dalaman.
  • Ada pemisahan jelas antara kerja AI dan kerja manusia.
  • Data pembetulan manusia digunakan untuk menaik taraf model dari masa ke masa.

Tak salah bila masih perlukan manusia. Yang salah ialah bila manusia dijual sebagai AI.

3. Dokumentasi & Audit Trail Sebagai Pertahanan Pertama

Untuk sektor kewangan dan runcit yang heavily regulated, dokumentasi AI bukan kerja sampingan:

  • Simpan model card untuk setiap model utama – tujuan, data yang digunakan, had, bias yang diketahui.
  • Rekodkan bila model dilatih semula, oleh siapa, dengan metrik apa.
  • Sediakan audit trail untuk keputusan kritikal (contoh: kenapa transaksi ditandakan fraud, kenapa pinjaman ditolak).

Bila regulator, internal audit, atau pelabur bertanya, syarikat boleh menunjukkan bukti nyata, bukan sekadar slide marketing.

4. Komunikasi Telus Dengan Pelanggan & Pelabur

Transparensi bukan bermaksud dedah rahsia dagangan, tetapi jelas pada tahap yang munasabah tentang cara AI digunakan:

  • Nyatakan dalam polisi privasi dan FAQ bahawa model AI digunakan untuk cadangan, penilaian risiko, dsb.
  • Elak frasa kabur seperti “100% automasi AI”; gunakan angka sebenar.
  • Untuk pelabur, sediakan laporan teknikal ringkas di samping pitch komersial.

Pelanggan Malaysia tidak alah dengan AI; mereka alah dengan rasa ditipu. Bezakan dua perkara ini.

Apa Pengajaran Untuk Pemain Runcit, Bank & Fintech Di Malaysia?

Kes Nate mungkin kelihatan jauh – geografi berbeza, regulasi berbeza. Tapi corak keghairahan AI dan tekanan pasaran sama sahaja, sama ada di New York, Singapura atau Kuala Lumpur.

Bagi saya, ada tiga pengajaran besar untuk organisasi di Malaysia:

  1. Ketua perniagaan tak boleh out-source pemahaman AI sepenuhnya kepada vendor.
    Anda tak perlu jadi data scientist, tapi anda wajib boleh tanya soalan tajam dan faham beza AI sebenar dan rule-based.

  2. Regulator akan semakin fokus kepada ketelusan model.
    Dalam perkhidmatan kewangan, AI bukan lagi “nice to have”; ia sebahagian daripada pengurusan risiko. BNM, SC dan pihak lain akan mahu bukti, bukan sekadar label.

  3. Syarikat yang jujur tentang tahap kematangan AI mereka akan menang jangka panjang.
    Pelanggan lebih selesa dengan kenyataan seperti: “Kami sedang fasa percubaan AI untuk X, masih ada semakan manusia,” berbanding janji kosong tentang automasi penuh.

Bagi rangkaian runcit besar, marketplace, bank dan fintech yang serius, ini masa yang baik – hujung 2025 – untuk audit semula semua tuntutan AI dalam produk, pitch deck, laman web dan bahan pemasaran. Kalau ada yang terlebih janji, betulkan sekarang sebelum pelanggan atau regulator yang menegur.

Syarikat yang mahu membina masa depan e-dagang dan kewangan berasaskan AI di Malaysia perlu menjawab satu soalan mudah:
Adakah kita benar-benar membina AI, atau sekadar menempelkan label AI pada proses lama?

Jawapan jujur hari ini akan menentukan tahap kepercayaan pasaran untuk lima tahun akan datang.