Kes Nate, āAI shopping appā yang rupa-rupanya digerakkan manusia, tunjuk kenapa runcit, e-dagang dan fintech di Malaysia perlu bina AI yang telus dan beretika.
Bila āAIā Rupanya Manusia: Pengajaran Besar Untuk E-Dagang
Pada 2024, sebuah fintech di AS bernama Nate yang mendakwa ada aplikasi belian āAI universal checkoutā berjaya kumpul lebih USD50 juta (sekitar RM230 juta) daripada pelabur. Tahun ini, pengasasnya didakwa menipu kerana āAIā yang dibanggakan rupa-rupanya hanya pasukan manusia di Filipina yang memproses pesanan secara manual.
Most companies get this wrong. Mereka terlalu ghairah guna label āAIā untuk nampak canggih di mata pelanggan, pelabur, dan lembaga pengarah ā sampai sanggup kaburkan kebenaran. Kes Nate ini jadi contoh jelas bagaimana hype AI boleh bertukar jadi liabiliti, terutama dalam fintech, e-dagang, dan runcit moden.
Untuk pemain besar seperti bank, insurans, syarikat fintech, juga platform e-dagang seperti Shopee, Lazada atau TikTok Shop di Malaysia, isu ini bukan sekadar drama luar negara. Ini terus sentuh perkara asas: kepercayaan, pematuhan (compliance) dan integriti data.
Dalam artikel ini, saya akan huraikan:
- Apa sebenarnya isu di sebalik kes Nate
- Kenapa āAI palsuā sangat berbahaya untuk runcit & e-dagang
- Bagaimana organisasi besar patut bina strategi AI yang telus dan beretika
- Langkah praktikal untuk pasukan digital, data & risiko di Malaysia
Kes Nate: Bila āAI Shopping Appā Digerakkan Manusia
Isu utama dalam kes Nate bukan sekadar teknologi, tapi kejujuran.
Aplikasi Nate dilancarkan sekitar 2018 sebagai āAI shopping assistantā yang kononnya boleh:
- Mengisi butiran checkout secara automatik di pelbagai laman e-dagang
- Memudahkan pengguna beli dari mana-mana kedai dalam satu aplikasi
- Menggunakan artificial intelligence untuk faham corak belian dan cadang produk
Realitinya, berdasarkan dakwaan pihak pendakwa di AS:
- Sebahagian besar pesanan pelanggan sebenarnya diproses oleh manusia di Filipina, yang log masuk dan buat pesanan secara manual
- Pelabur dan pengguna diberitahu sistem itu dipacu AI yang āskala tinggiā, padahal kos buruh manusia yang tinggi disorok
- Pelabur dilaporkan membuat keputusan berdasarkan naratif teknologi AI canggih, bukan realiti operasi
Ini bukan sekadar marketing berlebih-lebihan. Kalau dakwaan terbukti, ini jatuh di bawah penipuan investor dan misrepresentasi teknologi.
Bila āAIā hanyalah manusia yang penat di belakang skrin, itu bukan inovasi. Itu ilusi yang mahal.
Kenapa āAI Palsuā Sangat Bahaya Untuk Runcit & E-Dagang
Dalam konteks runcit, e-dagang dan fintech, misuse AI ada tiga kesan besar: hilang kepercayaan, risiko perundangan, dan kerosakan operasi.
1. Kepercayaan Pelanggan dan Pelabur Runtuh
Pelanggan hari ini mungkin tak peduli model apa yang digunakan, tapi mereka sangat peduli dua perkara:
- Adakah produk ini benar-benar membantu mereka?
- Adakah syarikat ini boleh dipercayai urus data dan wang mereka?
Jika satu kes besar terbongkar ā seperti Nate atau mana-mana pemain āAIā palsu lain ā pengguna akan mula ragui:
- Chatbot bank: betul-betul AI atau sambung ke call center biasa?
- Sistem cadangan produk: guna data pintar atau sekadar spam iklan rawak?
- āAI credit scoringā: analitik betul atau alasan untuk keputusan yang tak telus?
Sekali kepercayaan runtuh, kos untuk bina balik jauh lebih mahal daripada kos membangunkan AI sebenar dari awal.
2. Risiko Pematuhan & Perundangan
Untuk sektor kewangan dan fintech di Malaysia, Bank Negara Malaysia (BNM) dan pengawal selia lain semakin fokus kepada:
- Model risk management bila gunakan AI/ML dalam kredit & risiko
- Fair treatment of consumers (tidak menipu, tidak mengelirukan)
- Data protection dan penggunaan data yang telus
Jika syarikat:
- Mengaku guna AI untuk saringan fraud tetapi sebenarnya hanya semak manual secara rawak, atau
- Mengaku AI boleh āmengurangkan risiko NPL 40%ā tanpa sebarang asas data,
itu boleh membawa kepada:
- Siasatan pengawal selia
- Tindakan undang-undang oleh pelabur atau pelanggan
- Kegagalan audit dalaman & luaran
3. Operasi Tak Mampan & Kos Melambung
Ramai orang lupa satu hal: AI palsu mahal.
Kenapa?
- Anda kena upah ramai staf belakang tabir untuk ātutup kelemahanā sistem
- Volume transaksi naik, kos tenaga kerja naik sama laju
- Anda tak dapat faedah skala (economies of scale) yang AI sebenar bagi
Kesannya:
- Margin semakin menipis walaupun revenue nampak naik
- Tekanan untuk ācut costā bawa kepada burnout staf dan ralat manusia
- Akhirnya, sistem mula gagal bila volume terlalu tinggi
Untuk runcit dan e-dagang ber-volume besar, ini bunuh model bisnes perlahan-lahan.
Apa Pengajaran Untuk Bank, Fintech & E-Dagang di Malaysia?
Untuk organisasi besar di Malaysia, isu Nate ini patut dijadikan āstudy case wajibā dalam mesyuarat digital transformation dan AI governance.
1. Bezakan Jelas: āAutomation Sebenarā vs āHuman-in-the-loopā
Tak salah langsung guna manusia dalam proses. Malah, banyak model AI yang matang memang guna konsep human-in-the-loop untuk:
- Data labelling
- Quality assurance
- Semakan manual kes yang berisiko tinggi
Yang salah ialah menggambarkan proses manual itu sebagai AI penuh automasi.
Apa yang patut dibuat:
- Dalam deck pelabur dan pengawal selia, nyatakan dengan jelas:
- Bahagian mana automasi AI
- Bahagian mana masih manual
- KPI untuk kurangkan pergantungan kepada manual dari masa ke masa
- Dalam UX copy dan FAQ, elakkan ayat mengelirukan seperti ā100% AI-drivenā jika realitinya 50% masih manual.
2. Bina AI Governance yang Serius, Bukan Atas Kertas
Bagi bank, insurans dan fintech, penggunaan AI dalam kredit, fraud detection dan customer analytics sepatutnya tertakluk kepada:
- Jawatankuasa risiko model (model risk committee)
- Polisi jelas tentang explainability dan audit model
- Log yang telus: bila AI buat keputusan, bila manusia override
Saya selalu sarankan tiga garis panduan asas:
- Tiada janji tanpa metrik. Kalau kata āAI kami kurangkan fraud 30%ā, tunjukkan angka, asas sampel, dan tempoh masa.
- Tiada model tanpa pemilik. Setiap model AI mesti ada model owner yang bertanggungjawab ke atas prestasi dan risiko.
- Tiada āAI black boxā untuk keputusan kritikal. Keputusan kredit, pricing insurans, atau penolakan tuntutan tak boleh hanya disandarkan kepada model yang tak boleh diterangkan.
3. Uji Naratif Marketing Anda
Masalah AI selalunya bermula dari slide marketing, bukan dari kod.
Sebelum kempen dilancar:
- Minta pasukan risiko/compliance semak semua claim berkaitan AI
- Guna litmus test ringkas: āAdakah staf operasi setuju ini menggambarkan realiti sistem?ā
- Kalau ada rasa ragu, biasanya memang ada isu.
Untuk pemain e-dagang dan runcit:
- Jangan panggil āAI personal shopperā kalau sistem hanya guna if-else rules mudah berdasarkan kategori
- Boleh gunakan istilah seperti āsistem cadangan pintarā atau āanalitik dataā jika itu lebih tepat
Contoh Aplikasi AI Yang Tulus Dalam Runcit & E-Dagang
Supaya nampak kontras dengan kes Nate, mari lihat apa rupa penggunaan AI yang sihat dan telus dalam runcit, e-dagang dan kewangan.
1. Peramalan Inventori (Inventory Forecasting)
Banyak rangkaian pasar raya dan farmasi di Malaysia sudah guna model AI untuk:
- Meramal permintaan harian/mingguan bagi setiap cawangan
- Optimumkan reorder point dan safety stock
- Kurangkan pembaziran stok rosak atau tamat tempoh
Cara telus untuk jelaskan kepada pengurusan dan pelabur:
āKami menggunakan model ramalan berasaskan data jualan 3 tahun, cuaca, musim perayaan dan promosi, dan disemak semula oleh planner manusia untuk SKU berisiko tinggi.ā
Tiada janji palsu ā100% automasi AIā. Manusia masih ada dalam loop, tapi AI betul-betul wujud dan beri impak.
2. Personalisasi Pelanggan di Platform E-Dagang
Shopee, Lazada dan pemain tempatan lain menggunakan recommender systems untuk:
- Susun produk paling relevan di halaman utama
- Cadangkan add-on semasa checkout
- Segmentasi kempen push notification dan emel
Cara telus untuk penerangan dalaman:
- āModel cadangan dilatih berdasarkan data klik dan pembelian, dengan kawalan untuk elak filter bubble keterlaluan.ā
- āPelanggan boleh opt-out daripada personalisasi tertentu melalui tetapan akaun.ā
3. AI Dalam Kewangan: Kredit & Fraud Detection
Dalam siri āAI in Financial Servicesā ini, kita banyak sentuh bagaimana bank dan fintech di Malaysia guna AI untuk:
- Skor kredit pelanggan tanpa rekod kredit tradisional (menggunakan data transaksi e-dompet, telco, dsb.)
- Mengesan corak transaksi luar biasa bagi mencegah penipuan
- Mengautomasi customer support melalui chatbot yang benar-benar NLP, bukan sekadar menu tree
Bezanya dengan kes Nate:
- Model ini dokumentasi lengkap dan diaudit secara berkala
- Keupayaan AI disemak terhadap metrik jelas: false positive rate, approval rate, fraud loss reduction
- Pengawal selia dimaklumkan tentang cara model berfungsi dan kawalan yang sedia ada
6 Langkah Praktikal Untuk Elak Skandal āAI Palsuā Dalam Syarikat Anda
Untuk pasukan pengurusan, CIO, CDO dan Head of Digital di Malaysia, berikut langkah konkrit yang saya cadangkan:
-
Buat Inventori Projek āAIā Sedia Ada
Senaraikan semua inisiatif yang guna label AI atau ML. Tanda yang benar-benar AI, yang separa automasi, dan yang sebenarnya manual. -
Selaraskan Naratif Marketing Dengan Realiti Teknologi
Kaji semula bahan pemasaran, pitch deck dan kenyataan media. Buang atau betulkan claim yang terlebih. -
Tubuhkan Jawatankuasa AI Governance
Libatkan IT, data, risiko, legal, compliance, dan business owners. Semua projek AI melepasi gate ini sebelum dilancar besar-besaran. -
Wujudkan Standard Dokumentasi Model
Setiap model AI perlu ada:- Tujuan penggunaan
- Data latihan utama
- Limitasi yang diketahui
- Metrik prestasi yang dipantau
-
Latih Pekerja Tentang Etika AI
Ramai staf tak sedar mereka āmenipuā bila ikut skrip. Latihan dalaman tentang etika AI dan komunikasi telus sangat membantu. -
Bina Roadmap āFrom Human-heavy to AI-heavyā Yang Jujur
Kalau sekarang anda banyak bergantung kepada operasi manual, tak mengapa. Dokumentasikan sebagai fasa awal, dan tunjuk hala tuju jelas untuk automasi yang sebenar dalam 12ā36 bulan.
The reality? Ia lebih meyakinkan pelabur bila anda jujur tentang di mana anda berada sekarang, dan tunjuk data bagaimana efisiensi bertambah sedikit demi sedikit.
Penutup: Masa Untuk AI Yang Jujur, Bukan AI Untuk Hype
Kes Nate hanyalah satu nama dalam senarai panjang projek āAIā yang rupa-rupanya tak banyak AI. Bezanya, kali ini ia melibatkan jumlah pelaburan besar dan dakwaan rasmi dari pihak berkuasa. Untuk sektor kewangan, runcit dan e-dagang Malaysia yang sedang agresif melabur dalam AI, ini amaran yang patut diambil serius.
AI dalam perbankan, insurans, fintech dan e-dagang hanya berbaloi jika tiga perkara tercapai serentak: kecekapan, pematuhan dan kepercayaan. Jika salah satu dikorbankan, risiko jangka panjang jauh lebih besar daripada faedah jangka pendek.
Jika anda sedang memimpin inisiatif AI di organisasi:
- Semak semula projek-projek āAIā yang paling bising dalam slide anda
- Tanya soalan mudah: āKalau pelanggan atau pengawal selia tengok proses belakang tabir, adakah mereka rasa kita jujur?ā
Ada dua jenis transformasi: yang cuba nampak canggih, dan yang benar-benar membina nilai. Dalam dunia AI untuk perkhidmatan kewangan dan e-dagang, hanya yang kedua akan bertahan.