TikTok hapus 600 ribu konten judol & penipuan pada 2025. Polanya sama dengan fraud perbankan. Begini cara AI bisa jadi tameng utama bank di era digital.
Darurat Judol & Penipuan Online: Satu Data yang Bikin Merinding
Lebih dari 600 ribu konten terkait judi online dan penipuan dihapus TikTok hanya dalam paruh pertama 2025. Di saat yang sama, diperkirakan 700–800 orang Indonesia menjadi korban penipuan online setiap hari.
Angka ini bukan sekadar berita teknologi. Buat industri perbankan dan pelaku keuangan digital, ini alarm keras: kejahatan digital sekarang bergerak lintas platform — dari media sosial, aplikasi pesan, sampai mobile banking. Dan yang bisa mengikuti kecepatan serangan ini, jujur saja, bukan lagi manusia, tapi kecerdasan buatan (AI).
Tulisan ini membahas tiga hal:
- Apa yang sebenarnya terjadi di TikTok soal judol dan penipuan online.
- Kenapa pola serangannya mirip dengan fraud keuangan di perbankan.
- Bagaimana AI dalam perbankan Indonesia bisa (dan seharusnya) meniru cara platform seperti TikTok mengamankan ekosistem mereka secara real-time.
Apa yang Terjadi: 600 Ribu Konten Berbahaya di Mata AI TikTok
Pesan utama dari data TikTok sederhana: serangan digital sudah masif, otomatis, dan terorganisir.
Head of Public Policy and Government Relations TikTok Indonesia, Hilmi Adrianto, membeberkan bahwa pada paruh pertama 2025 saja, TikTok di Indonesia:
- Menghapus >424 ribu video terkait judi online.
- Menurunkan >1,6 juta komentar yang mempromosikan judol.
- Menghapus 232 ribu konten penipuan online.
- Memblokir >180 ribu iklan berbayar yang mengandung unsur scam.
Ini hanya dari satu platform, dan hanya dalam setengah tahun.
"Ini adalah tantangan besar yang tidak bisa diselesaikan sendiri. Kita harus berjalan bersama-sama." — Hilmi Adrianto
Ada dua poin penting di balik angka ini:
- Skala serangan sudah melampaui kapasitas moderasi manual. Tanpa AI, tidak mungkin mengaudit jutaan konten per hari.
- Modus kejahatan memanfaatkan kepercayaan dan celah psikologis: konten, komentar, dan iklan dibungkus seolah-olah edukasi keuangan, investasi, bahkan endorse influencer.
Dan ini persis pola yang juga menghantam sektor perbankan.
Dari TikTok ke Perbankan: Pola Kejahatan Digitalnya Sama
Realitasnya, pelaku tidak peduli platform. Mereka hanya peduli di mana orang Indonesia berkumpul dan bertransaksi.
TikTok melihat:
- Konten judol disamarkan jadi giveaway, trik cuan cepat, atau investasi bola.
- Penipuan berkedok trading, pinjaman cepat cair, hingga robot investasi.
Di perbankan, kita melihat wajah lain dari aktor yang sama:
- Social engineering via WhatsApp dan DM media sosial menggunakan logo bank.
- Phishing pakai halaman login palsu yang didorong lewat iklan atau pesan broadcast.
- Aplikasi palsu yang mirip mobile banking resmi.
- Transaksi mencurigakan lintas rekening dan lintas bank untuk money mule.
Bedanya, di TikTok yang diserang adalah perhatian dan perilaku online. Di bank, yang diserang langsung uang dan data nasabah.
Makanya, kalau TikTok sudah mengandalkan AI untuk moderasi konten, bank yang masih mengandalkan rule-based fraud detection generasi lama jelas ketinggalan.
Bagaimana AI Bekerja: Dari Menghapus Video Sampai Menggagalkan Transaksi
Baik di TikTok maupun perbankan, konsep dasarnya sama: real-time pattern detection.
1. AI di Moderasi Konten (Studi Kasus TikTok)
Secara prinsip, sistem AI moderasi konten bekerja dengan beberapa lapis:
- Computer vision: mengenali gambar/video yang mengandung logo situs judol, tampilan dashboard judi, atau pola visual tertentu.
- Natural Language Processing (NLP): membaca dan memahami teks, caption, dan komentar yang menyamarkan judol dengan istilah kode.
- Behavioral analytics: mendeteksi akun yang tiba-tiba posting berkali-kali tentang promosi tertentu, mengirim DM massal, atau boost konten penipuan.
Hasilnya:
- Konten bisa otomatis di-flag dalam hitungan detik setelah diunggah.
- Komentar spam bisa disembunyikan sebelum sempat dibaca ribuan orang.
- Iklan yang mencurigakan bisa ditolak bahkan sebelum tayang.
2. AI di Deteksi Fraud Perbankan
Di bank, algoritma berbeda, tapi logikanya mirip:
- Anomali transaksi: AI mempelajari pola normal tiap nasabah — nominal, jam transaksi, lokasi, jenis merchant. Begitu ada yang menyimpang (misal: transaksi besar tengah malam dari kota yang berbeda), sistem langsung curiga.
- Device & location intelligence: AI menilai apakah device yang digunakan biasa dipakai nasabah, dari lokasi yang masuk akal, dengan pola koneksi yang wajar.
- Network analysis: AI memetakan hubungan antar rekening. Rekening yang sering menerima dana dari banyak korban dalam jumlah kecil, lalu langsung cash out, masuk radar.
Contoh konkret penerapan di bank:
- Transaksi mencurigakan otomatis tertahan dan nasabah dapat notifikasi real-time di aplikasi mobile banking.
- Sistem skoring fraud berbasis AI memberi risk score per transaksi, bukan lagi sekadar pakai rule kaku seperti "di atas 50 juta = cek manual".
- Tim fraud cukup fokus ke kasus bernilai paling tinggi karena sistem sudah memprioritaskan alert.
Hasil akhirnya sama seperti TikTok: filter otomatis di depan, baru kemudian assessment manusia di belakang untuk kasus kompleks.
Tantangan Indonesia: 700–800 Korban per Hari, Siapa yang Harus Bergerak?
Hilmi dari TikTok menyebut ada sekitar 700–800 korban penipuan online per hari di Indonesia. Angka ini disebut jauh di atas Malaysia dan Singapura.
Itu artinya:
- Masyarakat Indonesia sedang jadi target empuk kampanye scam lintas negara.
- Lembaga keuangan, termasuk bank, ikut terdampak reputasi karena banyak modus penipuan mengatasnamakan mereka.
- Biaya operasional bank untuk menangani komplain, chargeback, investigasi, dan edukasi nasabah ikut melonjak.
Ia juga menegaskan bahwa korban bukan hanya masyarakat umum:
"Korban juga sebenarnya bukan hanya masyarakat umum, tapi juga banyak lembaga keuangan, bahkan banyak influencer yang dicatut namanya..."
Di titik ini, tiga hal jelas:
- Ini bukan masalah satu platform. Bukan hanya TikTok, bukan hanya perbankan, tapi ekosistem digital secara keseluruhan.
- Pendekatan silo tidak akan berhasil. Kalau bank hanya mengamankan sisi transaksi, sementara serangan dimulai dari media sosial dan chat, nasabah tetap jebol.
- AI perlu diorkestrasi lintas industri. Data pola penipuan di TikTok, marketplace, dan perbankan seharusnya saling menguatkan, bukan berhenti di masing-masing silo.
Apa yang Bisa Dipelajari Bank dari Strategi TikTok
Ada beberapa pelajaran praktis yang sangat relevan untuk bank dan fintech di Indonesia.
1. Real-time or Nothing
TikTok tidak menunggu laporan manual untuk menghapus 600 ribu konten.
Hal yang sama berlaku di perbankan:
- Fraud yang baru terdeteksi H+1 sudah terlambat.
- AI perlu menilai transaksi dalam milidetik, di saat nasabah menekan tombol "Kirim".
Bank yang serius dengan keamanan sudah mulai:
- Mengintegrasikan real-time fraud engine berbasis AI di core banking dan mobile banking.
- Menggunakan streaming analytics untuk membaca jutaan event per detik.
2. Contextual Risk, Bukan Satu Aturan untuk Semua
TikTok tidak memblokir semua konten yang menyebut kata "judi"; konteks diperiksa.
Begitu pula di bank:
- Transaksi Rp5 juta bisa aman untuk satu nasabah, tapi sangat mencurigakan untuk nasabah lain.
- AI memperhitungkan profil risiko personal, histori behavior, bahkan lifecycle nasabah (baru buka rekening vs sudah 10 tahun).
Bank yang masih pakai sistem "flat rule" akhirnya:
- Banyak false positive (transaksi sah diblokir, nasabah marah).
- Atau terlalu longgar di segmen yang sebenarnya tinggi risiko.
3. Edukasi Keamanan Digital Bukan Bonus, Tapi Fitur Utama
TikTok tidak hanya menghapus konten; mereka juga menggelar kampanye #AmanDiTikTok dan berkolaborasi dengan pemerintah.
Di perbankan, pendekatan yang efektif biasanya menggabungkan:
- AI di belakang layar untuk deteksi fraud.
- Edukasi di depan layar lewat notifikasi kontekstual, banner di aplikasi, dan push message yang spesifik.
Contoh implementasi yang menurut saya kuat:
- Saat sistem AI mendeteksi pola transaksi yang mirip social engineering, aplikasi memunculkan pop-up: "Apakah Anda sedang diarahkan pihak lain via telepon/WA untuk transfer? Bank tidak pernah meminta Anda transfer ke rekening pribadi pihak mana pun."
- Ketika nasabah hendak mengaktifkan device baru dari lokasi mencurigakan, sistem meminta verifikasi lebih kuat plus tips keamanan singkat.
4. Kolaborasi Data (Tanpa Langgar Privasi)
TikTok menyebut perlunya kolaborasi lintas platform dan lintas industri. Logika yang sama seharusnya berlaku di keuangan:
- Bank–bank dan fintech bisa berbagi intel risiko tentang rekening penampung (money mule) dalam kerangka yang diatur regulator.
- Pola penipuan yang terdeteksi di satu bank bisa dipakai untuk memperkuat model AI bank lain, tentu dengan anonymization dan kepatuhan regulasi.
Ini sejalan dengan arah era digital banking di Indonesia, di mana OJK, BI, dan Komdigi makin mendorong penguatan keamanan digital dan perlindungan konsumen.
Langkah Nyata: Roadmap Singkat Penerapan AI Anti-Fraud di Bank
Untuk bank yang ingin serius menyusul kecepatan ancaman digital seperti di TikTok, berikut kerangka sederhana yang realistis:
1. Mulai dari Use Case Paling Menyakitkan
Jangan mencoba meng-otomasi semuanya sekaligus. Fokus di:
- Deteksi transaksi tidak wajar (anomali transfer, top up, tarik tunai).
- Deteksi login mencurigakan (device baru, lokasi baru, jam tidak wajar).
- Deteksi rekening penerima berisiko tinggi (sering terlibat sengketa/fraud).
2. Bangun Data Foundation yang Bersih
AI hanya sebagus data yang diberi.
- Satukan data transaksi, device, lokasi, dan interaksi nasabah di satu fraud data lake.
- Tandai (label) kasus fraud historis secara rapi untuk melatih model.
3. Terapkan Model AI Secara Bertahap
- Mulai dari model skoring risiko yang berjalan paralel dengan sistem lama.
- Uji di shadow mode: model memberi skor, tapi belum memblokir transaksi, hanya memberi alert.
- Setelah akurasi stabil, baru naikkan ke mode otomatis dengan batasan nominal tertentu.
4. Libatkan Nasabah dalam Loop Keamanan
- Sediakan fitur lapor transaksi mencurigakan langsung di aplikasi.
- Gunakan laporan nasabah ini sebagai feedback loop untuk melatih ulang model AI.
Dengan pendekatan bertahap seperti ini, bank tidak perlu menunggu menjadi "super digital" untuk mulai memetik manfaat real dari AI.
Penutup: Dari FYP ke Rekening, AI yang Sama Sedang Menjaga Kita
Kasus TikTok yang menghapus lebih dari 600 ribu konten judol dan penipuan sepanjang paruh pertama 2025 menunjukkan satu hal: tanpa AI, ruang digital Indonesia akan jauh lebih berbahaya.
Di seri “AI dalam Industri Perbankan Indonesia: Era Digital Banking” ini, benang merahnya selalu sama:
- Data makin besar.
- Serangan makin cepat.
- Kepercayaan nasabah makin rapuh.
Bank yang menang di era ini adalah bank yang berani menggabungkan AI real-time, edukasi keamanan digital, dan kolaborasi lintas ekosistem — bukan hanya proteksi di level core banking, tapi juga di titik-titik di mana penipuan mulai terjadi: media sosial, chat, dan interaksi sehari-hari nasabah.
Langkah selanjutnya bagi industri perbankan Indonesia cukup jelas: kalau AI sudah dipercaya menjaga FYP jutaan orang, saatnya AI juga diberi peran yang sama kuat untuk menjaga rekening dan identitas digital nasabah.