AI Selamat untuk Sistem Kritikal Kerajaan

AI dalam Kerajaan & Sektor Awam••By 3L3C

AI mula mengawal loji, trafik dan air. Panduan CISA tunjuk bagaimana kerajaan Malaysia boleh jadikan AI selamat dalam infrastruktur kritikal dan bandar pintar.

AI sektor awaminfrastruktur kritikalkeselamatan siber OTtadbir urus AIbandar pintar Malaysia
Share:

AI Selamat untuk Sistem Kritikal Kerajaan

Pada 2025, lebih 70% organisasi utiliti dan infrastruktur global melaporkan sedang menguji atau menggunakan kecerdasan buatan (AI) dalam operasi harian mereka. Di Malaysia, perkara yang sama sedang berlaku di sebalik tabir: sensor di loji rawatan air, sistem pengurusan trafik bandar pintar, malah grid elektrik kita perlahan-lahan mula dipacu AI.

Masalahnya, bila AI masuk ke dalam jantung sistem kritikal, sebarang kesilapan bukan sekadar bug kecil. Ia boleh ganggu bekalan air, trafik bandar, hospital, malah keselamatan negara. Sebab itu panduan baharu yang dikeluarkan oleh Cybersecurity and Infrastructure Security Agency (CISA) Amerika Syarikat dan rakan-rakan antarabangsa tentang Integrasi Selamat AI dalam Operational Technology (OT) sangat relevan untuk Malaysia, khususnya dalam konteks Pelan Tindakan Ekonomi Digital Malaysia (MyDIGITAL) dan agenda AI dalam Kerajaan & Sektor Awam.

Dalam artikel ini, saya huraikan apa sebenarnya intipati panduan CISA itu, dan lebih penting, bagaimana pelajaran antarabangsa ini boleh diterjemah kepada tindakan praktikal untuk kerajaan Malaysia, agensi kritikal, dan inisiatif bandar pintar.

Mengapa AI dalam Sistem Kritikal Bukan Isu Teknologi Semata-mata

AI dalam OT adalah isu tadbir urus, risiko dan keselamatan nasional – bukan sekadar projek IT.

AI kini mula disepadukan dalam:

  • Sistem kawalan loji jana kuasa dan grid elektrik
  • Pengurusan trafik dan pengangkutan awam bandar pintar
  • Sistem bekalan air dan kumbahan
  • Rangkaian logistik dan pelabuhan
  • Keselamatan bangunan kerajaan dan pusat data

Dalam konteks Malaysia, semua ini berkait rapat dengan:

  • Aspirasi MyDIGITAL untuk menjadikan Malaysia hab digital serantau
  • Pelan bandar pintar di Kuala Lumpur, Johor Bahru, Cyberjaya, Kuching dan lain-lain
  • Kepentingan melindungi Rangkaian Infrastruktur Kritikal Negara (CIIP)

Kalau AI yang mengawal pam air, lampu isyarat, atau sistem penyejukan pusat data kerajaan boleh dimanipulasi atau tersilap membuat keputusan, kesannya boleh berantai. Sebab itu pendekatan "cuba dulu, baiki kemudian" yang biasa digunakan untuk aplikasi pengguna tidak sesuai untuk sistem kritikal.

CISA dan rakan-rakannya (termasuk agensi keselamatan siber Australia, Kanada, Jerman, Belanda, New Zealand dan UK) mengeluarkan panduan bersama untuk menangani isu ini. Malaysia patut melihat dokumen ini sebagai rangka kerja rujukan global yang boleh disesuaikan dengan konteks tempatan.

Empat Prinsip Teras CISA – Dan Apa Maknanya untuk Malaysia

CISA merumuskan empat pertimbangan utama untuk integrasi selamat AI dalam sistem OT. Kalau kita terjemah kepada konteks sektor awam Malaysia, ia jadi seperti berikut.

1. Faham Cara AI Berfungsi, Bukan Hanya Nama Projek

Jawapan ringkas: Pasukan kerajaan tak boleh guna AI sebagai "kotak hitam". Mereka perlu faham asas teknikal dan risiko.

CISA menekankan keperluan untuk memahami:

  • Bagaimana model AI dilatih
  • Data apa yang digunakan
  • Di mana AI akan dihoskan dan siapa yang mengawalnya
  • Jenis kelemahan keselamatan yang mungkin wujud

Dalam konteks Malaysia:

  • Jurutera OT di TNB, Air Selangor atau Prasarana mungkin pakar dalam peralatan industri – tetapi tidak semestinya pakar AI.
  • Sebaliknya, data scientist di agensi digital mahir AI, tetapi tak biasa dengan batasan safety peralatan fizikal.

Kerajaan perlu:

  • Menubuhkan pasukan silang disiplin: OT + AI + keselamatan siber + perundangan
  • Melatih pegawai teknikal kerajaan tentang asas AI keselamatan tinggi (contoh: adversarial attacks, model poisoning, risiko data sensitif)
  • Menetapkan bahawa sebarang projek AI dalam OT mesti disertakan laporan risiko teknikal yang difahami oleh pihak pengurusan, bukan hanya vendor

Ringkasnya, kalau pasukan projek tak boleh menerangkan bagaimana model dibuat, dari mana data datang, dan apa titik serangan yang mungkin – projek itu belum bersedia untuk OT.

2. Setiap Projek AI Mesti Ada Justifikasi Bisnes dan Risiko yang Jelas

AI tidak layak masuk ke sistem kritikal hanya kerana ia trendy. Ia mesti ada sebab kukuh dan analisis risiko yang telus.

CISA menggesa organisasi:

  • Menilai sama ada AI benar-benar perlu untuk kes penggunaan tertentu
  • Mengkaji bagaimana data dari sistem OT sensitif akan diakses atau digunakan
  • Memastikan sebarang penggunaan data patuh kepada dasar privasi dan keselamatan

Untuk sektor awam Malaysia, pendekatan sihat ialah:

Tanya tiga soalan asas sebelum lulus projek AI dalam OT:

  1. Masalah sebenar apa yang kita selesaikan? Contoh: pengesanan awal kegagalan pam, pengoptimuman penggunaan tenaga, pengesanan anomali siber.
  2. Adakah AI benar-benar satu-satunya atau kaedah yang paling berkesan? Kadang-kadang logik peraturan (rules-based) sudah mencukupi.
  3. Apa risiko tambahannya? Contoh: pendedahan data proses industri, pergantungan melampau kepada vendor luar, kebergantungan kepada sambungan internet.

Bagi projek di bawah payung MyDIGITAL dan inisiatif bandar pintar, setiap cadangan yang melibatkan AI dalam OT wajar mewajibkan:

  • Analisis kos-faedah dan kos-risiko yang kuantitatif
  • Pelan sandaran jika komponen AI gagal (contoh: mod manual atau mod konvensional)

Kalau AI hanya menambah kompleksiti tanpa nilai tambah yang jelas, ia patut ditolak untuk sistem kritikal.

3. Tadbir Urus AI: Bukan Jawatankuasa Atas Kertas Sahaja

Tadbir urus AI ialah tulang belakang integrasi AI kerajaan yang bertanggungjawab. Tanpa struktur jelas, risiko akan meletup bila skala penggunaan meningkat.

CISA menekankan keperluan:

  • Struktur dalaman yang boleh menguji model AI secara berterusan
  • Mekanisme pemantauan risiko dan pematuhan regulatori
  • Proses yang jelas untuk mengemas kini, mengganti atau menarik balik model AI

Untuk Malaysia, ini sejalan dengan semangat MyDIGITAL yang menekankan tadbir urus data dan keselamatan siber. Beberapa langkah praktikal:

  1. Rangka kerja tadbir urus AI sektor awam
    Di peringkat nasional, wujudkan garis panduan khusus untuk:
    • AI dalam OT dan infrastruktur kritikal
    • Peranan dan tanggungjawab pemilik aset, CIO, CISO, dan vendor

  1. Lembaga Semakan AI (AI Review Board) di agensi kritikal
    Contoh, Kementerian Pengangkutan, Kementerian Tenaga, kerajaan negeri bandar pintar:

    • Menilai semua projek AI berimpak tinggi
    • Menetapkan standard pengujian, validasi dan model monitoring

  2. Rekod audit penuh kitar hayat model
    Setiap model AI yang menyentuh OT mesti ada:

    • Versi model, data latihan, dan sejarah konfigurasi
    • Rekod perubahan dan keputusan pentadbiran

Tanpa tadbir urus yang hidup (bukan hanya dokumen policy), pengurusan takkan nampak risiko perlahan-lahan terkumpul dalam sistem.

4. Keselamatan & Keselamatan Fizikal Perlu Diintegrasi dalam Setiap Fasa

Prinsip paling penting: fikir tentang keselamatan dan keselamatan fizikal daripada hari pertama, bukan selepas sistem hampir siap.

CISA menggariskan keperluan untuk menggabungkan keselamatan dalam:

  • Rekabentuk awal sistem
  • Pembangunan dan integrasi model
  • Ujian sebelum produksi
  • Operasi harian dan incident response

Untuk projek kerajaan di Malaysia, saya syorkan pendekatan berikut:

a) "Security & Safety by Design" sebagai keperluan tender

Dalam dokumen tender untuk projek AI berkait OT:

  • Wajibkan analisis risiko keselamatan siber dan keselamatan fizikal
  • Wajibkan threat modeling khusus untuk sistem OT
  • Minta pelan fail-safe yang jelas (contoh: jika AI mengesan anomali yang tidak pasti, sistem kembali ke mod operasi selamat)

b) Senario insiden yang realistik

Latih pasukan OT, IT dan operasi dengan senario seperti:

  • Model AI memberi cadangan operasi yang salah kerana data sensor dimanipulasi
  • Penyerang memasukkan data palsu (data injection) sehingga AI mengabaikan ancaman sebenar
  • Sistem AI terhenti semasa waktu puncak operasi

Di Malaysia, ini boleh digabungkan dengan latihan siber nasional sedia ada, cuma fokuskan modul khusus pada sistem OT dan AI.

c) Pemantauan berterusan, bukan "lancar deploy, lupa"

Model AI dalam OT perlu:

  • Dipantau prestasi dan tingkah lakunya 24/7
  • Ditandakan apabila ada corak keputusan luar biasa
  • Dikaitkan dengan papan pemuka (dashboard) yang boleh difahami oleh operator OT, bukan hanya data scientist

Tiga Pengajaran Utama untuk Infrastruktur Awam Malaysia

Jika diringkaskan, panduan CISA dan rakan antarabangsa memberi tiga pelajaran besar yang sangat sesuai dengan realiti Malaysia sekarang.

1. AI dalam OT adalah isu keselamatan negara

Bila AI masuk ke loji jana kuasa, sistem air, lapangan terbang atau pelabuhan, ia secara automatik menjadi isu keselamatan negara.
Ini bermakna:

  • Penglibatan Majlis Keselamatan Negara dan agensi keselamatan siber negara perlu jelas
  • Peraturan khusus AI untuk infrastruktur kritikal perlu dibangunkan, bukan disapu di bawah polisi IT umum

2. Standard global perlu disesuaikan, bukan disalin bulat-bulat

Panduan CISA ialah rujukan yang sangat baik, tetapi Malaysia ada:

  • Struktur persekutuan (kerajaan Persekutuan dan negeri)
  • Tahap kematangan OT dan AI yang berbeza antara bandar besar dan PBT kecil
  • Keperluan kos dan sumber manusia yang terhad di sesetengah agensi

Jadi, pendekatannya patut:

  • Ambil prinsip teras (tadbir urus, penilaian risiko, security by design)
  • Sesuaikan dengan keupayaan setempat dan rancang naik taraf berperingkat

3. Kejayaan AI kerajaan bergantung pada tadbir urus, bukan hanya model

Kebanyakan organisasi kagum dengan model: accuracy, dashboard, demo hebat.
Hakikatnya, projek AI kerajaan yang berjaya ialah yang ada tadbir urus dan pengurusan risiko yang matang, walaupun modelnya sederhana.

Untuk Malaysia, ini bermakna:

  • Lab AI, pusat data, GPU hebat – semua itu penting, tetapi
  • SOP, polisi, latihan pegawai, struktur akauntabiliti – inilah yang akan menentukan sama ada AI membantu atau memudaratkan.

Apa Langkah Praktikal untuk Agensi Kerajaan Malaysia Sekarang?

Berikut senarai ringkas perkara yang boleh mula dibuat dalam 6–12 bulan akan datang.

  1. Pemetaan projek AI sedia ada dan yang dirancang dalam OT

    • Senaraikan semua projek yang melibatkan loji, grid, trafik, air, keselamatan fizikal
    • Tanda mana yang berisiko tinggi dan perlukan semakan segera

  2. Wujudkan garis panduan dalaman berasaskan prinsip CISA

    • Empat bahagian: pemahaman AI, justifikasi kes penggunaan, tadbir urus, keselamatan kitar hayat penuh

  3. Tubuhkan jawatankuasa AI sektor awam di peringkat kementerian/kerajaan negeri

    • Libatkan OT, IT, keselamatan siber, perundangan, perolehan dan pengurusan

  4. Naik taraf keperluan tender

    • Masukkan syarat jelas berkaitan: security by design, audit model, pemantauan berterusan, latihan operator

  5. Latih pegawai dan operator barisan hadapan

    • Bukan sekadar kursus AI asas, tetapi modul AI + OT + keselamatan siber

Bagi organisasi yang serius dengan transformasi digital dan keselamatan, langkah-langkah ini bukan lagi pilihan – ia sebahagian daripada tanggungjawab amanah kepada orang ramai.

Menjadikan AI Tonggak, Bukan Ancaman, kepada Transformasi Digital Negara

AI dalam kerajaan dan sektor awam Malaysia sedang bergerak pantas: sistem bandar pintar, analitik pengawasan, automasi perkhidmatan awam, sehingga ke keselamatan sempadan. Panduan CISA tentang integrasi selamat AI dalam sistem kritikal menunjukkan satu perkara yang jelas: tanpa tadbir urus AI yang kukuh, semua pelaburan ini terdedah kepada risiko yang tak berbaloi.

Jika Malaysia menjadikan prinsip-prinsip seperti yang digariskan CISA sebagai sebahagian daripada pelaksanaan MyDIGITAL dan strategi bandar pintar, kita boleh sampai ke satu titik yang sihat:
AI membantu menjadikan perkhidmatan awam lebih cekap dan pintar, sambil mengekalkan – malah mengukuhkan – keselamatan dan kebolehpercayaan infrastruktur negara.

Persoalannya sekarang: adakah setiap projek AI dalam sistem kritikal kita sudah dikawal dengan tahap kesungguhan yang sama seperti kita melindungi loji jana kuasa atau pusat data kerajaan? Kalau belum, ini masa yang sesuai, di hujung 2025, untuk menetapkan semula standard.