Panduan CISA: Asas AI Selamat untuk Kerajaan Malaysia

AI dalam Kerajaan & Sektor Awam••By 3L3C

CISA keluarkan prinsip keselamatan AI dalam sistem kritikal. Apa maksudnya untuk projek AI kerajaan, bandar pintar dan infrastruktur di Malaysia?

AI kerajaan Malaysiaoperational technologykeselamatan siberinfrastruktur kritikaltadbir urus AIbandar pintarsektor awam
Share:

AI Dalam Sistem Kritikal: Apa Yang Malaysia Boleh Belajar Dari CISA

Satu fakta yang sukar diabaikan: lebih 90% infrastruktur kritikal dunia kini bergantung pada operational technology (OT) — sistem kawalan industri, grid tenaga, rangkaian air, pengangkutan, hospital. Gelombang seterusnya bukan sekadar memasang sensor atau IoT, tetapi memasukkan kecerdasan buatan terus ke dalam jantung sistem ini.

Bagi Malaysia, yang sedang memacu Rangka Tindakan Ekonomi Digital Malaysia (MyDIGITAL) dan pelaburan besar dalam bandar pintar, identiti digital dan automasi perkhidmatan awam, persoalannya sangat ringkas: adakah AI menjadikan infrastruktur kita lebih kukuh, atau lebih terdedah?

Baru-baru ini, Cybersecurity and Infrastructure Security Agency (CISA) Amerika Syarikat bersama rakan-rakan antarabangsa mengeluarkan dokumen penting: “Principles for the Secure Integration of Artificial Intelligence in Operational Technology”. Panduan ini kelihatan “barat”, tetapi struktur fikirannya sebenarnya sangat rapat dengan keperluan Malaysia – khususnya sektor kerajaan dan sektor awam yang sedang giat bereksperimen dengan AI.

Artikel ini kupas empat prinsip utama CISA dan terjemahkannya ke dalam konteks Malaysia: bagaimana kementerian, agensi, kerajaan negeri dan operator infrastruktur boleh guna prinsip yang sama untuk melindungi grid tenaga, sistem air, trafik bandar pintar, sistem kesihatan awam, bahkan pusat data kerajaan.

Gambaran Besar: Mengapa AI Dalam OT Lebih Tinggi Risikonya

AI dalam sistem kritikal bukan macam chatbot di laman web kerajaan. Di sini, kegagalan bukan sekadar “sistem lambat” — ia boleh bermakna:

  • Lampu isyarat utama bandar gagal berfungsi waktu puncak.
  • Sistem rawatan air membenarkan bahan tercemar melepasi ambang selamat.
  • Hospital bergantung pada AI untuk pengurusan peralatan kritikal dan tiba-tiba membuat keputusan yang salah.

CISA mengingatkan satu perkara penting: AI menambah nilai, tetapi pada masa yang sama mewujudkan permukaan serangan baharu, corak kegagalan baharu dan pergantungan baharu terhadap data.

Ini sejajar dengan hala tuju Malaysia:

  • MyDIGITAL menekankan AI dalam perkhidmatan awam dan bandar pintar.
  • Dasar keselamatan siber negara mahu melindungi infrastruktur kritikal seperti tenaga, pengangkutan dan kesihatan.
  • Banyak kerajaan negeri sedang menguji sistem AI untuk pengurusan trafik, CCTV pintar dan analitik operasi.

Kalau kita kejar AI tanpa disiplin keselamatan yang kukuh, kita sebenarnya sedang menambah risiko pada sistem yang paling penting untuk rakyat.

1. Faham Cara AI Bekerja, Bukan Sekadar Guna “Kotak Hitam”

Prinsip pertama CISA: pasukan perlu benar-benar faham bagaimana AI berfungsi, apa kebergantungannya, dan risiko keselamatan sepanjang kitaran pembangunan dan pelaksanaan.

Apa maksudnya untuk agensi kerajaan?

Bagi banyak organisasi, AI masih dianggap kotak hitam: masukkan data, keluar jawapan. Itu pendekatan paling bahaya untuk OT.

Setiap projek AI kerajaan yang menyentuh sistem kritikal patut mula dengan soalan sangat asas tetapi jarang ditanya:

  1. Model apa yang digunakan?
    • Model statistik mudah?
    • Machine learning tradisional?
    • Deep learning atau large language model (LLM)?
  2. Data apa yang diberi kepada AI?
    • Data sensor grid tenaga?
    • Data SCADA loji air?
    • Log operasi tren?
  3. Bagaimana data disimpan dan dipindahkan?
    • Adakah ia keluar dari rangkaian tertutup (air-gapped)?
    • Adakah pihak ketiga mempunyai akses?

Untuk konteks Malaysia, ini sangat relevan bagi:

  • Syarikat utiliti (air, elektrik) yang mula guna AI untuk predictive maintenance.
  • Pihak berkuasa tempatan yang menguji CCTV dengan analitik AI untuk keselamatan bandar.
  • Hospital kerajaan yang ingin menggunakan AI untuk menyokong operasi klinikal dan logistik.

Kenapa pemahaman teknikal ini wajib?

Kerana banyak risiko AI wujud sebelum sistem diserang:

  • Model dilatih dengan data yang berat sebelah atau tidak lengkap.
  • Rantaian bekalan model (library, API pihak ketiga) tidak diaudit.
  • Tiada pemisahan yang jelas antara persekitaran pembangunan, ujian dan produksi.

Kalau pasukan hanya “guna vendor AI” tanpa bertanya bagaimana model beroperasi, sebenarnya mereka menyerahkan kawalan keselamatan kepada pihak luar.

2. Menilai Sama Ada AI Benar-Benar Diperlukan Dalam Sistem Kritikal

Prinsip kedua CISA: buat penilaian bisnes dan risiko yang teliti sebelum memasang AI dalam OT. AI bukan jawapan automatik kepada semua masalah.

Inilah titik buta ramai organisasi:

“Ada AI = nampak maju” bukan strategi, ia undangan kepada masalah.

Soalan penilaian yang patut jadi standard Malaysia

Sebelum mana-mana agensi kerajaan atau operator infrastruktur kritikal meluluskan projek AI OT, beberapa soalan yang wajar diwajibkan:

  1. Apakah masalah sebenar yang cuba diselesaikan?

    • Pengesanan awal kerosakan peralatan?
    • Pengoptimuman penggunaan tenaga?
    • Pengurusan trafik pintar?

  2. Adakah cara bukan AI boleh capai objektif yang sama dengan risiko lebih rendah?

    • Kadangkala rules-based automation atau statistik asas sudah mencukupi.

  3. Apa data OT sensitif yang akan disentuh AI?

    • Adakah data operasi loji, konfigurasi rangkaian atau parameter kawalan akan keluar ke awan?

  4. Apa impak kalau AI buat keputusan salah?

    • Kesan kewangan sahaja?
    • Atau ada risiko keselamatan nyawa dan gangguan perkhidmatan awam?

Dalam konteks MyDIGITAL, ini sepatutnya diterjemah kepada prosedur rasmi di:

  • Jawatankuasa penilaian projek digital kementerian.
  • Lembaga pengarah GLC infrastruktur kritikal.
  • Unit transformasi digital di kerajaan negeri dan PBT.

Realitinya: tidak semua projek OT perlu AI. Kadang-kadang, menambah AI hanya menambah kompleksiti dan eksposur keselamatan tanpa manfaat yang setimpal.

3. Bina Tadbir Urus AI Yang Selari Dengan Agenda Digital Negara

Prinsip ketiga CISA: wujudkan struktur tadbir urus (governance) dalaman yang boleh menguji model AI secara berterusan dan memastikan pematuhan peraturan.

Ini sangat sejajar dengan penekanan Malaysia terhadap tadbir urus data, pelindungan data peribadi dan keselamatan siber di bawah MyDIGITAL.

Apa rupa tadbir urus AI yang matang untuk sektor awam?

Beberapa elemen praktikal yang saya rasa wajar dijadikan standard:

  1. Jawatankuasa Tadbir Urus AI peringkat organisasi

    • Dianggotai oleh CIO, CISO, wakil operasi OT, perundangan dan risiko.
    • Mempunyai mandat meluluskan, menyemak dan menghentikan projek AI OT jika perlu.

  2. Dasar pengurusan model (Model Management Policy)

    • Senarai model yang diluluskan.
    • Proses perubahan (versioning, rollback).
    • Rekod ujian keselamatan dan prestasi.

  1. Standard pemisahan persekitaran

    • Persekitaran pembangunan, ujian dan produksi dipisah dengan jelas.
    • Akses kepada rangkaian OT dikawal ketat, terutama bila melibatkan integrasi awan.

  2. Pengauditan berkala dan pemantauan berterusan

    • Ujian keselamatan berkala ke atas model dan integrasi.
    • Pemantauan drift model (apabila prestasi model merosot akibat perubahan persekitaran).

Jika kita serius tentang AI dalam kerajaan dan sektor awam, tadbir urus bukan “nice to have”. Ia menentukan sama ada projek perintis AI boleh di-skala-kan ke seluruh negara tanpa membawa risiko besar.

4. Tanam Keselamatan & Keselamatan Nyawa Dalam Setiap Fasa Projek AI

Prinsip keempat CISA: keselamatan dan keselamatan nyawa mesti dibina masuk dari awal hingga akhir projek AI – bukan ditampal di hujung.

Ini sebenarnya selari dengan konsep secure-by-design dan safety-by-design yang semakin ditekankan dalam dasar antarabangsa.

Apa maksudnya secara praktikal?

Dalam kitaran hayat projek AI OT, setiap fasa perlu menyentuh aspek keselamatan dan keselamatan nyawa:

  1. Reka bentuk (design)

    • Kenal pasti senario kegagalan paling teruk (contoh: AI tersalah klasifikasi bacaan sensor kritikal).
    • Pastikan ada “human-in-the-loop” untuk keputusan berisiko tinggi.

  2. Pembangunan & latihan model

    • Gunakan data yang dibersihkan, terlindung dan dipantau aksesnya.
    • Uji ketahanan model terhadap input pelik atau berniat jahat (adversarial testing).

  3. Integrasi dengan OT

    • Pisahkan lapisan cadangan AI daripada lapisan kawalan fizikal bila sesuai.
    • Mulakan dengan mod decision support (AI memberi cadangan) sebelum mod auto.

  4. Operasi & penyelenggaraan

    • Pantau tingkah laku model secara masa nyata.
    • Wajib ada pelan tindak balas insiden yang merangkumi senario:
      • model diserang,
      • output pelik dikesan,
      • integrasi AI perlu dimatikan pantas.

Untuk Malaysia, ini relevan terus kepada projek seperti:

  • Sistem trafik pintar di bandar-bandar utama.
  • Pengurusan bekalan air dan banjir menggunakan AI ramalan.
  • Sistem pemantauan keselamatan di pelabuhan, lapangan terbang dan sempadan.

Di sinilah ramai organisasi tersilap: mereka anggap pelan tindak balas insiden hanya untuk ransomware atau kebocoran data. Serangan atau kegagalan AI dalam OT memerlukan skrip respons khusus – siapa matikan apa, dalam masa berapa minit, dan bagaimana menyambung semula operasi dengan selamat.

Apa Kaitannya Dengan Bandar Pintar & Perkhidmatan Awam Malaysia?

Jika kita susun empat prinsip CISA tadi, mesej besarnya sangat jelas untuk Malaysia:

Setiap projek AI kerajaan, terutamanya dalam infrastruktur kritikal dan bandar pintar, mesti dilayan seperti projek kejuruteraan keselamatan tinggi – bukan ujian teknologi ringkas.

Tiga pengajaran utama untuk projek bandar pintar dan automasi kerajaan

  1. Mulakan dengan kegunaan terhad, bukan terus menyeluruh
    Uji AI pada subset peralatan, satu kawasan bandar atau satu jenis insiden sahaja. Kumpul data kegagalan dan penambahbaikan sebelum skala.

  2. Kekalkan manusia sebagai pengawal utama
    Untuk sekurang-kurangnya beberapa tahun akan datang, AI dalam OT sepatutnya membantu, bukan menggantikan, jurutera, pengendali dan pegawai bertugas. Terutamanya dalam konteks Malaysia yang masih ada variasi besar dari segi kematangan infrastruktur.

  3. Pastikan kolaborasi kerajaan–swasta lebih matang
    CISA menghasilkan panduan ini melalui kerjasama pelbagai agensi keselamatan siber antarabangsa. Malaysia juga perlu:

    • Libatkan pemain industri tenaga, air, pengangkutan, telekomunikasi.
    • Gunakan universiti dan pusat penyelidikan sebagai rakan ujian dan audit.
    • Kukuhkan peranan agensi pusat seperti MAMPU, CyberSecurity Malaysia dan Suruhanjaya berkaitan untuk menyelaras standard.

Bila kolaborasi ini matang, kita bukan sahaja gunakan AI dengan lebih selamat, kita juga membina ekosistem digital negara yang mampu bersaing dan dipercayai.

Langkah Seterusnya Untuk Agensi Kerajaan & Operator Infrastruktur

Jika anda berada dalam kementerian, kerajaan negeri, agensi pusat data, syarikat utiliti atau mana-mana organisasi yang menyentuh infrastruktur kritikal, beberapa langkah praktikal boleh diambil dalam 3–6 bulan pertama:

  1. Lakukan inventori projek AI sedia ada dan yang dirancang

    • Senaraikan semua penggunaan AI (kecil atau besar) yang menyentuh OT atau data operasi penting.

  2. Bentukkan atau kuatkan jawatankuasa tadbir urus AI

    • Biar kecil dulu, tapi ada kuasa untuk bertanya soalan sukar dan melambatkan projek jika risiko tidak jelas.

  3. Perkenalkan proses kelulusan AI OT

    • Tiada projek AI menyentuh OT dibenarkan tanpa analisis risiko bertulis dan pelan tindak balas insiden khusus AI.

  4. Latih pasukan operasi dan keselamatan siber tentang asas AI

    • Bukan nak jadikan semua orang saintis data, tetapi mereka mesti faham risiko dan corak serangan berkaitan AI.

  5. Gunakan projek rintis sebagai “makmal dasar”

    • Apa yang dipelajari dari satu projek trafik pintar atau loji air boleh diserap ke dalam garis panduan nasional dan negeri.

Ini selari dengan naratif lebih besar siri AI dalam Kerajaan & Sektor Awam: AI yang benar-benar berjaya bukan yang paling “canggih”, tetapi yang boleh dipercayai, terkawal dan mematuhi mandat keselamatan rakyat.

Penutup: AI Patut Menguatkan, Bukan Melemahkan Negara

CISA merumuskan matlamat mereka dengan sangat jelas: AI mesti mengukuhkan, bukan meruntuhkan, kebolehpercayaan dan keselamatan perkhidmatan penting.

Untuk Malaysia, yang sedang berada di fasa kritikal transformasi digital sehingga 2030, mesejnya sama:

AI dalam sistem kerajaan, bandar pintar dan infrastruktur kritikal hanya wajar dipercepatkan jika tadbir urus, keselamatan dan keselamatan nyawa bergerak sama laju.

Kalau anda terlibat dalam merancang atau melaksana projek AI di agensi atau syarikat anda, ini masa yang sesuai untuk bertanya: Adakah projek kami sejajar dengan empat prinsip CISA ini? Jika jawapannya ragu-ragu, lebih baik kukuhkan asas dulu sebelum menekan pedal AI lebih kuat.

Pada akhirnya, rakyat tak peduli model apa yang anda guna. Mereka hanya mahu satu perkara: bila mereka buka paip, tekan suis lampu, atau masuk ke hospital, segala-galanya berfungsi dengan selamat — tidak kira berapa banyak AI di belakang tabir.

🇲🇾 Panduan CISA: Asas AI Selamat untuk Kerajaan Malaysia - Malaysia | 3L3C