Polisi āunbiased AIā OMB di AS buka contoh jelas bagaimana kerajaan mengawal bias AI melalui procurement. Ini masa untuk Malaysia ambil pengajaran praktikal.
Mengapa polisi AI kerajaan tiba-tiba jadi isu besar
Di Amerika Syarikat, pejabat paling berkuasa dalam urusan bajet kerajaan persekutuan ā Office of Management and Budget (OMB) ā baru sahaja mengeluarkan memo tujuh muka surat yang mengikat semua agensi persekutuan tentang satu perkara: AI kerajaan mesti āunbiasedā dan bebas agenda ideologi.
Di atas kertas, memo ini lahir daripada arahan Presiden Donald Trump untuk mengelakkan apa yang digelar āwoke AIā dalam kerajaan persekutuan. Di sebalik istilah politik itu, ada isu yang lebih besar dan sangat rapat dengan Malaysia: bagaimana kerajaan mengawal bias AI, melindungi kepercayaan rakyat, dan pada masa sama mempercepat transformasi digital sektor awam.
Bagi Malaysia yang sedang melaksanakan Dasar Teknologi dan Kecerdasan Buatan Negara (NTIS), MyDIGITAL dan Rangka Tindakan Ekonomi Digital Malaysia, perkembangan ini bukan sekadar berita luar negara. Ia sebenarnya satu case study hidup tentang bagaimana sebuah kerajaan besar cuba membentuk rangka kerja AI dalam sektor awam ā daripada procurement, tadbir urus, sehinggalah ke isu ideologi dan keselamatan maklumat.
Dalam artikel ini, saya kupas apa yang dilakukan OMB, kenapa ia kontroversi, dan yang paling penting: apa pelajaran praktikal untuk kementerian, agensi, kerajaan negeri dan PBT di Malaysia yang sedang membangunkan smart city, automasi perkhidmatan awam dan analitik keselamatan.
Apa sebenarnya yang OMB minta agensi kerajaan buat?
Secara ringkas, OMB mewajibkan semua agensi persekutuan AS yang mahu membeli atau membangunkan model AI ā terutamanya large language model (LLM) ā untuk memenuhi dua prinsip utama yang ditetapkan Rumah Putih:
- Truth-seeking ā model perlu berasaskan ketepatan sejarah, objektiviti dan inkuiri saintifik.
- Ideological neutrality ā model tidak boleh dibina atas asas kepercayaan partisan atau agenda ideologi tertentu.
Untuk mencapai dua prinsip ini, OMB menetapkan beberapa syarat praktikal dalam proses procurement AI kerajaan:
- Agensi mesti dapatkan maklumat mencukupi daripada vendor AI untuk menilai risiko bias dan tadbir urus model.
- Kontrak baru perlu memasukkan klausa jelas tentang keperluan āunbiased AIā, termasuk syarat untuk penamatan kontrak jika tidak dipatuhi.
- Kontrak sedia ada perlu disemak semula dan jika perlu, diubah suai untuk mematuhi garis panduan baru.
- Jika agensi membangunkan sendiri model AI, mereka terikat dengan dokumentasi dan prinsip yang sama seperti vendor luar.
OMB juga sedar satu realiti penting: banyak produk AI kerajaan dibeli melalui reseller, bukan terus daripada pembangun utama. Jadi memo ini menegaskan bahawa pembangun asal perlu bersedia bekerjasama dengan reseller dan agensi untuk perkongsian maklumat dan āproduct interventionā jika ada isu.
Dari sudut polisi, ini bukan sekadar garis panduan moral. Ia sudah menjadi mandat procurement ā sama seperti keperluan keselamatan siber atau pematuhan standard teknikal.
Bagaimana OMB uruskan isu ketelusan tanpa āmembuka rahsia dapurā vendor
OMB mengambil pendekatan pragmatik: kerajaan perlukan ketelusan untuk menilai risiko, tetapi vendor pula perlukan perlindungan rahsia perdagangan. Penyelesaiannya adalah konsep āmaklumat mencukupiā (sufficient information), bukan ketelusan mutlak.
Agensi digalakkan meminta perkara seperti:
- Polisi penggunaan boleh diterima (acceptable use policy) model AI
- Ringkasan proses latihan model (bukan kod sumber atau model weights)
- Skor penilaian model, termasuk ujian bias jika ada
- Dokumen rujukan produk atau panduan pembangun
- Mekanisme maklum balas pengguna akhir yang jelas
Untuk situasi yang memerlukan ketelusan dipertingkat (enhanced transparency), agensi boleh meminta pula:
- Maklumat aktiviti pra- dan pasca-latihan (contoh: alignment, fine-tuning)
- Proses dan hasil penilaian bias model
- Butiran tentang pindaan pihak ketiga terhadap LLM atau alat tadbir urus yang digunakan
OMB turut memberi amaran: agensi tidak digalakkan meminta data teknikal sensitif seperti model weights. Fokusnya ialah pengurusan risiko, bukan pembedahan teknikal penuh.
Ini selari dengan apa yang banyak pakar tadbir urus AI sarankan: kerajaan perlu tahu apa yang model buat dan apa risikonya, lebih daripada bagaimana setiap neuron dalam model disusun.
Kontroversi besar: bolehkah AI benar-benar neutral?
Di sinilah perbahasan menjadi menarik ā dan relevan untuk Malaysia.
Beberapa penyelidik, termasuk dari Stanford Institute for Human-Centered AI, berhujah bahawa āneutraliti politik sebenar dalam AI adalah mustahil secara teori dan praktikalā. Setiap pilihan data latihan, metrik penilaian dan pendekatan penapisan membawa nilai dan andaian tertentu.
Sebahagian pakar teknologi pula melihat arahan menghalang āwoke AIā sebagai:
Satu cara kerajaan cuba mengawal informasi yang boleh dan tidak boleh keluar daripada alat AI.
Ada juga kebimbangan geopolitik. Seorang penyelidik Cato Institute memberi amaran bahawa jika kerajaan AS terlalu kuat memaksa definisi āobjektifā versi mereka ke atas model-model utama dunia, pelanggan antarabangsa mungkin menolak model tersebut kerana tidak mahu bergantung pada AI yang bentuknya dipengaruhi kehendak politik negara lain.
Bagi saya, ini satu pengajaran penting: setiap negara, termasuk Malaysia, perlu sangat jelas tentang prinsip apa yang kita mahu bawa dalam polisi AI kerajaan ā dan bagaimana ia dilihat di mata rakyat serta rakan antarabangsa.
Apa kaitannya dengan Malaysia: smart city, MyDIGITAL dan AI sektor awam
Kalau kita kaitkan dengan Malaysia, isu yang ditangani OMB sebenarnya sangat selari dengan beberapa fokus utama negara:
- Rangka Tindakan Ekonomi Digital Malaysia & MyDIGITAL menekankan pembangunan responsible AI dan data governance yang kukuh.
- Inisiatif bandar pintar (smart city) di Kuala Lumpur, Johor Bahru, Penang, Cyberjaya dan lain-lain kini banyak bergantung kepada analitik video, IoT dan AI untuk trafik, keselamatan dan perkhidmatan awam.
- Agensi seperti LHDN, JPN, PDRM, agensi keselamatan dan PBT semakin bergantung kepada analitik data dan automasi untuk efisiensi.
Dalam semua konteks ini, tiga risiko besar sentiasa datang bersama AI:
- Bias terhadap kumpulan tertentu ā contohnya dalam pengesanan wajah, pengesanan penipuan, atau sistem scoring bantuan.
- Kehilangan kepercayaan rakyat ā bila keputusan automatik dianggap āberat sebelahā atau tidak telus.
- Pergantungan keterlaluan kepada vendor tanpa memahami betul-betul tingkah laku model.
Polisi OMB memberi satu kerangka asas yang Malaysia boleh adaptasi:
- Jadikan prinsip etika AI sebagai syarat wajib dalam procurement, bukan hanya dokumen dasar tinggi.
- Gabungkan klausa ketelusan & hak audit ke dalam kontrak AI kerajaan.
- Tetapkan standard minimum untuk penilaian bias dan fairness bagi sistem yang berimpak tinggi (contoh: penguatkuasaan, kebajikan sosial, kesihatan, keselamatan).
Ini sejalan dengan aspirasi MyDIGITAL: kerajaan yang data-driven, berintegriti, dan mendapat kepercayaan rakyat.
5 langkah praktikal untuk agensi kerajaan Malaysia
Berikut pendekatan praktikal yang saya nampak berguna, diadaptasi daripada apa yang OMB lakukan ā tetapi disesuaikan dengan konteks Malaysia.
1. Wajibkan āAI documentation packageā untuk semua projek AI
Setiap tender atau RFP berkaitan AI patut mewajibkan vendor menyediakan sekurang-kurangnya:
- Penerangan fungsi model AI dengan jelas
- Senarai kegunaan yang dibenarkan / tidak dibenarkan
- Ringkasan data latihan (jenis, sumber, wilayah, tahun)
- Ujian prestasi model, termasuk apa-apa ujian bias yang telah dibuat
- Mekanisme logging dan audit apabila digunakan dalam persekitaran kerajaan
Ini tidak perlu sampai dedahkan rahsia perdagangan, tetapi cukup untuk pegawai kerajaan membuat penilaian risiko yang matang.
2. Bezakan projek āberisiko tinggiā dan āberisiko rendahā
Tak semua projek AI perlukan tahap ketelusan yang sama. Sistem AI untuk cadangan kandungan laman web kerajaan jelas kurang sensitif berbanding:
- Sistem scoring bantuan sosial
- Analitik kamera CCTV untuk keselamatan awam
- Sistem risk scoring untuk percukaian atau penguatkuasaan
Untuk aplikasi berisiko tinggi, kerajaan patut:
- Wajibkan penilaian kesan (impact assessment) sebelum go-live
- Tetapkan keperluan penjelasan (explainability) yang lebih ketat
- Benarkan audit bebas atau semakan pihak ketiga bila perlu
3. Bentuk garis panduan neutraliti & nilai yang jelas versi Malaysia
AS guna istilah āideological neutralityā dan ātruth-seekingā versi mereka. Malaysia perlukan versi sendiri yang lebih:
- Sejajar dengan Perlembagaan Persekutuan
- Hormat hak asasi, kepelbagaian kaum dan agama
- Praktikal untuk konteks pelbagai bahasa dan budaya tempatan
Sebagai contoh, bagi sistem AI yang berurusan dengan rakyat:
- Pastikan tiada diskriminasi berdasarkan bangsa, agama, jantina atau kawasan.
- Tetapkan garis panduan bagaimana data sensitif (contoh: agama, etnik) boleh atau tidak boleh digunakan dalam model.
Di sinilah Malaysia boleh ambil semangat OMB ā tetapi membina kerangka nilai yang lebih sesuai dengan negara sendiri.
4. Jadikan AI governance sebahagian rutin procurement ICT
Hari ini, banyak dokumen tender ICT kerajaan masih fokus kepada:
- Spesifikasi perkakasan
- Lesen perisian
- SLA penyelenggaraan
Untuk projek yang melibatkan AI, dokumen yang sama perlu meletakkan seksyen khusus:
- Prinsip AI bertanggungjawab yang mesti dipatuhi
- Keperluan ketelusan seperti dokumentasi model dan log penggunaan
- Klausa penamatan jika risiko bias atau pelanggaran etika tidak ditangani
Bila ini menjadi rutin, kita tak lagi bergantung kepada āinisiatif khasā untuk etika AI. Ia jadi sebahagian daripada cara kerajaan membeli teknologi.
5. Bangunkan kapasiti teknikal & etika dalam sektor awam
Sebesar mana pun polisi di atas kertas, ia tetap gagal jika pegawai yang menilai tender dan mengurus vendor tidak cukup faham tentang AI.
Beberapa langkah yang wajar dipercepat:
- Program latihan khusus AI dalam sektor awam untuk pegawai teknikal dan bukan teknikal.
- Pasukan kecil AI governance di peringkat pusat (contoh di MAMPU atau MOSTI) yang boleh menyokong kementerian lain.
- Kolaborasi dengan universiti dan industri untuk menyediakan kerangka penilaian bias dan fairness yang sesuai dengan data Malaysia.
OMB sendiri menjalankan beberapa sesi libat urus (listening sessions) dengan industri sebelum mengeluarkan memo. Malaysia juga perlu terus memperkukuh ekosistem dialog antara kerajaan, akademia dan industri AI tempatan.
Apa langkah seterusnya untuk Malaysia dalam AI sektor awam
Polisi OMB tentang āunbiased AIā menunjukkan satu perkara penting: AI dalam kerajaan kini bukan lagi soal teknologi semata-mata, tetapi isu dasar awam, politik dan kepercayaan masyarakat.
Bagi Malaysia yang sedang mempercepat projek smart city, identiti digital, analitik keselamatan dan automasi perkhidmatan awam, persoalannya bukan sama ada kita akan guna AI atau tidak ā itu sudah berlaku pun. Persoalannya ialah:
Adakah kita membina rangka kerja yang cukup kukuh untuk memastikan AI tersebut adil, boleh diaudit dan boleh dipercayai rakyat?
Pendekatan OMB bukan model yang sempurna, dan kontroversinya mengingatkan kita bahawa āneutraliti mutlakā mungkin ilusi. Tetapi ia memberikan satu template praktikal: gunakan kuasa procurement dan tadbir urus untuk memaksa vendor dan agensi memikirkan isu bias, ketelusan dan akauntabiliti sejak hari pertama projek.
Jika Malaysia boleh menggabungkan pengajaran ini dengan keunikan konteks kita sendiri ā perlembagaan, kepelbagaian budaya, dan matlamat ekonomi digital ā kita bukan sahaja mempercepat transformasi digital kerajaan, malah mengukuhkan legitimasi dan kepercayaan rakyat terhadap teknologi yang mengurus hidup mereka setiap hari.
Soalnya sekarang: adakah setiap projek AI kerajaan yang sedang dirancang untuk 2026 sudah pun ada pelan jelas tentang bias, ketelusan dan tadbir urus? Kalau belum, inilah masa terbaik untuk menyusunnya semula.