TrustX & Agentic AI: Pelan Praktikal Untuk Hospital Swasta

Mengapa hospital swasta tak boleh lagi tangguh AI

Dalam beberapa tahun terakhir, hospital swasta di Malaysia mula melabur besar dalam AI kesihatan – daripada sistem triage pintar, AI untuk imej perubatan, sehinggalah ejen suara yang menulis nota klinikal secara automatik. Bajet sudah ada, teknologi pun banyak. Namun satu perkara masih kabur: bagaimana nak pastikan AI ini benar‑benar selamat, boleh dipercayai, dan patuh etika?

Inilah sebab pelancaran inisiatif TrustX di UK patut menarik perhatian pengurusan hospital swasta di Malaysia. TrustX memberi rangka kerja jelas untuk menguji, mengesah dan memantau AI jenis baharu – iaitu agentic AI – dalam persekitaran kesihatan sebenar. Pendek kata, ia sedang bina jalan berturap untuk hospital yang serius mahu guna AI, tanpa mengorbankan keselamatan pesakit dan reputasi jenama.

Dalam artikel ini, saya kongsikan:

• Apa sebenarnya agentic AI dan kenapa ia penting untuk hospital swasta
• Apa yang sedang dilakukan oleh TrustX di UK
• Bagaimana pengajaran ini boleh diterjemah ke konteks hospital swasta premium di Malaysia
• Langkah praktikal untuk guna rangka kerja sebegini sebagai asas transformasi AI yang bertanggungjawab

---

Apa itu agentic AI – dan kenapa lebih berisiko tapi lebih berkuasa

Agentic AI bukan sekadar chatbot yang jawab soalan. Ia merujuk kepada sistem AI yang:

• Boleh mencapai matlamat tertentu (contoh: ringkaskan nota klinikal, atur temujanji, susun senarai kes ikut keutamaan)
• Boleh mengambil tindakan autonomi dalam sistem – bukan hanya beri cadangan
• Boleh berinteraksi dengan pelbagai sumber data dan aplikasi serentak
• Boleh berubah tingkah laku apabila model atau persekitaran dikemas kini

Di hospital swasta, ciri ini sangat berguna. Contohnya:

• Ejen AI yang mendengar perbualan konsultasi dan terus hasilkan nota klinikal, ringkasan untuk pesakit, dan surat rujukan.
• AI yang mengurus aliran kerja radiologi – susun kes mengikut keurgencian, tandakan imej mencurigakan, dan memaklumkan pakar yang bertugas.
• Sistem AI triage yang menapis aduan pesakit melalui portal digital dan cadangkan tindakan: walk‑in, temujanji segera, atau telekonsultasi.

Masalahnya, bila AI boleh “bertindak”, risiko juga naik:

• Bias klinikal: model dilatih atas data populasi lain, tetapi digunakan pada pesakit di Malaysia yang berbeza profil demografik.
• Ralat bertingkat: satu cadangan AI yang salah boleh menjalar ke beberapa sistem – jadual temujanji, susunan kes, keputusan ujian.
• Misinformasi: AI yang menjana teks bebas berpotensi memberi penerangan yang mengelirukan kepada pesakit atau staf.

Jadi, hospital swasta tak boleh lagi guna pendekatan “tengok demo, terus beli”. Kita perlukan cara yang sistematik dan boleh diaudit untuk menilai agentic AI sebelum ia menyentuh aliran kerja kritikal.

---

Apa yang sedang dilakukan TrustX untuk NHS – dan kenapa ia relevan kepada kita

TrustX ialah satu inisiatif di UK yang memfokuskan kepada penggunaan selamat agentic AI dalam kesihatan dan penjagaan sosial. Ia dibangunkan bersama:

• Health Innovation Kent Surrey Sussex
• Trustworthy AI Lab, Universiti Cambridge
• Responsible AI Institute
• The King’s Fund

Matlamat utamanya jelas: mengesah, menguji dan membantu mengguna pakai agentic AI secara bertanggungjawab.

Beberapa perkara penting yang TrustX lakukan:

1. Uji AI dalam senario dunia sebenar

TrustX tak hanya tengok ketepatan model di atas kertas. Mereka menilai bagaimana AI:

• Berinteraksi dengan sistem lain (contoh: rekod pesakit, sistem janji temu, PACS)
• Bertindak di bawah tekanan dunia sebenar – beban kes tinggi, data tak lengkap, perubahan garis panduan
• Berubah dari masa ke masa, contohnya selepas kemas kini model atau integrasi modul baharu

Inilah yang hospital swasta di Malaysia sering terlepas: kita uji AI dalam “sandbox” kecil, tetapi tak benar‑benar melihat kesan dalam end‑to‑end workflow.

2. Tangani bias, ralat dan misinformasi secara tersusun

TrustX secara khusus menangani:

• Risiko bias – contohnya model yang prestasinya kurang baik untuk kumpulan umur atau etnik tertentu
• Potensi ralat dalam cadangan klinikal atau susunan kes
• Misinformasi yang mungkin dijana oleh AI, terutamanya dalam interaksi dengan pesakit

Mereka membina metodologi untuk menyoal:

“Bagaimana AI ini boleh gagal – dan apa yang terdedah bila ia gagal?”

Hospital swasta yang ingin guna AI untuk jenama premium perlu mengambil soal kegagalan AI sejelas mereka mengambil soal kegagalan klinikal manusia.

3. “Trusted AI badge” – isyarat kepercayaan yang boleh dilihat

Salah satu elemen menarik TrustX ialah rancangan mereka memperkenalkan lencana ‘trusted AI technology’. Lencana ini menunjukkan bahawa sesuatu perisian:

• Telah dinilai secara bebas
• Sedang dipantau secara berterusan dari segi keselamatan dan ketepatan
• Disemak dari sudut penjajaran nilai (alignment) dengan tujuan klinikal dan etika

Bagi hospital swasta, konsep ini boleh diterjemah kepada:

• Skim pensijilan dalaman atau panel penilaian AI peringkat kumpulan hospital
• Label atau dokumentasi standard yang boleh ditunjukkan kepada doktor, pesakit dan pemegang taruh lain sebagai bukti pengawalan risiko

4. Ekosistem kolaboratif, bukan silo vendor

TrustX juga disokong oleh beberapa pengasas syarikat AI kesihatan di UK, yang menyatakan komitmen untuk:

“Membina teknologi yang selamat, boleh dipercayai, dan sejajar dengan keperluan klinikal serta pesakit.”

Ini penting: governans AI yang kukuh tak musnahkan inovasi, malah memudahkan vendor yang serius untuk menonjol. Ini perspektif yang hospital swasta di Malaysia perlu ambil – rangka kerja ketat bukan penghalang, sebaliknya penapis kepada rakan teknologi yang betul.

---

Apa pengajarannya untuk hospital swasta di Malaysia

Biarpun TrustX beroperasi dalam konteks NHS, prinsip asasnya sangat serasi dengan keperluan hospital swasta premium di Malaysia yang sedang menerapkan AI bagi:

• Imej perubatan (CT, MRI, mamogram)
• Triage digital dan teleperubatan
• Automasi kerja pentadbiran
• Perancangan rawatan peribadi

Berikut empat pengajaran utama yang boleh diadaptasi.

1. Jadikan “AI yang selamat dan boleh diaudit” sebagai nilai jenama

Hospital swasta biasanya menjenamakan diri pada aspek:

• Pakar bertaraf tinggi
• Teknologi moden
• Pengalaman pesakit yang premium

Dalam era AI, satu lagi lapisan perlu ditambah: “AI kami diuji dan dipantau secara telus.”

Contoh apa yang boleh dinyatakan secara dalaman dan kepada pesakit:

• Semua solusi AI mesti melalui proses penilaian berstruktur sebelum diguna dalam klinik.
• Model yang menyentuh keputusan klinikal hanya digunakan sebagai bantuan, bukan pengganti keputusan doktor.
• Setiap sistem AI ada pemilik klinikal yang bertanggungjawab ke atas penggunaannya.

2. Tubuhkan jawatankuasa atau “AI Trust Board” dalaman

Mengikut semangat TrustX, hospital swasta patut membina struktur tadbir urus khusus AI:

Komposisi yang ideal:

• Wakil klinikal (contoh: pakar radiologi, pakar perubatan keluarga, pakar bedah)
• Ketua IT / CIO
• Wakil kualiti & keselamatan klinikal
• Wakil undang‑undang / pematuhan
• Wakil operasi hospital

Mandat utama:

• Menilai semua produk AI baharu berdasarkan senarai semak yang jelas
• Memantau prestasi AI selepas go‑live (contoh: audit bulanan, laporan insiden berkaitan AI)
• Menyemak semula polisi bila ada kemas kini model atau perubahan workflow

Langkah ini bukan birokrasi kosong. Ia mengurangkan risiko:

• Insiden keselamatan pesakit yang berkait dengan cadangan AI
• Konflik dengan garis panduan KKM atau MQA di masa hadapan
• Pertikaian dengan doktor tentang siapa bertanggungjawab terhadap keputusan yang dibantu AI

3. Uji AI dalam aliran kerja sebenar, bukan hanya dalam “demo cantik”

Satu kesilapan biasa: hospital menguji AI hanya atas set data yang kecil atau demo vendor. Semangat TrustX ialah mengambil kira realiti operasi.

Untuk hospital swasta, uji AI anda dalam:

• Persekitaran pilot terkawal di satu jabatan dahulu (contoh: hanya di radiologi satu cawangan)
• Senario masa puncak – bila jumlah kes tinggi, bila staf kurang
• Kes data tak lengkap atau bercanggah – sebab inilah realiti rekod pesakit sebenar

Bina beberapa soalan asas sebelum meluaskan penggunaan:

• Adakah AI betul‑betul mengurangkan masa doktor, atau hanya tambah lapisan kerja semakan?
• Adakah terdapat kumpulan pesakit tertentu di mana AI sering silap?
• Adakah staf faham batasan AI dan bila perlu abaikan cadangan AI?

4. Kawal komunikasi dan jangkaan pesakit tentang AI

Ramai pesakit Malaysia sudah biasa dengan idea “hospital swasta = lebih canggih”. Tetapi AI perlu diterangkan dengan betul, bukan dijual sebagai “robot doktor”:

Beberapa prinsip komunikasi yang selamat:

• Tekankan bahawa doktor masih membuat keputusan akhir.
• Jelaskan bahawa AI digunakan untuk mempercepat kerja rutin, supaya doktor ada lebih masa untuk berinteraksi dengan pesakit.
• Nyatakan bahawa sistem AI melalui penilaian dalaman dan pemantauan berterusan.

Ini bukan sekadar PR. Ia membina kepercayaan jangka panjang dan mengurangkan risiko salah faham jika berlaku insiden.

---

Kerangka praktikal: 6 langkah adaptasi “gaya TrustX” untuk hospital swasta

Berikut satu kerangka ringkas yang boleh digunakan oleh pengurusan hospital swasta yang sedang menilai atau meluaskan penggunaan AI dalam 2026.

1. Tetapkan prinsip AI hospital
   Dokumenkan 5–7 prinsip jelas, contohnya: keselamatan pesakit, ketelusan, bias minima, pematuhan data, doktor-in-the-loop.

2. Wujudkan struktur tadbir urus AI
   Bentuk jawatankuasa AI, jelas peranan, kuasa meluluskan dan kewajipan pelaporan.

3. Gunakan senarai semak penilaian AI
   Termasuk aspek:

   • Sumber dan kualiti data latihan
   • Prestasi model pada populasi serupa Malaysia
   • Mekanisme override oleh doktor
   • Jejak audit (audit trail) yang lengkap

4. Laksanakan projek perintis (pilot) berprofil tinggi tetapi terkawal
   Contoh projek:

   • AI laporan radiologi awal
   • AI triage portal pesakit
   • Ejen suara untuk penulisan nota klinikal

5. Pantau dan lapor secara telus
   Tetapkan indikator seperti:

   • Masa purata laporan radiologi sebelum/selepas AI
   • Bilangan insiden yang memerlukan pembetulan manusia
   • Tahap kepuasan doktor dan staf terhadap AI

6. Komunikasi berterusan dengan doktor dan pesakit
   Adakan sesi taklimat berkala, panduan ringkas penggunaan AI, dan saluran maklum balas yang mudah.

Jika dilaksanakan dengan konsisten, enam langkah ini membina “TrustX versi hospital anda sendiri” – satu ekosistem di mana AI diuji, dipercayai dan dipertanggungjawabkan.

---

Penutup: AI premium memerlukan tadbir urus premium

Hospital swasta di Malaysia sedang berada di persimpangan penting. Bajet AI semakin besar, persaingan serantau dengan Singapura dan Thailand semakin sengit, dan pesakit kian celik teknologi.

Pengajaran daripada TrustX jelas: AI yang benar‑benar memberi nilai kepada sistem kesihatan bukan hanya tentang model yang hebat, tetapi tentang cara ia diuji, diguna dan dipantau. Untuk hospital swasta premium, kekuatan jenama bukan sahaja datang daripada “kami guna AI”, tetapi daripada “kami guna AI dengan cara yang selamat, telus dan bertanggungjawab”.

Jika anda berada dalam pengurusan hospital, soalan yang patut ditanya menjelang 2026 bukan lagi “patutkah kita guna AI?”, tetapi:

“Apakah rangka kerja ‘TrustX’ versi kita sendiri – dan bila kita sanggup mula melaksanakannya?”