Agentic AI Selamat untuk Hospital Swasta Premium

Agentic AI selamat: bukti bahawa etika kini jadi keperluan

Di UK, lebih 500 projek AI sedang diuji dalam sistem kesihatan awam mereka. Tapi satu perkara mula jelas: tanpa rangka kerja keselamatan dan kepercayaan, semua pelaburan itu boleh memakan diri sendiri.

Itulah sebabnya pelancaran inisiatif TrustX di NHS mendapat perhatian global – termasuk untuk hospital swasta di Malaysia yang sedang rancak merancang bajet AI mereka untuk 2026. TrustX memfokuskan kepada agentic AI: sistem AI yang bukan sahaja menjawab, tapi bertindak, membuat keputusan kecil secara autonomi, dan berinteraksi dengan sistem lain.

Bagi rangkaian hospital swasta dan penyedia kesihatan premium, cerita TrustX ini sebenarnya satu pengesahan: AI yang benar-benar bernilai mesti datang dengan keselamatan, audit, dan tadbir urus yang serius. Bukan sekadar demo cantik di pameran teknologi.

Dalam artikel ini, kita akan lihat apa yang sedang berlaku di UK, apa maksudnya untuk hospital swasta di Malaysia, dan bagaimana anda boleh membina strategi agentic AI yang selamat, patuh dan berimpak tinggi – daripada radiologi hingga triage pesakit dan automasi dokumentasi klinikal.

---

Apa sebenarnya agentic AI dalam konteks hospital swasta?

Agentic AI ialah sistem AI yang boleh mengambil tindakan berantai, bukan hanya menjawab soalan. Dalam konteks hospital swasta, ia biasanya muncul dalam bentuk:

• Pembantu klinikal yang menyiapkan draf nota konsultasi secara automatik
• Sistem triage digital yang mengemukakan soalan susulan, mengutamakan kes, dan menempah slot rawatan
• Ejen AI yang memantau senarai menunggu pembedahan dan mencadangkan penjadualan semula
• “Ambient voice agents” yang mendengar perbualan doktor–pesakit dan menukarnya kepada dokumentasi terstruktur

Di UK, TrustX diwujudkan khusus untuk menguji dan mengesahkan ejen-ejen AI seperti ini dalam senario dunia sebenar: bagaimana ia berinteraksi dengan data pesakit, sistem sedia ada, dan bagaimana tingkah lakunya berubah dari masa ke masa.

Bagi hospital swasta, inilah jenis AI yang boleh memberi kesan nyata pada:

• Masa pusing balik laporan radiologi
• Kelajuan triage di Jabatan Kecemasan swasta
• Masa doktor pakar di klinik pesakit luar
• Pengalaman pesakit premium yang mengharapkan perkhidmatan pantas dan lancar

Tetapi semakin banyak autonomi diberi kepada sistem, semakin tinggi juga risiko jika ia tersilap.

---

TrustX: model bagaimana keselamatan AI sepatutnya diurus

TrustX diwujudkan melalui kerjasama Health Innovation Kent Surrey Sussex, Trustworthy AI Lab di University of Cambridge, Responsible AI Institute dan The King’s Fund. Matlamat utama mereka jelas: menjadikan penggunaan agentic AI dalam kesihatan lebih selamat, telus dan boleh diaudit.

Ada tiga ciri utama yang patut menarik perhatian pengurusan hospital swasta:

1. Ujian dalam situasi dunia sebenar

TrustX tidak hanya menilai model AI di atas kertas. Mereka menilai bagaimana sistem:

• Berkelakuan dengan data sebenar pesakit
• Berinteraksi dengan teknologi lain (EHR, sistem PACS, sistem panggilan pesakit)
• Mengubah tingkah laku apabila model dikemas kini atau apabila corak pesakit berubah

Untuk hospital swasta, pendekatan ini penting kerana:

• Data anda mungkin berbeza (contoh: nisbah pesakit antarabangsa, profil penyakit kronik)
• Proses kerja juga berbeza daripada hospital kerajaan
• Ekspektasi pesakit premium terhadap masa menunggu dan ketepatan maklumat jauh lebih tinggi

2. Lencana “trusted AI technology”

TrustX merancang satu bentuk “badge” atau lencana kepercayaan untuk sistem AI yang telah:

• Dinilai secara bebas
• Dipantau dari masa ke masa untuk ketepatan dan keselamatan
• Selaras dengan piawaian keselamatan dan etika tertentu

Bayangkan kesannya jika hospital swasta anda boleh menyatakan bahawa sistem triage AI, sistem bacaan imej, atau pembantu dokumentasi klinikal mematuhi rangka kerja penilaian yang diiktiraf antarabangsa. Bukan sahaja kuat untuk pemasaran, malah boleh jadi faktor penting dalam:

• Rundingan dengan insurer premium
• Audit akreditasi (contoh: MSQH, JCI)
• Keyakinan pakar perubatan yang sebelum ini skeptikal terhadap AI

3. Fokus pada bias, kesilapan dan misinformation

TrustX secara khusus menumpu kepada risiko:

• Bias – contoh: algoritma yang kurang tepat untuk kumpulan etnik tertentu
• Kesilapan klinikal – saranan diagnosis yang menyimpang daripada garis panduan
• Misinformation – AI memberi penerangan yang mengelirukan kepada pesakit atau staf

Ini sangat relevan dalam konteks Malaysia yang berbilang kaum. Jika hospital swasta mengambil model AI “siap pakai” dari luar negara tanpa rangka kerja audit, risiko bias demografi dan salah tafsir konteks tempatan memang nyata.

---

Mengapa hospital swasta tak boleh lagi tangguh isu keselamatan AI

Hospital swasta Malaysia agak agresif dalam pelaburan:

• AI untuk pengimejan perubatan – detection lesion, CT/MRI assist
• AI triage untuk telekonsultasi dan portal pesakit
• AI dokumentasi klinikal – terutama di hospital yang melayani pakar antarabangsa

Masalahnya, banyak projek AI bermula sebagai projek inovasi atau pilot tanpa rangka kerja keselamatan yang formal. Bila projek mula berkembang, barulah timbul isu:

• Siapa sebenarnya bertanggungjawab jika AI beri cadangan yang salah?
• Adakah log dan audit trail cukup terperinci untuk melindungi hospital dalam kes litigasi?
• Adakah model itu diuji dengan data pesakit tempatan yang mencukupi?
• Adakah staf tahu di mana sempadan kuasa AI dan bila perlu override?

Di sinilah pelajaran daripada TrustX sangat berguna. Ia menunjukkan bahawa teknologi AI yang baik sahaja tak cukup. Tanpa ekosistem:

• pengesahan bebas,
• pemantauan berterusan, dan
• tadbir urus jelas,

hospital sebenarnya sedang mengambil risiko reputasi yang tak seimbang berbanding manfaat.

---

Kerangka praktikal untuk agentic AI selamat di hospital swasta

Berita tentang TrustX boleh dijadikan pemangkin untuk hospital swasta di Malaysia membina kerangka sendiri. Berikut pendekatan yang realistik dan boleh dilaksanakan, terutama bagi kumpulan hospital yang sudah ada bajet AI tahunan.

1. Bentuk jawatankuasa “Responsible AI” dalaman

Jangan serah isu AI pada IT sahaja. Tubuhkan jawatankuasa merentasi fungsi yang sekurang-kurangnya melibatkan:

• Pakar klinikal (wakil kepakaran utama, contohnya kardiologi, ortopedik, onkologi)
• CMO atau pengarah perubatan
• Ketua IT / CIO
• Ketua kualiti & risiko klinikal
• Wakil undang-undang / compliance

Mandat mereka:

• Menetapkan prinsip AI selamat dan beretika peringkat hospital
• Meluluskan projek AI yang menyentuh keputusan klinikal atau data sensitif
• Menyemak laporan audit dan insiden berkaitan AI

2. Guna model “sandbox” seperti TrustX untuk ujian awal

Sebelum AI agentic bercakap dengan pesakit sebenar atau menyentuh rekod klinikal hidup, wujudkan persekitaran sandbox:

• Data pesakit dianonimkan atau dijana semula (synthetic data)
• Proses kerja disimulasikan (contoh: senario triage, konsultasi maya)
• Output AI dibandingkan dengan keputusan pakar manusia

Sasaran ujian yang jelas patut termasuk:

• Kadar kesilapan berbanding pakar
• Pola bias (contoh: prestasi merentas etnik, umur, jantina)
• Kebolehan AI mengurus soalan luar skop (adakah ia mengaku “tak pasti” atau cuba mengagak?)

3. Polisi kejelasan peranan: AI menyaran, manusia memutuskan

Untuk penggunaan klinikal, garis asas yang selamat ialah: AI menyokong, doktor memutuskan.

Hospital patut mendokumenkan dengan jelas:

• Jenis keputusan yang AI boleh buat sendiri (jika ada) — contohnya pengurusan slot janji temu
• Jenis keputusan yang mesti disemak manusia — contohnya diagnosis, pelan rawatan, keputusan menolak atau menangguh prosedur
• Bagaimana override manusia direkodkan dan dipantau

Ini bukan sahaja perlindungan legal, tapi juga membantu membina kepercayaan pakar yang mungkin risau AI “mengambil alih” peranan mereka.

4. Audit berkala dan pemantauan pasca-pelaksanaan

TrustX menekankan pemantauan berterusan, bukan sekali uji dan lupa. Hospital swasta boleh meniru pendekatan ini dengan:

• KPI khusus AI: kadar kesilapan, masa jimat, skor kepuasan pesakit
• Laporan insiden berkaitan AI (walaupun “nyaris tersilap”) yang dikaji di peringkat jawatankuasa
• Semakan semula model setiap kali ada kemas kini besar pada sistem atau data

Jika hospital anda mahu benar-benar menonjol dalam pasaran premium, anda boleh pergi lebih jauh: menerbitkan laporan ringkas ketelusan AI tahunan kepada pesakit korporat dan insurer utama.

---

Aplikasi agentic AI selamat dalam hospital swasta Malaysia

Supaya lebih konkrit, ini tiga aplikasi utama di hospital swasta yang mendapat manfaat besar daripada pendekatan seperti TrustX.

1. AI dalam pengimejan perubatan

Banyak hospital swasta telah menggunakan AI untuk:

• Mengesan nodul paru-paru
• Menilai strok dalam CT otak
• Menyokong pengesanan kanser payudara

Dengan pendekatan agentic AI, sistem bukan sahaja memaparkan “heatmap”, tetapi boleh:

• Menyusun kes mengikut keutamaan risiko untuk radiologis
• Menjana draf laporan berdasarkan template standard hospital
• Memaklumkan staf jika kes berisiko tinggi belum dinilai dalam tempoh SLA yang ditetapkan

Dengan rangka kerja keselamatan:

• Radiologis jelas bahawa laporan AI ialah draf, bukan keputusan muktamad
• Audit boleh menunjukkan sejauh mana AI menambah baik masa pusing balik berbanding risiko

2. AI triage untuk kecemasan dan telekesihatan

Hospital swasta yang menawarkan telekonsultasi dan perkhidmatan kecemasan swasta boleh gunakan agentic AI untuk:

• Menyaring simptom awal daripada portal pesakit
• Mencadangkan sama ada pesakit perlu datang ke kecemasan, klinik biasa, atau rujuk segera pakar
• Menjana ringkasan struktur untuk doktor sebelum konsultasi bermula

Tanpa rangka kerja keselamatan, risiko under-triage atau over-triage tinggi. Dengan kerangka seperti TrustX:

• Triage AI dinilai berbanding garis panduan klinikal dan data kes sebenar
• Pesakit dimaklumkan dengan jelas bahawa ini ialah alat saringan, bukan pengganti doktor

3. Ambient voice agent untuk nota klinikal

Satu bidang yang sangat relevan dengan berita di UK ialah ambient voice agents — sistem yang mendengar konsultasi dan menyiapkan nota secara automatik.

Untuk hospital swasta dengan kadar konsultasi tinggi dan doktor antarabangsa, manfaatnya besar:

• Doktor kurang masa menaip, lebih masa berinteraksi dengan pesakit
• Nota lebih konsisten dan lengkap
• Kualiti dokumentasi meningkat, penting untuk tuntutan insurans dan litigasi

Tetapi ia juga menyentuh isu sensitif:

• Privasi dan kebenaran pesakit
• Ketepatan terjemahan istilah perubatan dwibahasa (Bahasa Melayu–Inggeris)
• Risiko salah faham konteks budaya

Pendekatan seperti TrustX memberi rangka kerja untuk menguji:

• Sejauh mana tepatnya transkripsi dan ringkasan
• Bagaimana sistem dikonfigurasikan untuk mematuhi keperluan PDPA dan polisi dalaman

---

Masa untuk hospital swasta memimpin dalam AI yang bertanggungjawab

Pengajaran terbesar daripada pelancaran TrustX ialah ini: AI dalam kesihatan tidak lagi sekadar soal inovasi, tetapi soal keyakinan.

Bagi hospital swasta dan penyedia kesihatan premium di Malaysia, inilah peluang untuk berada di hadapan sektor awam dengan:

• Menggubal polisi agentic AI yang selamat, telus dan boleh diaudit
• Menubuhkan jawatankuasa Responsible AI dan sandbox ujian dalaman
• Menjadikan keselamatan AI sebagai sebahagian daripada jenama kualiti anda – sama penting dengan akreditasi klinikal

Jika anda sedang merancang pelaburan AI untuk 2026 – sama ada dalam pengimejan, triage, telekesihatan atau automasi dokumentasi – jadikan rangka kerja seperti TrustX sebagai rujukan. Teknologi akan sentiasa berubah, tetapi prinsip:

"AI menyokong, manusia memutuskan, dan keselamatan dipantau secara berterusan"

ialah asas yang membezakan hospital yang hanya "guna AI" dengan hospital yang benar‑benar dipercayai oleh pesakit dan doktor.

---