AI Agentik Selamat di Hospital Swasta: Dari Teori ke Praktik

Mengapa AI Selamat Bukan Lagi Opsyen, Tapi Keperluan

Dalam beberapa tahun kebelakangan ini, pelaburan AI dalam penjagaan kesihatan global dianggarkan mencecah berbilion ringgit setiap tahun. Di Malaysia sendiri, hospital swasta premium sudah mula melabur besar dalam AI untuk imaging, triage, telemedicine dan optimisasi operasi.

Masalahnya: ramai pembekal teknologi bercakap tentang kehebatan AI, tapi kurang bercakap tentang keselamatan, kebolehpercayaan dan tanggungjawab. Dalam konteks kesihatan, satu ralat algoritma bukan sekadar “bug” – ia boleh menjadi isu nyawa.

Di UK, satu inisiatif baru bernama TrustX dilancarkan untuk memastikan penggunaan AI agentik (AI yang boleh mengambil tindakan sendiri, bukan sekadar memberi cadangan) dalam sistem kesihatan awam mereka benar‑benar selamat dan boleh dipercayai. Walaupun TrustX fokus kepada NHS, pendekatan dan pengajaran daripadanya sangat relevan untuk hospital swasta di Malaysia yang sedang memperkenalkan AI dalam klinik, pusat radiologi dan pusat rawatan premium.

Artikel ini mengupas apa yang dilakukan oleh TrustX, apa maksudnya untuk masa depan AI dalam kesihatan, dan yang paling penting — bagaimana hospital swasta di Malaysia boleh mengambil model sebegini untuk melindungi pesakit sambil memaksimumkan pulangan pelaburan AI.

---

Apa Itu AI Agentik, dan Mengapa Ia Lebih Berisiko?

AI tradisional biasanya memberi cadangan: contohnya sistem yang menyarankan diagnosis berbeza berdasarkan imej X-ray. AI agentik melangkah setapak lagi — ia boleh:

• Mengambil tindakan autonomi (contoh: menjadualkan temujanji susulan secara automatik)
• Berinteraksi dengan sistem lain (EHR, sistem billing, telemedicine)
• Menukar strategi berdasarkan data baharu dari masa ke masa

Dalam konteks hospital swasta di Malaysia, AI agentik mungkin terlibat dalam:

• Triage automatik untuk pesakit kecemasan atau kes telemedicine
• Sistem temujanji pintar yang mengutamakan kes kritikal
• AI scribe / ambient voice agent yang mendengar konsultasi doktor‑pesakit dan menjana nota klinikal
• Workflow automation untuk discharge summary, klaim insurans, dan susulan rawatan

Kelebihan ini besar, tapi risikonya juga serius:

• Bias: AI mungkin memberi keputusan kurang tepat untuk kumpulan etnik tertentu jika data latihan tidak seimbang
• Hallucination / maklumat mengelirukan: model generatif boleh “mereka” fakta yang kelihatan meyakinkan
• Kesan rantaian: satu keputusan salah AI boleh mencetuskan siri tindakan automatik yang menjejaskan rawatan

Di sinilah pendekatan seperti TrustX menjadi sangat menarik sebagai rujukan.

---

TrustX: Model Ekosistem untuk AI Selamat Dalam Penjagaan Kesihatan

TrustX di UK diwujudkan khusus untuk mengesahkan, menguji dan memantau AI agentik yang digunakan dalam NHS dan sektor sosial.

Intipati pendekatan TrustX boleh diringkaskan kepada beberapa elemen utama yang relevan untuk sektor swasta Malaysia:

1. Ujian Di Dunia Sebenar, Bukan Di Makmal Semata‑mata

TrustX tidak hanya menilai AI berdasarkan laporan teknikal vendor. Mereka menilai bagaimana AI bertindak dalam situasi sebenar, termasuk:

• Cara AI berinteraksi dengan sistem sedia ada
• Cara AI berubah dan belajar dari masa ke masa
• Tingkah laku AI di bawah tekanan beban kerja yang tinggi

Untuk hospital swasta, ini bermakna:

“Pilot project” AI tak memadai jika hanya dinilai dari sudut kos dan kelajuan. Ia mesti diuji terhadap kualiti klinikal, keselamatan pesakit dan keadilan.

2. Badge “Trusted AI Technology”

TrustX memperkenalkan lencana teknologi AI dipercayai yang hanya diberikan kepada sistem yang:

• Telah melalui proses verifikasi bebas
• Dipantau secara berterusan dari segi ketepatan dan keselamatan
• Disemak semula apabila model, data atau konteks penggunaan berubah

Bayangkan di hospital swasta anda:

• Senarai sistem yang diluluskan Jawatankuasa Teknologi & Klinikal dalaman
• Setiap sistem AI mempunyai status risiko, pemilik klinikal, dan tarikh semakan seterusnya

Ini bukan sekadar pematuhan, tetapi juga branding kepercayaan di mata pesakit dan panel insurans.

3. Perkongsian Pelbagai Pihak

TrustX dihajui oleh:

• Health Innovation Kent Surrey Sussex
• Trustworthy AI Lab (Universiti Cambridge)
• Responsible AI Institute
• The King’s Fund
• Pengasas pelbagai syarikat AI kesihatan seperti TORTUS, Rapid Health, BEAM dan lain‑lain

Nilai tambah yang jelas: pembangun AI dan pengguna klinikal duduk satu meja, bukannya vendor menjual produk dalam vakum.

Hospital swasta di Malaysia boleh meniru model ini dengan:

• Menubuhkan panel penasihat AI melibatkan doktor, pakar IT, legal/compliance dan wakil pesakit
• Menggunakan rangka kerja antarabangsa (contoh: ISO AI, prinsip WHO) sebagai asas polisi dalaman

---

Apa Relevannya Untuk Hospital Swasta di Malaysia?

Realitinya, sektor swasta biasanya lebih pantas mengguna pakai teknologi berbanding sektor awam. Banyak hospital swasta di Lembah Klang, Johor dan Penang sudah:

• Menggunakan AI dalam medical imaging (CT, MRI, mamogram)
• Menguji chatbot kesihatan atau triage AI untuk pusat panggilan
• Memperkenalkan telemedicine premium dengan AI yang membantu saringan awal

Tetapi tanpa rangka kerja seperti TrustX, beberapa risiko ini mudah berlaku:

• Pelaksanaan AI bergantung 100% kepada vendor tanpa semakan bebas
• Tiada pemantauan pasca‑pelaksanaan (post‑market monitoring)
• Doktor tidak jelas: adakah mereka atau AI yang “bertanggungjawab” terhadap keputusan tertentu

Saya berpendapat hospital swasta yang serius tentang AI perlu mula bergerak daripada fasa eksperimen kepada fasa governan sistematik. Model TrustX ialah contoh praktikal yang boleh disesuaikan.

3 Persoalan Strategik Untuk Pengurusan Hospital

Sebelum memperluas penggunaan AI agentik, pengurusan perlu boleh menjawab, dengan yakin:

1. Siapa meluluskan dan menyemak setiap sistem AI yang kami gunakan?
2. Bagaimana kami mengesan jika prestasi AI merosot atau menjadi berat sebelah?
3. Apakah proses kami jika AI membuat kesilapan yang menjejaskan pesakit?

Jika jawapannya masih kabur, itu petanda anda perlukan struktur seperti yang dicadangkan TrustX.

---

Kerangka Praktikal: 6 Langkah Adaptasi Gaya TrustX Untuk Hospital Swasta

Berikut satu rangka kerja ringkas yang boleh digunakan oleh hospital dan penyedia kesihatan swasta di Malaysia.

1. Wujudkan Polisi “AI Klinikal” Peringkat Lembaga

• Tetapkan prinsip: keselamatan pesakit, keadilan, ketelusan
• Nyatakan dengan jelas: AI menyokong, bukan menggantikan keputusan klinikal
• Wajibkan penilaian risiko untuk setiap projek AI baru

2. Tubuhkan Jawatankuasa Tadbir Urus AI

Ahli sepatutnya merangkumi:

• Doktor pakar (radiologi, kecemasan, perubatan dalaman, dsb.)
• Ketua kejururawatan
• CIO/CTO atau ketua IT
• Pegawai pematuhan / undang‑undang
• Wakil pengurusan kualiti klinikal

Peranan jawatankuasa:

• Menilai dan meluluskan semua penyelesaian AI klinikal
• Menetapkan KPI keselamatan dan prestasi (cth: sensitiviti, spesifisiti, masa jawapan)
• Menyelia insiden berkaitan AI

3. Laksanakan “Sandbox Klinikal” Untuk Ujian Dunia Sebenar

Sebelum full roll‑out, AI perlu diuji dalam:

• Unit terpilih (contoh: satu pusat radiologi, satu klinik pakar)
• Tempoh masa jelas (cth: 3–6 bulan)
• Dengan perbandingan jelas antara prestasi: sebelum vs selepas AI

Data yang perlu dikumpul:

• Masa laporan (contoh: laporan CT dipercepatkan 30%)
• Perubahan kadar ralat atau kes “missed diagnosis”
• Kepuasan doktor dan jururawat yang menggunakannya

4. Wujudkan Label Dalaman “AI Dipercayai”

Mungkin hospital anda belum ada badge nasional seperti TrustX, tapi anda boleh mulakan versi dalaman:

• Kategori risiko (rendah / sederhana / tinggi) berdasarkan impak klinikal
• Keperluan latihan khusus untuk staf sebelum akses
• Syarat pemantauan berterusan (cth: audit berkala setiap 6 bulan)

5. Latih Frontliner Supaya Tahu “Bila Untuk Tidak Percaya AI”

Dalam banyak kes saya lihat, organisasi terlalu fokus kepada cara menggunakan AI, tapi kurang menekankan bila tidak patut mengikut AI.

Latihan staf klinikal perlu merangkumi:

• Contoh situasi di mana AI cenderung silap (contoh: populasi luar biasa, data input tak lengkap)
• Cara mendokumenkan bila doktor override cadangan AI
• Bagaimana melaporkan insiden atau near‑miss berkaitan AI

6. Berkomunikasi Terbuka Dengan Pesakit

Pesakit premium semakin celik teknologi. Mereka patut tahu bila AI digunakan, terutama dalam:

• Triage awal
• Penilaian imej (contoh: saringan kanser payudara)
• Perancangan rawatan peribadi

Hospital boleh:

• Menyatakan penggunaan AI dengan jelas dalam borang persetujuan
• Menyediakan risalah ringkas yang menjelaskan apa itu AI klinikal dan hadnya
• Menekankan bahawa doktor tetap bertanggungjawab akhir terhadap rawatan

Langkah kecil seperti ini membina kepercayaan jangka panjang.

---

Aplikasi Khusus: Imaging, Triage & Telemedicine

Untuk selari dengan fokus siri "AI in Healthcare (Private Hospitals & Health Providers)", mari lihat tiga bidang utama di mana pendekatan ala‑TrustX sangat kritikal.

AI dalam Medical Imaging

Hospital swasta menggunakan AI untuk:

• Mengesan lesi kecil dalam CT/MRI
• Membaca mamogram dengan lebih cepat
• Menyusun keutamaan kes berdasarkan tahap kecurigaan kanser

Risiko tanpa tadbir urus yang baik:

• False negative: AI tidak mengesan ketulan kecil, kes dikelaskan sebagai kurang kritikal
• Doktor terlalu bergantung pada AI lalu kurang memberi tumpuan kepada imej

Dengan kerangka TrustX‑style:

• Setiap model imaging mesti dibuktikan prestasinya untuk populasi tempatan (bukan hanya data luar negara)
• Audit berkala ke atas kes miss/overcall dijadikan rutin kualiti

AI untuk Triage & Pusat Panggilan

Banyak hospital swasta sudah bereksperimen dengan chatbot atau sistem triage AI untuk:

• Menentukan sama ada pesakit perlu ke ED, klinik panel atau telekonsultasi
• Memberi nasihat awal sebelum jumpa doktor

Pendekatan selamat memerlukan:

• Had yang jelas: AI tidak memberi diagnosis muktamad
• Laluan “escalation to human” yang mudah dan cepat
• Pemantauan statistik kes di mana triage AI dan doktor berbeza pendapat

AI dalam Telemedicine & Ambient Voice

Trend terkini ialah ambient voice agents – AI yang mendengar konsultasi dan menulis nota klinikal serta ringkasan untuk pesakit.

Manfaat:

• Doktor boleh fokus kepada pesakit, bukan menaip
• Nota lebih cepat siap, billing dipercepatkan

Tetapi hospital perlu memastikan:

• Data audio dirakam dan disimpan mengikut piawaian privasi tempatan
• Model AI dilatih untuk terminologi perubatan Bahasa Melayu dan English yang diguna di Malaysia
• Doktor menyemak dan meluluskan semua nota sebelum dimuktamadkan

Sekali lagi, prinsip TrustX — verifikasi, pemantauan, lencana kepercayaan — boleh diguna terus di sini.

---

Langkah Seterusnya Untuk Hospital Swasta: Dari POC ke Tadbir Urus Serius

Bagi saya, mesej terbesar dari pelancaran TrustX ialah: AI dalam kesihatan sudah terlalu penting untuk dibiarkan tanpa ekosistem kepercayaan yang kukuh.

Untuk hospital dan penyedia kesihatan swasta di Malaysia, beberapa langkah praktikal yang boleh diambil dalam 3–6 bulan akan datang ialah:

1. Audit dalaman semua penggunaan AI sedia ada: di mana digunakan, siapa pemilik, bagaimana dipantau
2. Wujudkan polisi asas AI klinikal yang diluluskan lembaga
3. Bentuk jawatankuasa AI lintas fungsi untuk menilai projek baharu
4. Pilih 1–2 projek keutamaan (contoh imaging atau triage) dan jadikannya model perintis tadbir urus ala‑TrustX

Hospital yang bergerak awal akan berada di posisi terbaik untuk:

• Menarik pesakit premium yang mahukan teknologi terkini tanpa mengorbankan keselamatan
• Meyakinkan panel insurans bahawa proses klinikal mereka kukuh dan terurus
• Mengelakkan risiko reputasi akibat insiden AI yang tak dipantau

AI dalam kesihatan bukan lagi soal “perlu guna atau tidak”. Soalnya ialah bagaimana kita gunakan dengan bertanggungjawab. Model seperti TrustX menunjukkan satu jalan. Selebihnya bergantung kepada keberanian pengurusan dan klinikal di hospital swasta kita untuk membina ekosistem kepercayaan mereka sendiri.