Apa Yang Kerajaan Malaysia Patut Lakukan Dalam Mengurus AI?

AI bukan sekadar teknologi baharu. Ia sedang menjadi kuasa baharu dalam ekonomi, pentadbiran, pendidikan, keselamatan dan kehidupan manusia. Persoalannya bukan lagi sama ada Malaysia mahu menggunakan AI atau tidak, tetapi bagaimana AI harus dikawal supaya manusia kekal menjadi tuan kepada teknologi itu.

Dalam beberapa tahun kebelakangan ini, perkembangan kecerdasan buatan atau Artificial Intelligence (AI) berlaku dengan begitu pantas. AI bukan lagi sekadar alat untuk mencari maklumat, menghasilkan gambar atau menulis dokumen. Sistem AI kini mampu membuat keputusan, menggunakan pelbagai aplikasi, menjalankan tugasan secara autonomi dan berinteraksi dengan sistem digital yang lain.

Perkembangan ini membawa manfaat yang sangat besar.

Tetapi ia juga membawa satu persoalan yang semakin mendesak:

Siapakah yang mengawal siapa , manusia mengawal AI, atau AI akhirnya mengawal manusia?

Di sinilah kerajaan Malaysia perlu mengambil pendirian yang jelas.

Prinsip paling asas yang patut menjadi dasar negara ialah:

Manusia lebih penting daripada AI.

AI mesti sentiasa berada di bawah kawalan manusia dan digunakan untuk kepentingan manusia.

Ini bukan bermaksud Malaysia perlu takut kepada AI. Sebaliknya, kita perlu membangunkan AI dengan keyakinan, tetapi pada masa yang sama meletakkan sempadan yang jelas.

1. Malaysia memerlukan falsafah AI yang berpusatkan manusia

Malaysia tidak sepatutnya melihat AI hanya sebagai satu perlumbaan teknologi.

Kita sering bercakap tentang menjadi hab AI, menarik pelaburan pusat data, membangunkan tenaga pengkomputeran dan melahirkan bakat AI.

Semua itu penting.

Tetapi ada satu soalan yang lebih besar:

AI itu akhirnya untuk siapa?

Jika AI meningkatkan produktiviti manusia, membantu doktor membuat diagnosis, membantu guru mendidik, membantu petani meningkatkan hasil, membantu kerajaan menyampaikan perkhidmatan dan membantu perusahaan kecil berkembang, maka AI memberikan nilai yang besar kepada masyarakat.

Tetapi jika manusia semakin bergantung kepada AI sehingga tidak lagi mampu membuat pertimbangan sendiri, maka kemajuan teknologi itu perlu dipersoalkan.

Kerajaan Malaysia wajar memperkenalkan satu prinsip nasional:

AI mesti berkhidmat kepada manusia, bukan manusia berkhidmat kepada AI.

Prinsip ini perlu menjadi asas kepada semua dasar, undang-undang dan pelaburan AI negara.

2. AI tidak boleh diberikan kedudukan seperti manusia

Perkembangan AI juga menimbulkan persoalan baharu tentang hak dan status sistem AI.

Adakah AI patut diberikan hak?

Adakah AI patut mempunyai keperibadian undang-undang?

Adakah AI boleh dianggap sebagai “makhluk” yang mempunyai kepentingan sendiri?

Bagi dasar negara, Malaysia perlu berhati-hati.

AI ialah teknologi yang direka, dilatih dan digunakan oleh manusia. Ia tidak sepatutnya diberikan kedudukan yang mengatasi manusia atau mempunyai hak yang menyebabkan manusia kehilangan kuasa untuk mengawal, membetulkan atau mematikannya.

Jika sebuah sistem AI melakukan kesilapan, persoalan utama bukanlah:

“Apakah yang AI mahukan?”

Tetapi:

“Siapakah manusia yang bertanggungjawab terhadap sistem tersebut?”

Tanggungjawab mesti kekal pada manusia.

3. AI mesti boleh dihentikan

Ini mungkin antara prinsip paling penting dalam pengurusan AI.

Setiap sistem AI berkuasa tinggi mesti mempunyai mekanisme untuk:

• Dihentikan,
• Diperlahankan,
• Diperbetulkan,
• Diaudit,
• Diasingkan daripada sistem lain, dan
• Ditamatkan operasinya apabila diperlukan.

Dalam bahasa mudah:

Jika manusia tidak boleh mematikan AI, manusia sebenarnya tidak lagi mengawal AI.

Kerajaan Malaysia perlu menjadikan prinsip interruptible, correctable and shut-down-able sebagai syarat asas bagi sistem AI berisiko tinggi.

Sebuah AI tidak boleh dibenarkan beroperasi dengan autonomi tanpa had hanya kerana ia lebih cekap.

Kecekapan tidak boleh mengatasi keselamatan.

4. Jangan biarkan AI membuat sesuatu yang manusia sendiri tidak faham

Satu lagi persoalan besar ialah kebolehfahaman.

AI moden boleh menghasilkan keputusan yang sangat kompleks. Kadangkala manusia sendiri sukar memahami mengapa sesuatu keputusan dibuat.

Ini menjadi masalah apabila AI digunakan dalam perkara yang memberi kesan besar kepada kehidupan manusia.

Contohnya:

Jika AI menentukan seseorang layak atau tidak mendapat pinjaman bank, menerima bantuan kerajaan, mendapat pekerjaan, menerima rawatan tertentu atau dianggap berisiko dalam sistem keselamatan, manusia mesti mempunyai keupayaan untuk memahami dan mencabar keputusan tersebut.

Kita tidak boleh menerima jawapan:

“AI kata begitu.”

Itu bukan alasan.

Kerajaan perlu mewajibkan sistem AI berisiko tinggi menyediakan:

• Rekod keputusan,
• Sebab atau faktor utama sesuatu keputusan,
• Mekanisme audit,
• Jejak penggunaan data,
• Saluran rayuan, dan
• Pihak manusia yang bertanggungjawab.

AI tidak boleh menjadi “kotak hitam” yang tidak boleh dipersoalkan.

5. AI sepatutnya menjadikan manusia lebih bijak, bukan lebih bergantung

Ini sangat penting dalam pendidikan.

Kita tidak mahu generasi muda membesar dengan kemampuan berfikir yang semakin lemah kerana semua perkara diserahkan kepada AI.

AI sepatutnya menjadi pembantu pemikiran, bukan pengganti pemikiran.

Seorang pelajar menggunakan AI untuk memahami matematik adalah sesuatu yang baik.

Tetapi jika pelajar tidak lagi mampu menyelesaikan masalah tanpa AI, kita perlu bertanya sama ada teknologi itu benar-benar membantu pendidikan.

Begitu juga dalam kehidupan profesional.

AI sepatutnya membuat seorang doktor lebih cekap, bukan menjadikan doktor tidak mampu membuat keputusan tanpa AI.

AI sepatutnya membantu seorang peguam membuat penyelidikan, bukan menggantikan pertimbangan undang-undang.

AI sepatutnya membantu penjawat awam membuat analisis, bukan mengambil alih tanggungjawab moral seorang manusia.

Prinsipnya mudah:

AI mesti meningkatkan keupayaan manusia, bukan melemahkannya.

6. Kerajaan perlu menetapkan perkara yang AI tidak boleh lakukan

Kebanyakan perbincangan tentang AI terlalu tertumpu kepada apa yang AI boleh lakukan.

Kita bercakap tentang kemampuan AI menghasilkan teks, imej, video, kod, analisis dan keputusan.

Tetapi kerajaan juga perlu menetapkan dengan jelas:

Apakah yang AI tidak boleh lakukan?

Contohnya, AI tidak sepatutnya mempunyai kuasa autonomi tanpa kawalan manusia untuk membuat keputusan yang boleh menghilangkan hak asas seseorang.

Sistem AI juga tidak sepatutnya dibenarkan memanipulasi manusia secara tersembunyi, mengeksploitasi kelemahan psikologi, melakukan pengawasan tanpa asas undang-undang atau membuat keputusan kritikal tanpa mekanisme pertanggungjawaban.

Undang-undang AI perlu mempunyai dua senarai:

Apa yang AI dibenarkan lakukan.

Dan yang lebih penting:

Apa yang AI dilarang lakukan.

7. Malaysia memerlukan sistem audit AI nasional

Kerajaan tidak boleh hanya mengeluarkan garis panduan dan kemudian menyerahkan semuanya kepada syarikat teknologi.

Malaysia memerlukan mekanisme audit AI.

Sistem AI berisiko tinggi perlu melalui penilaian sebelum digunakan secara meluas.

Audit tersebut boleh meliputi:

• Keselamatan,
• Privasi,
• Bias dan diskriminasi,
• Ketepatan,
• Keselamatan siber,
• Kebolehjelasan keputusan,
• Penggunaan data,
• Tahap autonomi,
• Risiko penyalahgunaan, dan
• Kemampuan sistem untuk dihentikan.

Lebih tinggi risikonya, lebih tinggi tahap kawalannya.

AI yang menghasilkan cadangan resipi tidak boleh disamakan dengan AI yang digunakan untuk membuat keputusan berkaitan keselamatan negara, kesihatan atau hak seseorang.

8. Kerajaan perlu menetapkan tanggungjawab yang jelas

Salah satu bahaya terbesar AI ialah masalah tanggungjawab.

Bayangkan sebuah sistem AI membuat keputusan yang salah dan seseorang mengalami kerugian.

Siapa yang bertanggungjawab?

Pembina model?

Syarikat yang menyediakan AI?

Syarikat yang menggunakannya?

Pegawai yang mengesahkan keputusan?

Atau AI itu sendiri?

Jawapannya tidak boleh berakhir dengan:

“Itu kesalahan AI.”

AI tidak boleh dijadikan kambing hitam untuk menghapuskan tanggungjawab manusia.

Kerajaan perlu mewujudkan rangka kerja AI accountability yang jelas.

Setiap sistem AI yang mempunyai kesan besar kepada masyarakat mesti mempunyai pemilik, pengendali dan pihak yang bertanggungjawab.

9. Kerajaan perlu melindungi kepelbagaian manusia

AI tidak boleh digunakan untuk memaksa semua manusia berfikir dengan cara yang sama.

Malaysia ialah sebuah negara yang mempunyai masyarakat majmuk, pelbagai budaya, bahasa, agama dan tradisi.

AI perlu menghormati kepelbagaian ini.

Namun, menghormati kepelbagaian tidak bermaksud menerima semua perkara sebagai benar.

Di sinilah kita memerlukan perbezaan antara pluralisme dan relativisme moral.

Kita boleh menerima bahawa manusia mempunyai pandangan yang berbeza.

Tetapi masih terdapat prinsip asas yang mesti dipertahankan , maruah manusia, keselamatan, keadilan, kejujuran, kebebasan daripada eksploitasi dan tanggungjawab.

AI tidak boleh digunakan untuk mengatakan bahawa kerana sesuatu budaya menerima sesuatu tindakan, maka semua tindakan itu secara automatik boleh diterima.

10. Malaysia perlu membina “AI Constitution”

Malaysia boleh pergi lebih jauh.

Selain undang-undang dan garis panduan, kita boleh mempertimbangkan satu Piagam Asas AI Malaysia , satu dokumen prinsip nasional yang menetapkan hubungan antara manusia, kerajaan, syarikat teknologi dan AI.

Antara prinsipnya:

Pertama: Manusia mempunyai keutamaan terhadap AI.

Kedua: AI tidak mempunyai kuasa undang-undang yang mengatasi manusia.

Ketiga: Setiap AI berisiko tinggi mesti boleh diaudit.

Keempat: AI mesti boleh dihentikan oleh manusia yang diberi kuasa.

Kelima: Keputusan AI yang memberi kesan besar kepada seseorang mesti boleh dicabar.

Keenam: Manusia mesti kekal bertanggungjawab terhadap penggunaan AI.

Ketujuh: AI tidak boleh digunakan untuk memanipulasi, mengeksploitasi atau menipu manusia.

Kelapan: Penggunaan AI oleh kerajaan mesti telus dan boleh diaudit.

Kesembilan: Data manusia mesti dilindungi.

Kesepuluh: AI mesti meningkatkan kemampuan manusia, bukan menghapuskan autonomi manusia.

11. Jangan berlumba membina AI paling berkuasa tanpa memikirkan kawalan

Malaysia tidak perlu menyertai perlumbaan untuk membina AI paling berkuasa di dunia semata-mata kerana negara lain melakukannya.

Matlamat kita sepatutnya bukan:

“Sejauh mana AI boleh menjadi berkuasa?”

Tetapi:

“Sejauh mana AI boleh membantu manusia dengan selamat?”

Ini ialah perbezaan falsafah yang sangat besar.

Kita tidak memerlukan AI yang paling autonomi.

Kita memerlukan AI yang paling berguna, boleh dipercayai, boleh diaudit dan boleh dikawal.

Jika sebuah sistem AI terpaksa melanggar prinsip keselamatan untuk menyelesaikan sesuatu tugas, maka sistem itu sebenarnya gagal.

Menyelesaikan tugasan bukan matlamat mutlak.

Keselamatan manusia adalah matlamat yang lebih tinggi.

12. Kerajaan perlu membentuk Majlis AI Malaysia yang benar-benar bebas

Malaysia juga memerlukan sebuah badan yang mempunyai kepakaran untuk memantau perkembangan AI.

Ia tidak sepatutnya hanya terdiri daripada pegawai kerajaan.

Ia perlu menghimpunkan:

• Pakar teknologi,
• Saintis data,
• Pakar keselamatan siber,
• Ahli undang-undang,
• Pakar ekonomi,
• Ahli akademik,
• Pakar etika,
• Wakil industri,
• Masyarakat sivil, dan
• Wakil pengguna.

Badan ini perlu mempunyai keupayaan untuk menilai teknologi baharu, memberi amaran awal dan mencadangkan tindakan sebelum sesuatu masalah menjadi krisis.

AI berkembang terlalu pantas untuk kerajaan hanya bertindak selepas masalah berlaku.

Kita memerlukan governance by anticipation, bukan hanya governance by reaction.

Kesimpulan: AI mesti kekal sebagai alat manusia

Malaysia berada di persimpangan penting.

Kita boleh melihat AI semata-mata sebagai peluang ekonomi , pusat data, pelaburan, pekerjaan dan produktiviti.

Atau kita boleh melihatnya sebagai perubahan besar terhadap hubungan manusia dengan teknologi.

Kedua-duanya penting.

Tetapi yang kedua lebih mendasar.

Kita perlu menentukan dari awal apakah kedudukan AI dalam kehidupan manusia.

Jawapannya perlu jelas:

Manusia lebih penting daripada AI.

AI mesti tunduk kepada kepentingan manusia.

AI mesti boleh dihentikan.

AI mesti boleh diperbetulkan.

AI mesti boleh diaudit.

AI mesti boleh difahami oleh manusia.

Dan manusia mesti kekal mempunyai hak untuk berkata:

“Tidak.”

Kita tidak perlu takut kepada AI.

Tetapi kita juga tidak boleh menyerahkan masa depan manusia kepada sesuatu yang kita sendiri tidak mampu kawal.

Teknologi yang baik bukan teknologi yang mengambil alih manusia.

Teknologi yang baik ialah teknologi yang menjadikan manusia lebih mampu berfikir, lebih berilmu, lebih produktif dan lebih bermaruah.

Itulah AI yang sepatutnya dibangunkan oleh Malaysia, AI yang berkuasa, tetapi tetap berada di bawah kawalan manusia, AI yang pintar, tetapi tidak mengatasi kebijaksanaan manusia, AI yang maju, tetapi tidak mengorbankan manusia demi kemajuan itu sendiri.

Pada akhirnya, persoalan AI bukan semata-mata persoalan teknologi.

Ia adalah persoalan tentang siapa kita sebagai manusia dan masyarakat yang ingin kita bina.

Dan jawapan kepada persoalan itu mesti datang sebelum teknologi membuat keputusan untuk kita.