DEMOKRASI dibina atas satu asas yang paling penting, iaitu kepercayaan.

Rakyat perlu mempercayai bahawa maklumat yang diterima adalah benar, proses pilihan raya berlangsung secara adil, dan kenyataan yang dibuat oleh pemimpin benar-benar datang daripada mereka sendiri.

Namun, kemunculan teknologi deepfake mula menggugat asas tersebut dengan cara yang belum pernah berlaku sebelum ini.

Deepfake ialah teknologi berasaskan kecerdasan buatan (AI) yang mampu menghasilkan video, audio dan imej yang sangat meyakinkan sehingga sukar dibezakan daripada rakaman sebenar.

Dalam hanya beberapa minit, seseorang boleh “dipaksa” mengucapkan kata-kata yang tidak pernah diucapkan, menghadiri peristiwa yang tidak pernah berlaku atau membuat pengakuan yang langsung tidak pernah dibuat.

Yang dahulunya hanya boleh dilakukan oleh studio perfileman dengan kos yang tinggi, kini boleh dihasilkan menggunakan perisian yang semakin mudah diakses.

Ancaman terhadap demokrasi bermula apabila teknologi ini digunakan sebagai senjata politik.

Menjelang pilihan raya, satu video palsu yang memaparkan calon mengeluarkan kenyataan berbaur perkauman, menghina agama atau mengaku terlibat dalam rasuah boleh tersebar kepada jutaan pengguna media sosial dalam tempoh beberapa jam.

PERSEPSI

Walaupun video itu akhirnya dibuktikan palsu, persepsi awal yang terbentuk sering sukar dipadam.

Dalam politik, tanggapan pertama sering meninggalkan kesan yang berbekalan.

Lebih membimbangkan, deepfake bukan sahaja boleh merosakkan reputasi individu, malah mampu mengugat kestabilan negara.

Bayangkan sebuah video palsu memaparkan seorang pemimpin mengisytiharkan darurat, mengarahkan mobilisasi tentera atau mengumumkan keputusan ekonomi yang drastik.

Jika kandungan sedemikian tersebar ketika berlaku ketegangan geopolitik atau krisis nasional, ia berpotensi mencetuskan panik, ketidakstabilan pasaran kewangan dan kekeliruan dalam kalangan rakyat sebelum penjelasan rasmi dapat dibuat.

Fenomena ini turut mengubah landskap peperangan maklumat.

Jika dahulu propaganda bergantung kepada poster, risalah atau siaran radio, kini manipulasi digital membolehkan kandungan palsu dihasilkan dengan tahap realisme yang jauh lebih tinggi.

Pihak berkepentingan boleh menggunakan deepfake untuk melemahkan keyakinan ke atas institusi negara, memecah belah masyarakat atau mempengaruhi pendapat umum tanpa perlu melepaskan satu das tembakan.

Satu lagi cabaran besar ialah yang dikenali sebagai “liar’s dividend”.

Apabila masyarakat mengetahui bahawa deepfake semakin canggih, mana-mana individu yang benar-benar dimarak melakukan kesalahan boleh mendakwa rakaman tersebut hanyalah hasil manipulasi AI.

Akibatnya, bukti sebenar juga mula dipersoalkan.

EMOSI

Keadaan ini mewujudkan budaya syak wasangka yang menghakis kepercayaan ke atas media, badan penguat kuasa dan sistem kehakiman.

Media sosial mempercepat penyebaran masalah ini.

Algoritma platform digital lazimnya mengutamakan kandungan yang mengandung perhatian dan emosi.

Video sensasi, walaupun palsu, lebih mudah menjadi tular berbanding penjelasan rasmi yang memerlukan masa untuk disahkan.

Dalam dunia digital, kelajuan penyebaran sering mengatasi kelajuan pengesahan.

Apabila fakta akhirnya diperbetul, kandungan palsu mungkin sudah ditonton oleh berjuta-juta orang.

Organisasi media kini berdepan cabaran baharu. Wartawan bukan lagi sekadar mengesahkan fakta melalui temu bual atau dokumen, malah perlu memeriksa ketulenan video, audio dan imej menggunakan teknologi forensik digital.

Beban ini menuntut pelaburan dalam kemahiran baharu, perisian pengesanan AI dan prosedur semakan yang lebih ketat bagi memastikan laporan yang diterbitkan benar-benar sahih.

Bagi kerajaan, cabarannya ialah mengubal undang-undang yang mampu membendung penyalahgunaan deepfake tanpa menjejaskan kebebasan bersuara atau menghalang inovasi teknologi.

LITERASI

Pada masa yang sama, svarikat teknologi perlu bertanggungjawab membangunkan sistem pengesanan kandungan palsu, meletakkan penanda digital pada kandungan yang dijana AI dan bertindak pantas terhadap penyebaran bahan yang mengelirukan.

Namun, benteng paling penting tetap terletak pada masyarakat.

Literasi media dan literasi digital perlu menjadi kemahiran asas setiap warga.

Pengguna Internet harus membiasakan diri menyemak sumber, membandingkan maklumat daripada beberapa organisasi media yang dipercayai dan tidak tergesa-gesa berkongsi kandungan yang membangkitkan kemarahan atau ketakutan.

Hakikatnya, demokrasi bukan hanya bergantung kepada kebebasan bersuara, tetapi juga kepada kewujudan maklumat yang boleh dipercayai.

Deepfake menjadikan sempadan antara realiti dan rekaan semakin kabur. Jika masyarakat gagal menyesuaikan diri dengan cabaran ini, demokrasi berisiko berubah menjadi gelombang manipulasi digital, dengan persepsi mengatasi kenyataan dan emosi mengatasi fakta.

Dalam era AI, mempertahankan integriti maklumat bukan lagi pilihan, tetapi satu keperluan untuk memastikan demokrasi terus berfungsi dengan berkesan.