BERITA mengenai Gemini, kecerdasan buatan (AI) keluaran Google beberapa hari yang lepas menarik perhatian saya.

Dalam ujian keselamatan siber yang dijalankan pada Mei, Gemini dilaporkan telah mencerobohi sistem komputer tiga syarikat.

Media antarabangsa melaporkan, ujian itu dijalankan oleh Irregular, sebuah syarikat penilai keselamatan bebas.

Menurut Google, Gemini menemui maklumat awam di Internet sebelum meneka butiran log masuk untuk mengakses laman, yang disangkakan sebahagian daripada skop ujian.

Bagi saya, perkara ini menarik kerana beberapa minggu yang lalu kami mula mendikuti mengikuti bengkel berkaitan AI.

Dalam satu bengkel, kami belajar berkenaan kewartawanan data dan analitik AI. Kami diajar cara data itu dikumpul, dibersihkan dan ditafsir sebelum digunakan untuk mengenal pasti trend dan pola, menghasilkan visualisasi serta menyediakan laporan berasaskan data.

Kami juga belajar tentang etika penggunaan data dan AI, antaranya, tidak memanipulasi data, memahami kemungkinan bias AI dan tidak menerima hasil yang diberikan AI tanpa membuat semakan.

Seterusnya, kami juga menghadiri bengkel khusus mengenai pengunaan AI dalam bilik berita.

Jadi apabila membaca berita mengenai Gemini ini, saya terfikir bahawa selama ini, kebanyakan kita menggunakan AI sebagai alat bantuan.

Kita masukkan arahan, AI memberikan jawapan. Begitu juga apabila kita meminta AI ini menulis serta menganalisis.

Namun demikian, perkembangan AI kini bergerak lebih jauh dalam Gemini. Dalam ujian tersebut, ia bukan sekadar memberikan cadangan, ia melakukan beberapa tindakan untuk mencapai sesuatu matlamat dan dalam satu daripada kes yang dilaporkan, model itu cuba mendapatkan kata laluan sehingga berjaya mengakses sistem yang dilindungi.

Dalam dua kes lain pula, Gemini turut menemui maklumat log masuk yang tersedia secara terbuka dalam ruang penyimpanan digital.

Oleh itu, persoalannya bukan lagi sekadar sama ada AI boleh menghasilkan jawapan yang baik. Tetapi persoalannya ialah apakah yang boleh dilakukan AI apabila ia diberikan akses untuk bertindak?

Perubahan ini penting kerana AI semakin digunakan bukan sahaja untuk menjawab soalan, tetapi juga melaksanakan tugasan dalam beberapa peringkat.

Dalam bilik berita, misalnya, AI boleh membantu wartawan dan editor menganalisis data dalam jumlah besar, mencari pola, menyusun maklumat dan menghasilkan visualisasi atau infografik. Ini sememangnya amat membantu.

Bayangkan jika kita perlu meneliti ribuan rekod untuk mencari perubahan atau trend tertentu. Tetapi dengan AI, ia boleh melakukan proses awal itu dengan lebih cepat.

Justeru, selepas mengikuti bengkel AI, saya berpendapat cepat itu tidak semestinya betul.

Seperti yang penceramah kami katakan, data itu perlu diperiksa. Begitu juga dengan sumber, ia harus disemak. Konteks juga perlu difaham serta menilai hasil AI sebelum digunakan.

Ini lebih penting dalam kewartawanan kerana kesilapan yang dilakukan bukan sekadar di skrin komputer, tetapi juga akan diterbitkan dan akhirnya dibaca oleh orang ramai.

Sekiranya AI tersalah membaca data, manusia perlu menyedarinya. Begitu juga jika AI memberi maklumat yang tidak lengkap, kita perlu mencari konteks yang tepat.

Selain itu, jika AI menghasilkan kesimpulan yang kelihatan meyakinkan tetapi sebenarnya salah, kita harus berani menolaknya. Ini bermakna kita tidak harus menerimanya secara bulat-bulat tetapi haruslah menyemak fakta tersebut terlebih dahulu.

Sebab itu bagi saya, belajar AI bukan bermaksud belajar cara untuk menyerahkan sebanyak mungkin kerja kepada mesin.

Kita perlu belajar menggunakan AI sebagai alat, tetapi keputusan akhir masih berada di tangan manusia.

Berbalik kepada isu Gemini, ini merupakan satu lagi cabaran yang dihadapi dunia moden ini.

AI boleh digunakan untuk membantu keselamatan siber tetapi pada masa sama, ia mempunyai kelemahan yang boleh menimbulkan risiko keselamatan.

Dalam kes Gemini, model itu sendiri menghentikan tindakannya selepas mengetahui bahawa sistem berkenaan berada di luar skop ujian, seperti yang dilaporkan media antarabangsa.

Namun, kejadian itu tetap menunjukkan betapa pentingnya kawalan dan ujian keselamatan apabila AI diberikan lebih banyak kebolehan untuk bertindak sendiri.

Kita mungkin akan melihat lebih banyak AI digunakan dalam pekerjaan selepas ini. Sama ada dalam kewartawanan, pendidikan, perubatan, perniagaan dan juga pelbagai bidang lain.

Perkembangan itu bukan sesuatu yang perlu ditolak. Sebaliknya, kita perlu belajar menggunakannya dengan betul.

Secara keseluruhannya, bengkel yang kami sertai itu memberi pembelajaran penting bahawa, kita tidak boleh hanya belajar perkara yang AI boleh buat. Tetapi kita juga perlu belajar perkara yang AI tidak patut buat.

Kerana semakin banyak kemampuan yang diberikan kepada AI, semakin besar tanggungjawab manusia untuk menetapkan batasnya.

AI boleh membantu manusia bekerja dengan lebih cepat, tetapi manusia perlu menentukan arah, memeriksa hasil dan bertanggungjawab terhadap keputusan yang dibuat.

Kita bukan sahaja perlu belajar perkara yang AI boleh lakukan, tetapi juga memahami batas penggunaannya.