SAN FRANCISCO: Ibu bapa kepada seorang remaja perempuan berusia 13 tahun telah memfailkan saman terhadap Google. Mereka mendakwa anak perempuan mereka telah merancang percubaan membunuh diri serta majlis pengebumiannya sendiri menggunakan teknologi kecerdasan buatan (AI) syarikat itu menerusi komputer milik sekolah.

Aduan yang difailkan di mahkamah California pada Isnin itu merupakan kes pertama yang diketahui menuduh Google cuai dalam pengintegrasian kecerdasan buatan (AI) pada Chromebook, iaitu komputer riba kos rendah keluaraga gergasi teknologi berkenaan yang diguna pakai oleh jutaan pelajar di Amerika Syarikat dan seluruh dunia.

Remaja berkenaan, yang dikenali dengan nama Emma, tidak dapat mengakses aplikasi Gemini milik Google mahupun ChatGPT milik OpenAI kerana ia telah disekat oleh pihak sekolahnya.

Namun begitu, dia masih boleh menggunakan enjin carian Google yang mengandungi aplikasi dikuasakan AI.

Ciri-ciri tersebut secara khususnya tidak termasuk dalam senarai alatan yang diumumkan oleh Google minggu ini yang bakal dinyahaktifkan secara tetapnya (default) untuk para pelajar.

“Pihak sekolah sepatutnya menutup fungsi carian dan membiarkannya ditutup sehingga Google membuang mod AI daripada carian atau memastikan setiap pelajar sentiasa selamat apabila berinteraksi dengan AI,” kata Andrew Liddell, salah seorang peguam keluarga tersebut, kepada AFP pada Khamis.

Aduan tersebut mendakwa bahawa Emma sebelum ini merupakan seorang budak perempuan berusia 13 tahun yang ceria di North Carolina, mendapat keputusan cemerlang dalam pelajaran, bermain muzik dan menyertai badan beruniform di sekolahnya.

Meskipun tidak mempunyai sebarang sejarah penyakit mental, dalam tempoh beberapa bulan selepas menggunakan carian berkuasa AI Google pada komputer riba sekolahnya, dia mula mengalami krisis psikologi yang teruk secara senyap menurut aduan tersebut.

Pada 17 Mac, perisian pemantauan sekolah telah mengesan dokumen bertajuk Majlis Pengebumian dan pihak sekolah telah memaklumkan kepada ibu bapanya.

Ibu beliau kemudiannya melihat Emma sedang menulis surat perpisahan secara masa nyata, selepas mengakses masuk ke akaun anak perempuannya. Ini menyebabkan bapa remaja itu bertindak masuk campur untuk menangani perkara itu.

“Kami sedang meneliti dakwaan dalam saman tersebut dan kami mengambil maklum perkara ini secara sangat serius,” kata jurucakap Google, Jose Castaneda, kepada AFP.-AFP