Karena AI dapat menciptakan ilusi, menghasilkan informasi yang tidak akurat atau bengkok, pengguna didorong untuk memeriksa dokumen referensi. Ternyata, ini juga bisa menyebabkan masalah. Menurut laporan dari Futurism hari Senin, ChatGPT dapat memberikan pengguna tautan ke situs web yang menyimpan perangkat lunak berbahaya.
Temuan ini dibuat saat pengujian pengetahuan ChatGPT tentang peristiwa terkini. Saat ditanya tentang William Goines, penerima Bronze Star dan anggota Navy SEAL Afrika Amerika pertama yang baru-baru ini meninggal dunia, Futurism melaporkan bahwa tanggapan ChatGPT mencakup tautan ke sebuah “situs web penipuan”.
Secara khusus, ChatGPT-4o menyarankan untuk mengakses situs web bernama "County Local News" untuk informasi lebih lanjut tentang Goines. Namun, situs web segera menghasilkan peringatan palsu yang, ketika diklik, akan menyebabkan infeksi perangkat lunak berbahaya pada komputer pengguna. Situs web serupa juga disarankan untuk topik lain.
Saat mencoba memeriksa Goines dengan pengingat yang diberikan oleh Futurism, tanggapan dari ChatGPT tidak termasuk tautan ke situs web mana pun.
Pengembang AI telah banyak berinvestasi dalam memerangi ilusi dan menggunakan chatbot untuk tujuan jahat, tetapi menyediakan tautan ke situs web lain akan menimbulkan risiko tambahan. Situs web yang terhubung mungkin sah dan aman ketika perusahaan AI mengumpulkan data, tetapi kemudian dapat terinfeksi atau direbut oleh penipu.
Menurut Jacob Kalvo, pendiri dan CEO dari penyedia data dan privasi Internet Live Proxy, tautan pengiriman harus diperiksa terus-menerus.
Kalvo berkata:
“Pengembang dapat memastikan penerapan mekanisme penyaringan yang tepat untuk mencegah chatbot memberikan tautan ke situs web berbahaya. Ini dapat ditambah dengan algoritma pemrosesan bahasa alami (NLP) canggih yang dapat melatih chatbot untuk mengidentifikasi URL berdasarkan pola URL berbahaya yang diketahui. Selain itu, tidak boleh dilupakan untuk mempertahankan daftar hitam situs web, yang terus diperbarui dan memantau ancaman baru”.
Kalvo juga merekomendasikan untuk memverifikasi tautan situs web, reputasi domain, dan memantau waktu nyata untuk mengidentifikasi dan menyelesaikan segala aktivitas yang mencurigakan dengan cepat. Kalvo mengatakan:
"Ini membawa kerja sama yang berkelanjutan dengan para ahli keamanan cyber untuk mengatasi ancaman baru saat muncul. Hanya melalui kecerdasan buatan dan kemampuan manusia, pengembang baru dapat menciptakan lingkungan yang jauh lebih aman bagi pengguna".
Kalvo juga menekankan pentingnya mengelola data pelatihan model AI dengan hati-hati untuk menghindari masuknya konten berbahaya, serta kebutuhan untuk melakukan pemeriksaan dan pembaruan secara teratur untuk menjaga integritas data.
Ketika dihubungi untuk laporan, OpenAI memberikan tanggapan yang serupa kepada Futurism, mengatakan bahwa mereka sedang bekerja dengan mitra penerbit berita untuk menggabungkan 'kemampuan percakapan dengan konten berita terbaru mereka, memastikan alokasi yang tepat' - tetapi fitur ini masih belum tersedia.
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
ChatGPT dapat membawa pengguna ke situs web berbahaya
Karena AI dapat menciptakan ilusi, menghasilkan informasi yang tidak akurat atau bengkok, pengguna didorong untuk memeriksa dokumen referensi. Ternyata, ini juga bisa menyebabkan masalah. Menurut laporan dari Futurism hari Senin, ChatGPT dapat memberikan pengguna tautan ke situs web yang menyimpan perangkat lunak berbahaya.
Temuan ini dibuat saat pengujian pengetahuan ChatGPT tentang peristiwa terkini. Saat ditanya tentang William Goines, penerima Bronze Star dan anggota Navy SEAL Afrika Amerika pertama yang baru-baru ini meninggal dunia, Futurism melaporkan bahwa tanggapan ChatGPT mencakup tautan ke sebuah “situs web penipuan”.
Secara khusus, ChatGPT-4o menyarankan untuk mengakses situs web bernama "County Local News" untuk informasi lebih lanjut tentang Goines. Namun, situs web segera menghasilkan peringatan palsu yang, ketika diklik, akan menyebabkan infeksi perangkat lunak berbahaya pada komputer pengguna. Situs web serupa juga disarankan untuk topik lain.
Saat mencoba memeriksa Goines dengan pengingat yang diberikan oleh Futurism, tanggapan dari ChatGPT tidak termasuk tautan ke situs web mana pun.
Pengembang AI telah banyak berinvestasi dalam memerangi ilusi dan menggunakan chatbot untuk tujuan jahat, tetapi menyediakan tautan ke situs web lain akan menimbulkan risiko tambahan. Situs web yang terhubung mungkin sah dan aman ketika perusahaan AI mengumpulkan data, tetapi kemudian dapat terinfeksi atau direbut oleh penipu.
Menurut Jacob Kalvo, pendiri dan CEO dari penyedia data dan privasi Internet Live Proxy, tautan pengiriman harus diperiksa terus-menerus.
Kalvo berkata:
“Pengembang dapat memastikan penerapan mekanisme penyaringan yang tepat untuk mencegah chatbot memberikan tautan ke situs web berbahaya. Ini dapat ditambah dengan algoritma pemrosesan bahasa alami (NLP) canggih yang dapat melatih chatbot untuk mengidentifikasi URL berdasarkan pola URL berbahaya yang diketahui. Selain itu, tidak boleh dilupakan untuk mempertahankan daftar hitam situs web, yang terus diperbarui dan memantau ancaman baru”.
Kalvo juga merekomendasikan untuk memverifikasi tautan situs web, reputasi domain, dan memantau waktu nyata untuk mengidentifikasi dan menyelesaikan segala aktivitas yang mencurigakan dengan cepat. Kalvo mengatakan:
"Ini membawa kerja sama yang berkelanjutan dengan para ahli keamanan cyber untuk mengatasi ancaman baru saat muncul. Hanya melalui kecerdasan buatan dan kemampuan manusia, pengembang baru dapat menciptakan lingkungan yang jauh lebih aman bagi pengguna".
Kalvo juga menekankan pentingnya mengelola data pelatihan model AI dengan hati-hati untuk menghindari masuknya konten berbahaya, serta kebutuhan untuk melakukan pemeriksaan dan pembaruan secara teratur untuk menjaga integritas data.
Ketika dihubungi untuk laporan, OpenAI memberikan tanggapan yang serupa kepada Futurism, mengatakan bahwa mereka sedang bekerja dengan mitra penerbit berita untuk menggabungkan 'kemampuan percakapan dengan konten berita terbaru mereka, memastikan alokasi yang tepat' - tetapi fitur ini masih belum tersedia.