RadarBangkalan.id - Perkembangan kecerdasan buatan atau artificial intelligence (AI) generatif diprediksi akan semakin meriah pada tahun 2024.
Namun, di tengah momentum positif tersebut, muncul ancaman serius dalam bentuk penyalahgunaan teknologi ini.
Menurut informasi dari perusahaan keamanan siber terkemuka, Kaspersky, tren penggunaan AI generatif tidak hanya berpotensi memberikan dampak positif, tetapi juga dapat dimanfaatkan untuk tujuan berbahaya.
Kehebohan ini menciptakan peluang bagi penjahat siber untuk melakukan penipuan dengan lebih mudah.
Kaspersky menjelaskan bahwa hampir setiap orang kini dapat membuat teks, foto, dan video palsu dalam hitungan menit, suatu tindakan yang sebelumnya memerlukan waktu dan keterampilan yang signifikan.
Dampak negatifnya telah terasa di bidang keamanan siber, terutama dalam hal pembuatan umpan penipuan.
AI mempermudah para penjahat siber dalam menciptakan email phishing, postingan media sosial, dan situs web palsu.
Dalam keterangan resminya, Kaspersky menyebutkan bahwa sebelumnya penipuan semacam itu bisa diidentifikasi melalui bahasa yang ceroboh dan kesalahan ketik.
Namun, kini, dengan adanya WormGPT dan model bahasa lain yang dioptimalkan untuk kegiatan peretasan, penyerang dapat menciptakan umpan penipuan yang jauh lebih meyakinkan dan bervariasi dalam skala industri.
Untuk melindungi diri dari potensi penyalahgunaan AI untuk penipuan, pengguna internet perlu memperhatikan beberapa langkah.
Selain itu, risiko lain yang timbul dari kemajuan teknologi AI adalah penyalahgunaan deepfake.
Teknologi ini, yang sebelumnya dikenal sebagai hiburan semata, kini juga digunakan dalam skema penipuan yang lebih canggih.
Seseorang yang mengaku sebagai tokoh penting, keluarga, rekan kerja, atau orang yang akrab dengan korban mungkin akan melakukan kontak untuk meminta bantuan atau membantu orang lain yang segera menghubungi korban.
Skema ini bertujuan untuk menipu korban agar dengan sukarela mengirimkan uang kepada penjahat.
Bahkan, skenario lebih kompleks dapat terjadi, seperti penargetan terhadap karyawan perusahaan untuk mendapatkan informasi rahasia.
Untuk mencegah menjadi korban penyalahgunaan deepfake dalam skema penipuan, diperlukan tindakan pencegahan yang lebih cermat.
Langkah-langkah ini melibatkan kesadaran terhadap potensi ancaman dan implementasi praktik keamanan yang lebih ketat.
Sebelumnya, Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria mengungkapkan bahwa pemerintah sedang mempersiapkan Peraturan Presiden (Perpres) untuk mengatur pemanfaatan kecerdasan buatan (AI).
Langkah ini diambil sebagai upaya meningkatkan ekosistem AI nasional dan memberikan landasan hukum yang lebih kuat dan komprehensif.
Nezar menyatakan harapannya bahwa peraturan AI yang mengikat secara hukum akan segera diterbitkan untuk memitigasi risiko AI dan mendukung pengembangan ekosistem AI lokal.
Langkah ini diambil setelah Kementerian Kominfo meluncurkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 tahun 2023 tentang Etika Kecerdasan Artifisial pada Desember 2023.
Meskipun tidak bersifat mengikat secara hukum, surat edaran tersebut menjadi panduan etika untuk pengembangan dan pemanfaatan AI, yang tetap tunduk pada peraturan yang berlaku, seperti Undang-Undang Informasi dan Transaksi Elektronik (ITE) dan Undang-Undang Pelindungan Data Pribadi (PDP).
"Melalui regulasi tersebut, kami berharap dapat memberikan kepastian hukum dalam pemanfaatan dan pengembangan AI, serta mendukung pengembangan ekosistem AI nasional," kata Menkominfo dalam konferensi pers di Jakarta.
Langkah-langkah seperti ini menjadi semakin penting untuk memastikan bahwa perkembangan teknologi AI dapat memberikan manfaat maksimal bagi masyarakat, sambil melindungi mereka dari potensi risiko dan penyalahgunaan. ***
Editor : Azril Arham