Radarbangkalan.id – Kabar ini muncul hanya beberapa hari setelah isu serupa tentang AI yang digunakan untuk melepas pakaian di ponsel Huawei, menunjukkan bahwa masalah semacam itu tidak hanya terbatas pada satu merek perangkat saja.
Dilaporkan bahwa Apple mengambil tindakan setelah melihat beberapa aplikasi yang dipromosikan sebagai "generator seni" memanfaatkan platform-platform seperti Instagram dan situs dewasa untuk mengklaim kemampuan mereka dalam "menelanjangi gadis mana pun secara gratis." Ini menimbulkan keprihatinan besar karena aplikasi di App Store tersebut menggunakan teknologi AI untuk menghasilkan gambar-gambar palsu yang menampilkan individu yang seolah-olah telanjang, meskipun sebenarnya tidak.
Meskipun gambar-gambar yang dihasilkan oleh aplikasi tersebut tidak menunjukkan ketelanjangan yang sebenarnya, keberadaan mereka dapat membuka peluang bagi pelecehan, pemerasan, dan pelanggaran privasi.
Ini menyoroti potensi risiko yang terkait dengan penggunaan teknologi AI dalam konteks yang tidak diawasi dengan baik.
Baca Juga : Militer Korea Selatan Akan Keluarkan Kebijakan Larangan Penggunaan iPhone, Untuk Apa?
Tindakan Apple untuk menghapus aplikasi-aplikasi ini terjadi setelah 404 Media melaporkan keberadaan aplikasi dan iklan mereka.
Yang menarik perhatian adalah bahwa aplikasi-aplikasi semacam itu telah ada di App Store sejak tahun 2022, bahkan mengiklankan kemampuan "melepas pakaian" di situs-situs dewasa.
Laporan juga menunjukkan bahwa meskipun Apple awalnya memberikan kesempatan bagi pengembang untuk tetap di App Store dengan syarat menghapus iklan dari situs dewasa, salah satu aplikasi tetap menjalankan iklannya hingga tahun 2024, saat Google memutuskan untuk menariknya dari Play Store.
Baca Juga : 7 Hal yang Harus Diperhatikan saat Ingin Memperbaiki Sepatu yang rusak
Keputusan Apple untuk menghapus aplikasi-aplikasi ini dari App Store menunjukkan tanggapnya terhadap masalah tersebut, meskipun ada kekhawatiran akan sifat reaktif dari moderasi toko aplikasi.
Potensi bagi pengembang untuk mengeksploitasi celah seperti ini menunjukkan bahwa langkah-langkah yang lebih proaktif dan sistematis mungkin diperlukan untuk mengatasi masalah semacam ini di masa depan.
Baca Juga : Kebijakan Baru ! Militer Korea Selatan Larang Penggunaan iPhone, Ini Alasannya !
Peristiwa ini terjadi pada saat yang penting bagi Apple, mengingat mendekatnya Apple WWDC 2024, sebuah acara yang diharapkan membawa pengumuman besar-besaran tentang pengembangan AI untuk iOS 18 dan Siri.
Perusahaan ini telah membangun reputasi sebagai pionir dalam pengembangan AI yang bertanggung jawab, bahkan melakukan langkah-langkah seperti lisensi data pelatihan secara etis.
Namun, penundaan dalam menghapus aplikasi semacam ini berpotensi merusak citra yang hati-hati dibangun oleh Apple.
Hal ini menjadi kontras dengan situasi yang dihadapi oleh Google dan OpenAI, yang telah menghadapi tuntutan hukum terkait penggunaan konten berhak cipta untuk melatih sistem AI mereka.
Apple dapat melihat insiden ini sebagai peluang untuk menegaskan kembali komitmen mereka terhadap integritas dalam pengembangan teknologi AI. ***