Instagram sedang mengembangkan filter ketelanjangan untuk pesan langsung

Instagram sedang menguji cara baru untuk menyaring pesan telanjang yang tidak diminta yang dikirim melalui pesan langsung, mengkonfirmasi laporan perkembangan yang diposting oleh peneliti aplikasi Alessandro Paluzzi awal pekan ini. Gambar-gambar itu menunjukkan Instagram sedang mengerjakan teknologi yang akan menutupi foto-foto yang mungkin mengandung ketelanjangan tetapi mencatat bahwa perusahaan tidak akan dapat mengakses foto itu sendiri.

Perkembangan ini pertama kali dilaporkan oleh The Verge dan Instagram mengkonfirmasi fitur tersebut ke TechCrunch. Perusahaan mengatakan fitur tersebut sedang dalam tahap awal pengembangan dan belum mengujinya.

"Kami sedang mengembangkan serangkaian kontrol pengguna opsional untuk membantu orang melindungi diri dari DM yang tidak diinginkan, seperti foto yang berisi ketelanjangan," kata juru bicara Meta Liz Fernandez kepada TechCrunch. "Teknologi ini tidak memungkinkan Meta untuk melihat pesan pribadi siapa pun, juga tidak dibagikan kepada kami atau orang lain. Kami bekerja sama dengan para ahli untuk memastikan fitur-fitur baru ini menjaga privasi orang-orang sambil memberi mereka kendali atas pesan yang mereka terima," tambahnya.

Tangkapan layar dari fitur yang diposting oleh Paluzzi menunjukkan bahwa Instagram akan memproses semua gambar untuk fitur ini di perangkat, sehingga tidak ada yang dikirim ke servernya. Plus, Anda dapat memilih untuk melihat foto jika menurut Anda itu dari orang yang dipercaya. Ketika fitur ini diluncurkan secara luas, itu akan menjadi pengaturan opsional bagi pengguna yang ingin menyingkirkan pesan dengan foto telanjang.

Tahun lalu, Instagram meluncurkan kontrol DM untuk mengaktifkan filter berbasis kata kunci yang bekerja dengan kata, frasa, dan emoji yang kasar. Awal tahun ini, perusahaan memperkenalkan filter "Konten Sensitif" yang menjaga jenis konten tertentu — termasuk ketelanjangan dan kekerasan grafis — dari pengalaman pengguna.

Media sosial telah bergulat buruk dengan masalah foto telanjang yang tidak diminta. Sementara beberapa aplikasi seperti Bumble telah mencoba alat seperti pengaburan bertenaga AI untuk masalah ini, orang-orang seperti Twitter telah berjuang dengan menangkap materi pelecehan seksual anak (CSAM) dan ketelanjangan non-konsensual dalam skala besar.

Karena kurangnya langkah solid dari platform, anggota parlemen terpaksa melihat masalah ini dengan mata tegas. Misalnya, RUU Keamanan Online Inggris yang akan datang bertujuan untuk menjadikan cyber flashing sebagai kejahatan. Bulan lalu, California mengeluarkan aturan yang memungkinkan penerima materi grafis yang tidak diminta untuk menuntut pengirim. Texas mengesahkan undang-undang tentang cyber flashing pada tahun 2019, menghitungnya sebagai "pelanggaran ringan" dan menghasilkan denda hingga $500.