OpenAI mulai mengizinkan pengguna untuk mengedit wajah dengan DALL-E 2

Setelah awalnya menonaktifkan kemampuan tersebut, OpenAI hari ini mengumumkan bahwa pelanggan dengan akses ke DALL-E 2 dapat mengunggah wajah orang untuk mengeditnya menggunakan sistem penghasil gambar bertenaga AI. Sebelumnya, OpenAI hanya mengizinkan pengguna untuk bekerja dengan dan berbagi wajah fotorealistik dan melarang pengunggahan foto apa pun yang mungkin menggambarkan orang sungguhan, termasuk foto selebriti dan tokoh masyarakat terkemuka.

OpenAI mengklaim bahwa peningkatan pada sistem keamanannya memungkinkan fitur pengeditan wajah dengan "meminimalkan potensi bahaya" dari deepfake serta upaya untuk membuat konten seksual, politik, dan kekerasan. Dalam email kepada pelanggan, perusahaan menulis:

Banyak dari Anda telah memberi tahu kami bahwa Anda rindu menggunakan DALL-E untuk memimpikan pakaian dan gaya rambut pada diri Anda sendiri dan mengedit latar belakang foto keluarga. Seorang ahli bedah rekonstruksi memberi tahu kami bahwa dia telah menggunakan DALL-E untuk membantu pasiennya memvisualisasikan hasil. Dan pembuat film telah memberi tahu kami bahwa mereka ingin dapat mengedit gambar adegan dengan orang-orang untuk membantu mempercepat proses kreatif mereka ... [Kami] membangun teknik deteksi dan respons baru untuk menghentikan penyalahgunaan.

Perubahan kebijakan tidak selalu membuka pintu air. Persyaratan layanan OpenAI akan terus melarang pengunggahan gambar orang tanpa persetujuan atau gambar yang tidak berhak dimiliki pengguna — meskipun tidak jelas seberapa konsisten perusahaan secara historis tentang menegakkan kebijakan tersebut.

Bagaimanapun, ini akan menjadi ujian sebenarnya dari teknologi penyaringan OpenAI, yang beberapa pelanggan di masa lalu mengeluh karena terlalu bersemangat dan agak tidak akurat. Deepfakes hadir dalam banyak rasa, mulai dari foto liburan palsu hingga presiden negara-negara yang dilanda perang. Akuntansi untuk setiap bentuk pelecehan yang muncul akan menjadi pertempuran yang tidak pernah berakhir, dalam beberapa kasus dengan taruhan yang sangat tinggi.

Tidak diragukan lagi, OpenAI — yang mendapat dukungan dari Microsoft dan perusahaan VC terkenal termasuk Khosla Ventures — sangat ingin menghindari kontroversi yang terkait dengan Stable Diffusion Dari Stability AI, sistem penghasil gambar yang tersedia dalam format open source tanpa batasan apa pun. Seperti yang baru-baru ini ditulis TechCrunch, tidak butuh waktu lama sebelum Stable Diffusion — yang juga dapat mengedit gambar wajah — digunakan oleh beberapa orang untuk membuat deepfakesual nonkonsensual pornografi dari selebriti seperti Emma Watson.

Sejauh ini, OpenAI telah memposisikan dirinya sebagai alternatif yang ramah merek dan berkancing untuk Ai Stabilitas tanpa pegangan. Dan dengan kendala seputar fitur pengeditan wajah baru untuk DALL-E 2, perusahaan mempertahankan status quo.

DALL-E 2 tetap dalam versi beta khusus undangan. Pada akhir Agustus, OpenAI mengumumkan bahwa lebih dari satu juta orang menggunakan layanan ini.