OpenAI menghapus daftar tunggu untuk DALL-E 2, memungkinkan siapa saja untuk mendaftar

Beberapa bulan setelah meluncurkan DALL-E 2 sebagai bagian dari beta terbatas, OpenAI hari ini menghapus daftar tunggu untuk sistem penghasil gambar bertenaga AI, yang akan tetap dalam versi beta tetapi membiarkan siapa pun mendaftar dan mulai menggunakannya. Harga akan terbawa dari periode daftar tunggu, dengan pengguna pertama kali mendapatkan jumlah kredit terbatas yang dapat digunakan untuk menghasilkan atau mengedit gambar atau membuat variasi gambar yang ada.

"Lebih dari 1,5 juta pengguna sekarang secara aktif membuat lebih dari 2 juta gambar sehari dengan DALL-E — dari seniman dan direktur kreatif hingga penulis dan arsitek — dengan sekitar 100.000 pengguna berbagi kreasi dan umpan balik mereka di komunitas Discord kami," tulis OpenAI dalam sebuah posting blog. "Belajar dari penggunaan dunia nyata telah memungkinkan kami untuk meningkatkan sistem keselamatan kami,  memungkinkan ketersediaan yang lebih luas saat ini."

OpenAI belum membuat DALL-E 2 tersedia melalui API, meskipun perusahaan mencatat dalam posting blog bahwa seseorang sedang dalam pengujian. Merek seperti Stitch Fix, Nestlé dan Heinz telah menguji coba DALL-E 2 untuk kampanye iklan dan kasus penggunaan komersial lainnya, tetapi sejauh ini hanya dengan cara ad hoc.

Seperti yang telah kami tulis sebelumnya, siklus rilis konservatif OpenAI tampaknya dimaksudkan untuk menumbangkan kontroversi yang berkembang di sekitar Stable Diffusion Stability AI, sistem penghasil gambar yang dapat digunakan dalam format open source tanpa batasan apa pun. Kapal Difusi Stabil dengan mekanisme keselamatan opsional. Tetapi sistem ini telah digunakan oleh beberapa orang untuk membuat konten yang tidak menyenangkan, seperti kekerasan grafis dan deepfake selebriti nonkonsensual pornografi.

Ai Stabilitas — yang sudah menawarkan API Difusi Stabil, meskipun dengan pembatasan pada kategori konten tertentu — menjadi subjek surat penting baru-baru ini dari Perwakilan DPR A.S. Anna G. Eshoo (D-CA) kepada Penasihat Keamanan Nasional (NSA) dan Kantor Kebijakan Sains dan Teknologi (OSTP). Di dalamnya, dia mendesak NSA dan OSTP untuk mengatasi rilis "model AI yang tidak aman" yang "tidak memoderasi konten yang dibuat di platform mereka."

"Saya seorang advokat untuk mendemokratisasikan akses ke AI dan percaya kita seharusnya tidak mengizinkan mereka yang secara terbuka merilis model yang tidak aman ke internet untuk mendapatkan keuntungan dari kecerobohan mereka," tulis Eshoo. "Alat penggunaan ganda yang dapat menyebabkan bahaya di dunia nyata seperti generasi pornografi anak, informasi yang salah, dan disinformasi harus diatur dengan tepat."

Memang, saat mereka berbaris menuju di mana-mana, pertanyaan etis dan hukum yang tak terhitung jumlahnya mengelilingi sistem seperti DALL-E 2, Midjourney dan Stable Diffusion. Awal bulan ini, Getty Images melarang pengunggahan dan penjualan ilustrasi yang dihasilkan menggunakan DALL-E 2, Stable Diffusion, dan alat serupa lainnya, menyusul keputusan serupa oleh situs-situs termasuk Newgrounds, PurplePort dan FurAffinity. CEO Getty Images Craig Peters mengatakan kepada The Verge bahwa larangan itu didorong oleh kekhawatiran tentang "masalah hak yang tidak tertangani," karena kumpulan data pelatihan untuk sistem seperti DALL-E 2 berisi gambar berhak cipta yang diambil dari web.

Data pelatihan juga menghadirkan risiko privasi, seperti yang disoroti oleh laporan Ars Technica pekan lalu. Catatan medis pribadi — mungkin ribuan — adalah di antara banyak foto yang tersembunyi di dalam himpunan data yang digunakan untuk melatih Difusi Stabil, menurut tulisan itu. Menghapus catatan ini sangat sulit karena LAION bukanlah kumpulan file itu sendiri tetapi hanya sekumpulan URL yang mengarah ke gambar di web.

Sebagai tanggapan, teknolog seperti Mat Dryhurst dan Holly Herndon mempelopori upaya seperti Source+, sebuah standar yang bertujuan untuk memungkinkan orang melarang pekerjaan atau kemiripan mereka digunakan untuk tujuan pelatihan AI. Tetapi standar-standar ini — dan kemungkinan akan tetap — bersifat sukarela, membatasi dampak potensialnya.

OpenAI telah berulang kali mengklaim telah mengambil langkah-langkah untuk mengurangi masalah seputar DALL-E 2, termasuk menolak unggahan gambar yang berisi wajah realistis dan upaya untuk menciptakan kemiripan tokoh masyarakat, seperti tokoh politik dan selebriti terkemuka. Perusahaan juga mengatakan pihaknya melatih DALL-E 2 pada kumpulan data yang difilter untuk menghapus gambar yang berisi konten kekerasan, seksual, atau kebencian yang jelas. Dan OpenAI mengatakan pihaknya menggunakan campuran sistem pemantauan otomatis dan manusia untuk mencegah sistem menghasilkan konten yang melanggar persyaratan layanannya.

"Dalam beberapa bulan terakhir, kami telah membuat filter kami lebih kuat dalam menolak upaya untuk menghasilkan konten seksual, kekerasan, dan konten lain yang melanggar kebijakan konten kami, dan membangun teknik deteksi dan respons baru untuk menghentikan penyalahgunaan," tulis perusahaan dalam posting blog yang diterbitkan hari ini. "Menskalakan sistem sekuat dan serumit DALL-E secara bertanggung jawab — sambil mempelajari semua cara kreatif yang dapat digunakan dan disalahgunakan — telah memerlukan pendekatan penyebaran berulang."