Texas Information

ASA telah mengeluarkan a berkuasa tentang iklan untuk alat AI.

Iklan YouTube berbayar untuk PixVideo – AI Video Maker menampilkan gambar perbandingan “sebelum” dan “sesudah” yang berdampingan dari seorang wanita muda. Pada gambar “sebelum”, coretan merah dihamparkan di bagian tengah tubuh wanita tersebut dan tampaknya berasal dari kursor animasi. Pada gambar “sesudahnya”, area yang tadinya ditutupi coretan merah kini memperlihatkan kulit telanjang wanita tersebut, termasuk di bawah celana pendeknya. Teks di bagian bawah gambar menyatakan “Hapus apa pun [heart-eyes
emoji]”.

Delapan orang yang mengajukan pengaduan, yang percaya bahwa iklan tersebut bersifat seksual dan mengobjektifikasi perempuan, mempertanyakan apakah iklan tersebut tidak bertanggung jawab, menyinggung, dan berbahaya.

Perusahaan menjelaskan bahwa ketentuan penggunaan mereka melarang pembuatan konten telanjang atau eksplisit secara seksual dan mereka memiliki deteksi dan pemblokiran otomatis berbasis AI untuk mencegah pembuatan gambar terbuka atau eksplisit. Mereka juga mengatakan aplikasi tersebut tidak mendukung, dan tidak dirancang untuk memungkinkan, pelepasan pakaian atau pembuatan gambar telanjang. Namun, mereka menerima bahwa iklan tersebut tidak mencerminkan perlindungan atau pembatasan tersebut dan bahwa kata-kata serta visualnya berisiko menyiratkan penggunaan yang tidak mereka dukung atau izinkan, yang merupakan kegagalan dalam pelaksanaan dan pengawasan materi iklan.

Mereka mengatakan bahwa mereka telah menghapus iklan tersebut dan secara sukarela menangguhkan semua iklan di semua platform media untuk melakukan audit internal yang komprehensif dan memperbaiki materi pemasaran mereka, dan sejak itu tidak ada lagi iklan yang dilanjutkan. Selain mencabut iklan tersebut, mereka juga meningkatkan proses peninjauan dan persetujuan iklan, termasuk pedoman materi iklan yang lebih ketat, peninjauan internal yang ditingkatkan, dan pemeriksaan kepatuhan wajib untuk memastikan iklan di masa mendatang tidak menyiratkan, mendorong, atau menormalisasi penggambaran yang berbahaya, bersifat seksual, atau non-konsensual.

Meskipun ASA memahami bahwa aplikasi tersebut tidak mengizinkan pengguna membuat konten telanjang atau eksplisit secara seksual, namun ASA menganggap bahwa, dengan menyiratkan bahwa pemirsa dapat melepas pakaian wanita secara digital dan memperlihatkan tubuhnya, iklan tersebut menjadikan wanita tersebut sebagai objek seksual. Selain itu, karena iklan tersebut menyiratkan bahwa pemirsa dapat menggunakan aplikasi untuk melepas pakaian wanita, iklan tersebut menganggap bahwa iklan tersebut membenarkan pengubahan dan pemaparan tubuh wanita secara digital tanpa persetujuan mereka. Oleh karena itu, pengaduan tersebut dikabulkan.

Platform bertenaga AI yang menghasilkan video dan gambar adalah bidang yang menjadi perhatian semua regulator (dan pemerintah) Inggris, terutama ketika ada ruang bagi teknologi tersebut untuk digunakan dengan cara yang dapat menyebabkan kerugian serius atau meluasnya jabatan, dan ada kekhawatiran khusus mengenai penggunaan teknologi tersebut dengan cara yang dapat membuat atau mengadaptasi konten seksual, berdasarkan orang-orang nyata yang tidak menyetujui penggunaan tersebut. Kami telah menulis tentang rencana pemerintah untuk menjadikan alat AI sesuai dengan Undang-Undang Keamanan Online 2023.

Parlemen Eropa telah menyerukan a larangan alat nudifikasi sebagai bagian dari perubahan UU AI UE dalam proposal Omnibus Digital.

Secara umum, Anda perlu memastikan bahwa proses pemeriksaan dan persetujuan konten pemasaran Anda berjalan dengan baik, baik Anda menggunakan manusia dan/atau AI untuk menghasilkannya. Jika Anda memasarkan produk teknologi dan AI, kami dapat membantu memastikan Anda tidak membuat klaim apa pun yang dapat dianggap menyinggung atau tidak pantas.

Isi artikel ini dimaksudkan untuk memberikan panduan umum mengenai pokok bahasan. Nasihat spesialis harus dicari mengenai keadaan spesifik Anda.