Dengan perkembangan alat kecerdasan buatan (AI) yang mampu dengan cepat membuat gambar dan video yang dimodifikasi, menyebarkan gambar palsu untuk menyebarkan informasi politik yang salah menjelang pemilihan presiden AS menjadi lebih mudah dari sebelumnya. Solusi Midjourney untuk itu mungkin adalah dengan melarang gambar politik sama sekali, menurut laporan dari Bloomberg.

David Holz, CEO Midjourney, dilaporkan mengatakan kepada pengguna selama sesi obrolan di Discord bahwa perusahaan itu hampir melarang gambar seperti gambar Biden dan Trump dalam 12 bulan mendatang. “Saya tahu membuat gambar Trump itu menyenangkan – saya membuat gambar Trump,” katanya kepada pengguna yang hadir dalam sesi tersebut. “Namun, mungkin lebih baik untuk tidak melakukannya – lebih baik untuk sedikit mundur selama pemilihan ini. Kita akan lihat.”

Respons Midjourney terhadap Ancaman Deepfake

Sebelumnya, orang telah menggunakan AI perusahaan tersebut untuk menghasilkan deepfake Trump yang ditangkap. Perusahaan itu mengakhiri uji coba gratis untuk generator gambar AI-nya setelah gambar-gambar itu — bersama dengan deepfake yang terkenal dari paus yang mengenakan mantel terinspirasi Balenciaga — menjadi viral.

Saat ini, perusahaan tersebut sudah memiliki aturan yang melarang pembuatan “figur publik yang menyesatkan” dan “penampilan acara” dengan “potensi untuk menyesatkan.” Meskipun begitu, Bloomberg masih dapat membuat gambar Trump yang dilumuri spageti menggunakan versi lama sistem Midjourney, sedangkan versi terbaru menolak untuk menghasilkan gambar yang dimodifikasi dari mantan Presiden tersebut.

Langkah Anti-Disinformasi Lainnya di Industri Teknologi

Tentu saja, meskipun Midjourney melarang gambar politisi terkenal, itu hanya akan melindungi platformnya dari kemarahan kritikus dan menjadi pusat perhatian musim pemilihan ini. Ini tidak akan mencegah penggunaan alat AI dalam kampanye disinformasi politik atau penyebaran informasi palsu yang dimaksudkan untuk memanipulasi pemilihan secara keseluruhan.

Perusahaan teknologi lain juga telah mengambil langkah-langkah untuk membantu mencegah disinformasi politik, atau setidaknya membantu membuatnya lebih mudah untuk diidentifikasi. ChatGPT segera akan mulai menandai gambar yang dibuat menggunakan DALL-E 3, sementara Meta sedang bekerja untuk mengembangkan teknologi yang dapat mendeteksi dan menandai apakah sebuah gambar, video, atau klip audio telah dibuat menggunakan AI.