Taylor Swift baru-baru ini menjadi korban terbaru deepfake, di mana penipu menggunakan tiruan suaranya untuk melakukan penipuan giveaway Le Creuset. Kabar ini mencuat setelah serangkaian posting muncul di TikTok dan di Meta’s Ad Library, mengklaim bahwa Swift menawarkan paket peralatan masak Le Creuset secara gratis.

Deepfake Suara dan Penipuan Online

Dalam iklan tersebut, terdapat klip yang memperlihatkan Swift berada di dekat produk Le Creuset dan menggunakan versi sintetis suaranya. Penipu menggunakan kecerdasan buatan (AI) untuk membuat suara tiruan dan mengajak para penggemar Swift, yang dikenal sebagai “Swifties,” serta memberikan berbagai komentar palsu.

Jejak Penipuan ke Situs Palsu

Posting ini mengarahkan pihak yang tertarik ke versi palsu situs seperti The Food Network, dengan artikel dan testimoni palsu tentang Le Creuset. Pembeli kemudian diminta untuk membayar biaya pengiriman sebesar $9,96 untuk mendapatkan produk gratis. Tentu saja, tidak ada panci Le Creuset yang tiba, dan pelanggan malah mendapati tambahan biaya bulanan pada kartu kredit mereka. Le Creuset sendiri telah mengonfirmasi bahwa tidak ada giveaway semacam itu.

Kasus Serupa dengan Selebriti Lain

Taylor Swift bukanlah satu-satunya selebriti yang suaranya diambil menggunakan AI. Bahkan, dalam skandal ini, desainer interior Joanna Gaines juga menjadi korban dengan tiruan suaranya muncul dalam iklan dari akun yang diverifikasi atau yang dicap sebagai posting yang disponsori.

Tantangan Regulasi untuk Deepfake

Sayangnya, belum banyak regulasi yang ada untuk memantau atau menghukum pembuat deepfake. Tanggung jawab utamanya jatuh pada platform-platform online, seperti YouTube, yang baru-baru ini mengambil langkah-langkah baru dalam melaporkan deepfake. Namun, di sisi lain, beberapa platform juga bekerja sama dengan musisi tertentu untuk meminjamkan suara mereka, menciptakan minat lebih besar pada versi AI dari tokoh nyata.

Upaya Regulasi yang Belum Pasti

Meskipun ada dua rancangan undang-undang yang diperkenalkan di Kongres pada tahun sebelumnya, yakni No Fakes Act dan Deepfakes Accountability Act, nasib kedua undang-undang tersebut masih tidak pasti. Saat ini, hanya beberapa negara bagian, seperti California dan Florida, yang memiliki regulasi terkait kecerdasan buatan (AI).