Deepfake belakangan jadi perbincangan karena dianggap cukup meresahkan. Hasil foto, audio, dan video yang digenerate oleh teknologi AI ini mampu mengecoh indera penglihatan atau pendengaran manusia. Akibatnya, banyak orang khawatir dengan potensi penyalahgunaan AI untuk menyebarkan informasi palsu atau memanipulasi opini publik. Penting bagi kita untuk memahami cara kerja teknologi canggih ini dan bagaimana mendeteksinya demi menjaga integritas informasi yang kita terima.
Bagaimana deepfake diciptakan?
Deepfake adalah rekaman komputer yang dilatih melalui gambar-gambar yang sudah ada dan tak terhitung jumlahnya, kata Cristina Lopez, Analis senior Graphika. Deepfake bekerja dengan berbagai cara, salah satunya menggunakan Generative Adversarial Network (GAN). GAN adalah sebuah framework machine learning yang terdiri dari dua jaringan saraf, yaitu generator dan diskriminator.
Generator bertugas untuk menciptakan gambar palsu yang seolah terlihat nyata. Sementara discriminator akan membedakan gambar asli dan palsu. GAN akan menebak seperti apa wujud seseorang dari berbagai sudut dan kondisi, lalu memindahkan orang tersebut ke orang lain dalam video target dengan menemukan ciri-ciri umum.
Penyalahgunaan deepfake
Sebuah teknologi apapun, jika jatuh ke tangan orang yang tidak tepat, maka akan dipakai untuk tujuan merugikan. Teknologi yang seharusnya membantu kehidupan sehari-hari bisa disalahgunakan untuk merusak reputasi, menyebarkan informasi palsu, atau bahkan menciptakan ancaman terhadap keamanan digital, privasi, dan integritas informasi. Oleh karena itu, penting untuk memastikan bahwa teknologi dipakai dengan penuh tanggung jawab dan dalam batasan etika yang tepat.
Bentuk penyalahgunaan teknologi deepfake diantaranya:
Penipuan dan pencurian identitas
Penipu akan membuat video atau audio palsu yang sangat meyakinkan, meniru wajah atau suara seseorang untuk menipu target mereka. Tujuannya untuk menyebarkan informasi palsu, mencuri identitas, bahkan memeras individu.
Penyebaran Informasi Palsu
Deepfake memungkinkan seseorang bisa membuat acara fiktif, juga melakukan wawancara yang menampilkan politisi, selebritas, atau orang berpengaruh lain. Sehingga, informasi hoax ini yang nantinya bisa merusak reputasi, dan mempengaruhi opini publik.
Penghancuran Privasi
Deepfake dapat melanggar hak asasi dan martabat manusia. Hal ini karena kemampuannya yang menyebarkan informasi salah atau atau kurang pantas. Dampaknya, kepercayaan masyarakat terhadap media dan sumber informasi yang sah akan berkurang.
Cara mendeteksi deepfake
Penyalahgunaan deepfake semakin meningkat seiring perkembangan teknologinya. Tak heran jika masyarakat cukup sulit untuk mendeteksinya. Mendeteksi deepfake bisa menjadi tantangan, meski begitu ada beberapa pertanyaan yang bisa kita jadikan sebagai indikatornya, seperti:
- Apakah detailnya tampak kabur atau tidak jelas? Cari masalah pada kulit atau rambut, atau wajah yang tampak lebih kabur daripada lingkungan tempat mereka berada. Fokusnya mungkin tampak lembut secara tidak wajar.
- Apakah pencahayaannya terlihat tidak natural? Sering kali, algoritma deepfake mempertahankan pencahayaan klip yang dipakai sebagai model untuk video palsu. Ini tidak sesuai dengan pencahayaan pada video target.
- Apakah kata-kata atau suara tidak sesuai dengan visual? Audio mungkin tidak sesuai dengan orangnya, terutama jika videonya palsu tetapi audio aslinya tidak dimanipulasi dengan hati-hati.
- Apakah sumbernya tampak dapat dipercaya? Metode ini sering dipakai oleh jurnalis dan peneliti sumber utama atau referensi dari sebuah gambar. Mulai dari siapa yang mengunggah gambarnya, dimana gambar diunggah, dan apakah masuk akal bagi mereka untuk melakukannya.
Langkah strategis untuk memitigasi penyalahgunaan deepfake
Berikut beberapa langkah strategis yang bisa kita dilakukan agar tak termakan foto palsu:
Durasi video
Bisa dibilang, ini jadi metode paling mudah untuk membedakan antara video asli dengan palsu. Sistem AI harus dilatih dalam jangka waktu lama untuk mengembangkan deepfake. Sehingga, sebagian besar video deepfake biasanya punya durasi singkat dan bersumber dari video media sosial.
Memeriksa inkonsistensi
Kita dapat memeriksa media yang dimanipulasi dengan mencari ketidakkonsistenan pada gambar atau video. Misalnya, bayangan mungkin hilang, tidak konsisten atau memiliki masalah pencahayaan.
Memeriksa metadata
Sebagian besar gambar dan video punya metadata, termasuk tanggal, waktu, dan lokasi foto. Melihat data ini untuk melihat apakah cocok dengan konten gambar dapat membantu menentukan keasliannya.
Menganalisis sumber media
Periksalah situs web untuk melihat apakah gambar tadi berasal dari sumber yang punya reputasi baik dan dapat dipercaya. Jika gambar berasal dari sumber yang tak dikenal atau tidak terverifikasi, maka kemungkinan besar dia palsu.
Menggunakan alat deteksi AI
Terakhir, kita perlu berinvestasi dalam teknologi AI dan perangkat lunak yang mampu mendeteksi deepfake secara akurat. Pemanfaatan tool seperti Forensically dan Izitru bisa dipakai untuk menganalisa gambar asli atau hasil karya manipulatif seseorang.
