Deep Palsu: Ancaman terhadap Demokrasi atau Sedikit Kesenangan?

By | January 23, 2020

Pemutaran media tidak didukung pada perangkat

Keterangan mediaTonton: Perangkat lunak palsu yang dalam ini dapat memetakan wajah selebriti kepada siapa pun

Profesor Hao Li dari University of Southern California mengatakan kepada BBC: "Kami sudah pada titik di mana kami tidak bisa membedakan antara palsu yang dalam dan yang asli."

"Aku takut."

Kami menyarankan apa yang ia maksudkan selama instalasi mendalam ilmuwan komputer di Forum Ekonomi Dunia Daboss.

Seperti alat palsu yang dalam lainnya, perangkat lunaknya membuat video yang dimanipulasi komputer [seringkali politisi atau selebriti] yang dirancang agar terlihat nyata.

Paling sering ini terkait dengan "pertukaran wajah", yang menyebabkan wajah seorang selebriti tumpang tindih dengan penampilan orang lain.

Ketika saya duduk, kamera memotret wajah saya dan memproyeksikannya di layar di depan saya. Kemudian fungsi saya dipetakan secara digital.

Keterangan gambar

Profesor Hao Li palsu palsu & # 39; berbahaya & # 39;

Mantan wajah aktor Leonardo DiCaprio, mantan Perdana Menteri Inggris Teresa May dan pemain sepak bola Leonel Messi ditumpangkan secara real time pada gambar wajah saya.

Efeknya lebih lucu daripada mengesankan tetapi tidak menyenangkan tetapi dapat membingungkan beberapa pemirsa. Tetapi ketika saya menunjukkan video yang dalam bahwa profesor belum merilis, saya sepenuhnya mengerti apa maksudnya.

Para pemimpin dunia terkenal memberikan pidato dan tidak mungkin untuk membedakannya dari yang asli.

"Kita harus memikirkan potensi penyalahgunaan dan kebocoran informasi yang kita lihat sebagai tipe ini," kata Li.

Deep Fake fokus pada mengubah atau memanipulasi wajah selebritas hanya setelah video yang terkenal mulai muncul di Internet pada tahun 2017.

Hak cipta gambar
Hao Li

Keterangan gambar

Alec Baldwin berpura-pura menjadi Presiden Trump: Alec Baldwin yang asli ada di sebelah kiri.

Beberapa di antaranya adalah orang-orang yang mengirim tokoh-tokoh terkenal yang dikenal oleh Impresionis atau pelawak. Namun dalam sebagian besar kasus, wajah orang-orang terkenal tumpang tindih dengan wajah bintang porno.

Sejak itu, teknologi yang mengandalkan algoritma pembelajaran mesin yang kompleks telah berkembang pesat, dan pemalsuan yang dalam menjadi lebih umum. Beberapa, seperti video dokter yang dirancang untuk membuat DPR AS Nancy Pelosi tampak tidak konsisten, digunakan sebagai "berita palsu."

Untuk penipuan online, yang lain telah dikutip. Facebook melarang mereka di platform karena takut bahwa mereka dapat digunakan untuk memanipulasi orang.

Perangkat lunak Profesor Li sendiri tidak dirancang untuk menipu orang dan akan dijual secara eksklusif untuk bisnis, katanya. Tetapi dia percaya bahwa teknologi palsu yang dalam bisa jatuh ke tangan yang salah dan demokrasi yang berbahaya bisa jatuh sakit.

"Risiko pertama adalah bahwa orang sudah menggunakan fakta bahwa ada palsu yang mendalam agar tidak mempercayai bukti video yang sebenarnya. Bahkan jika ada adegan yang Anda lakukan atau katakan sesuatu, Anda bisa mengatakan itu palsu dalam, jika tidak Sangat sulit dilakukan. "

Hak cipta gambar
Gambar kecil

Keterangan gambar

Deepfake Tech menggunakan ribuan gambar foto.

Politisi di seluruh dunia sudah dituduh menggunakan skema ini, yang disebut Joao Doria, gubernur Sao Paulo, Brasil. Seorang politisi yang sudah menikah pada tahun 2018 mengklaim bahwa video yang menunjukkan kepadanya dalam pesta seks adalah suatu kebohongan yang dalam dan tidak ada yang bisa menyimpulkan bahwa itu bukan video yang benar.

Tetapi Prof Li mengatakan ancaman yang lebih besar adalah kemungkinan palsu yang mendalam digunakan dalam kampanye informasi politik. "Bayangkan apa yang akan terjadi jika kamu menambahkan palsu yang dalam ke dalam campuranmu karena pemilihan sudah dipalsukan."

Klip seperti Pelosi Ms tidak sulit ditemukan dengan palsu. Tapi dia melakukannya dengan halus, mengatakan bahwa orang bisa berbicara dengan mulut politisi dan tidak ada yang tahu.

"Di negara-negara berkembang di mana literasi digital terbatas, itu bahkan bisa lebih berbahaya. Ini benar-benar dapat mempengaruhi cara masyarakat bereaksi. Ia bahkan dapat menyebarkan hal-hal yang membunuh orang."

Namun, beberapa perusahaan seperti Deeptrace, perusahaan keamanan cyber Belanda yang melacak teknologi, merasa bahwa kepanikan untuk kepalsuan yang berlebihan itu berlebihan.

Giorgio Patrini, sutradara, mengatakan relatif mudah untuk menyingkirkan kepalsuan yang meyakinkan ketika orang yang Anda tiru adalah seseorang yang tidak Anda kenal. Tetapi jauh lebih sulit jika mereka adalah politisi atau selebritas yang terbiasa dengan jutaan. "Orang-orang sangat terbiasa dengan suara dan ekspresi wajah mereka," katanya kepada BBC.

"Kamu juga harus berpura-pura menjadi suara mereka dan membiarkan mereka mengatakan apa yang bisa kamu percayai. Itu akan membatasi apa yang bisa kamu lakukan."

Hari gelap & # 39;

Ia juga mengatakan bahwa alat palsu yang paling canggih dan berbahaya tersedia secara gratis di sumber terbuka internet, tetapi masih membutuhkan keahlian. "Saya tidak bisa mengatakan bahwa itu lebih dikomersialkan dan tidak dapat diakses, tetapi saya tidak berpikir itu akan terjadi secepat itu. Saya pikir itu akan memakan waktu bertahun-tahun."

Namun demikian, Patrini percaya bahwa pemalsuan mendalam yang tidak dapat dibedakan pada akhirnya akan menjadi hal biasa dan dapat digunakan sebagai senjata politik yang serius.

Pada bulan Desember, Facebook dilaporkan menghapus jaringan lebih dari 900 akun palsu dari platform, menggunakan praktik menipu untuk mendorong ideologi sayap kanannya online.

Secara khusus, akun tersebut menggunakan gambar profil palsu dari wajah palsu yang dibuat menggunakan kecerdasan buatan.

Profesor Li dan Deeptrace sama-sama membangun alat deteksi mendalam, tetapi mengakui bahwa penjahat cyber tanpa lelah berusaha untuk bekerja.

Namun Patrini optimis. "Bahkan jika orang yang serius adalah orang yang sangat canggih, dia tidak akan tahu bedanya, tetapi dia akan dapat membuat alat yang lebih canggih dan menemukannya. Ini seperti perangkat lunak anti-virus. Itu akan terus diperbarui dan ditingkatkan."

Leave a Reply

Your email address will not be published. Required fields are marked *