PengetahuanTeknologi

Penipuan Gaya Baru Meluas di Instagram-Facebook: Cara Mengidentifikasi No ratings yet.

Banyak penipuan bermunculan. Pelajari langkah-langkah mengenali konten palsu yang dibuat oleh kecerdasan buatan (AI) di platform Instagram, Facebook, dan Threads.

Meta telah mulai menemukan dan menandai gambar deepfake yang dihasilkan oleh AI di Instagram, Facebook, dan Threads. Deepfake adalah konten AI yang menyerupai foto, video, dan suara asli dengan sangat sulit dibedakan. Kini, pembuatan deepfake semakin mudah berkat platform teknologi AI generatif yang tersedia.

Nick Clegg, Presiden Urusan Global di Meta, mengumumkan kebijakan baru untuk mengawasi dan memberi label pada konten yang dibuat menggunakan teknologi AI, baik itu di platform Meta maupun platform lainnya di luar Meta.

Konten yang dihasilkan oleh AI dapat dikenali melalui “cap” tak terlihat yang tertanam dalam file gambar. Jika cap tersebut terdeteksi, Meta akan memberikan label khusus pada konten yang diunggah ke Facebook, Instagram, dan Threads.

Saat ini, kebijakan dan fitur pemantauan AI telah diterapkan untuk konten yang dibuat menggunakan teknologi Meta. Dalam beberapa bulan ke depan, sistem serupa akan diterapkan untuk konten yang dihasilkan oleh platform lain seperti OpenAI, Midjourney, Shutterstock, dan Google.

Menurut Reuters, langkah yang diambil oleh Meta menunjukkan arah kebijakan media sosial dan internet dalam menanggapi dampak negatif dari peredaran konten palsu yang dihasilkan oleh AI.

Langkah serupa telah diterapkan dalam 10 tahun terakhir untuk menghapus konten ilegal, seperti konten yang mengandung kekerasan dan eksploitasi terhadap anak.

Clegg percaya bahwa sistem Meta dapat mengenali setiap gambar yang dihasilkan oleh AI yang diunggah ke platform mereka. Namun, Meta masih terus mengembangkan sistem serupa untuk mengenali video dan audio yang dihasilkan oleh AI.

“Meskipun teknologi ini masih baru, terutama untuk audio dan video, kami berharap langkah ini akan menciptakan momentum dan insentif bagi pelaku industri lainnya,” katanya kepada Reuters.

Sampai sistem identifikasi mencapai tingkat kesempurnaan, Meta akan meminta pengguna Instagram dan Facebook untuk memberikan label pada konten audio dan video yang dihasilkan oleh AI. Pelanggaran terhadap kebijakan ini akan dikenai sanksi.

Salah satu jenis konten AI yang belum dapat diidentifikasi menggunakan teknologi adalah teks yang dihasilkan oleh AI, seperti yang dihasilkan oleh ChatGPT. “Itu sudah terjadi,” kata Clegg.

Meta belum memberikan pernyataan resmi mengenai rencana mereka terkait konten AI yang tersebar di WhatsApp.

Penipuan Deepfake

Penggunaan deepfake untuk penipuan online semakin meningkat. Seorang pekerja keuangan di sebuah perusahaan multinasional menjadi korban penipuan senilai US$25 juta (Rp 392,97 miliar) menggunakan teknologi deepfake.

Menurut kepolisian Hong Kong, penipu menyamar sebagai kepala keuangan perusahaan dalam panggilan konferensi video menggunakan deepfake.

Korban ditipu dengan diundang ke panggilan video yang seharusnya dihadiri oleh beberapa anggota staf lainnya. Namun, ternyata semuanya hanyalah rekayasa palsu, demikian kata kepolisian Hong Kong, seperti yang dilaporkan oleh CNN International pada Senin (5/2/2024).

“Semua orang yang hadir dalam konferensi video tersebut ternyata palsu,” kata pengawas senior Baron Chan Shun-ching kepada stasiun penyiaran publik RTHK.

Chan menjelaskan bahwa pekerja tersebut mulanya curiga setelah menerima pesan dari kepala keuangan perusahaan yang berbasis di Inggris. Awalnya, pekerja tersebut mengira itu adalah email phishing karena berisi permintaan transaksi rahasia.

Namun, keraguan tersebut lenyap setelah panggilan video tersebut berlangsung. Menurut Chan, orang-orang yang terlihat dan terdengar dalam panggilan tersebut tampak seperti rekan kerja yang dikenal oleh pekerja tersebut.

Sehingga, pekerja tersebut setuju untuk mentransfer total US$200 juta dolar Hong Kong atau sekitar Rp 392,97 miliar.

Kasus ini hanya salah satu dari banyak kasus penipuan yang melibatkan teknologi deepfake. Dalam konferensi pers pekan lalu, kepolisian Hong Kong mengumumkan telah melakukan enam penangkapan terkait penipuan ini.

Please rate this

Leave a Reply

Your email address will not be published. Required fields are marked *