Facebook menambahkan 3.000 orang untuk menyaring konten kekerasan

Facebook mengatakan pada hari Rabu bahwa pihaknya mempekerjakan tambahan 3.000 staf untuk menghapus konten kekerasan seperti pembunuhan mengerikan dan kasus bunuh diri yang disiarkan di platform videonya.

Langkah tersebut meningkatkan upaya Facebook untuk menyaring konten di tengah meningkatnya kritik media sosial media karena mengizinkan platform tersebut digunakan untuk mempromosikan kekerasan dan aktivitas penuh kebencian.

“Jika kita akan membangun komunitas yang aman, kita perlu segera merespons,” kata kepala eksekutif Mark Zuckerberg di halaman Facebook-nya.

Pengumuman Zuckerberg datang seminggu setelah seorang pria Thailand berusia 20 tahun menyiarkan video langsung di platform media sosial terpopuler di dunia, menunjukkan bahwa dia membunuh bayi perempuannya sebelum melakukan bunuh diri.

Minggu sebelumnya, seorang pria AS yang dijuluki “Pembunuh Facebook” menembak dirinya sendiri sampai mati setelah tiga hari melakukan pemburuan nasional yang panik.

Pembunuhan dan sebuah video memicu kemarahan di seluruh dunia dan memeriksakan kembali semakin banyak video mengerikan yang diposting di media sosial.

Facebook menghapus rekaman beberapa jam setelah serangan tersebut. Zuckerberg mengakui bahwa jejaring sosial terbesar di dunia memiliki peran dalam membendung tren yang mengkhawatirkan.

“Kami berupaya membuat video ini lebih mudah untuk dilaporkan sehingga kami dapat segera melakukan tindakan yang benar – apakah itu merespons dengan cepat saat seseorang membutuhkan bantuan atau mencatatnya,” kata Zuckerberg.

3.000 rekrutan baru, yang ditambahkan pada tahun depan, akan meningkat dua pertiga dari ukuran tim operasi komunitas Facebook, yang saat ini berjumlah 4.500.
‘Kita bisa berbuat lebih baik’

“Kami telah melihat orang-orang menyakiti diri mereka sendiri dan orang lain di Facebook – baik yang tinggal atau di video yang diposkan kemudian,” kata Zuckerberg. “Ini memilukan, dan saya telah merenungkan bagaimana kita bisa berbuat lebih baik untuk komunitas kita.”

Peninjau tambahan akan “membantu kita menjadi lebih baik dalam menghapus hal-hal yang tidak diperbolehkan di Facebook seperti ucapan kebencian dan eksploitasi anak,” katanya.

“Dan kami akan tetap bekerja dengan kelompok masyarakat lokal dan penegakan hukum yang berada dalam posisi terbaik untuk membantu seseorang jika mereka membutuhkannya – entah karena mereka akan menyakiti diri mereka sendiri, atau karena mereka berada dalam bahaya dari orang lain. ”

Kritik mengatakan bahwa jaringan sosial terlalu lamban untuk bereaksi terhadap kekerasan online, dan mempertanyakan apakah Facebook Live – kawasan pengembangan strategis bagi perusahaan – harus dinonaktifkan, setelah beberapa kasus digunakan untuk menyiarkan perkosaan.

Zuckerberg mengatakan bahwa Facebook telah mengerjakan teknologi yang lebih baik yang dapat mengidentifikasi konten kekerasan atau tidak pantas – dan bahwa upaya untuk menyaring tindakan kekerasan tampaknya akan terbayar.

“Baru minggu lalu, kami mendapat laporan bahwa seseorang di Live sedang mempertimbangkan untuk bunuh diri,” katanya.

“Kami segera menghubungi petugas penegak hukum, dan mereka bisa mencegahnya menyakiti dirinya sendiri. Dalam kasus lain, kami tidak begitu beruntung.”

Tidak segera jelas bagaimana dan dimana Facebook akan memasang monitor baru.

Saat Facebook mendekati basis pengguna global dua miliar, Google telah bergulat dengan perannya sebagai platform untuk berbagi berita serta seruan untuk melakukan kekerasan dan propaganda politik.

Perusahaan tersebut bersikeras bahwa ini bukan “perusahaan media” yang mengelola konten yang dilihat oleh pengguna, namun telah menghadapi seruan untuk menyingkirkan “berita palsu” yang dapat mempengaruhi pemilihan dan juga “ucapan kebencian” yang dilarang di beberapa negara Eropa.

Bulan lalu, Facebook meningkatkan keamanannya untuk melawan upaya pemerintah dan pihak lainnya untuk menyebarkan informasi yang keliru atau memanipulasi diskusi karena alasan politik.

Facebook juga baru-baru ini mengeluarkan senjata baru dalam perang melawan “balas dendam” di jejaring sosial terkemuka serta layanan pesan Messenger dan Instagram.