Modulasi: Mengurangi toksisitas dalam game online berdampak positif pada kemenangan


Toksisitas adalah masalah serius yang diharapkan dapat diatasi oleh para pemain oleh studio game online. Peraturan hukum baru juga mengharuskan studio untuk berbuat lebih banyak untuk melindungi pemainnya atau akan menghadapi denda yang besar.

Meskipun jelas bahwa ada kebutuhan moral dan hukum yang semakin meningkat untuk melindungi pemain di platform online dari racun, hal ini juga merupakan hal yang benar untuk dilakukan studio dalam hal meningkatkan pendapatan game online.

Mike Pappas, CEO dan salah satu pendiri Modulate, mengatakan: PermainanIndustri.biz bagaimana alat moderasi suara yang didukung AI, ToxMod, tidak hanya merupakan cara yang paling efisien untuk memerangi toksisitas, namun juga bahwa “moderasi konten yang efektif membantu menciptakan lingkungan permainan yang positif dan aman yang secara langsung meningkatkan pengalaman bermain game – dan retensi pemain.”

Lingkungan yang positif dan aman akan mendorong pengeluaran yang lebih tinggi

Ketika game layanan langsung bergantung pada basis pengguna yang menghabiskan uang di platform, memastikan bahwa Anda tidak kehilangan pelanggan karena churn, yang jika dibiarkan, dapat mengakibatkan keracunan. Ini juga bisa diterapkan di dunia nyata; Pelanggan kemungkinan besar tidak akan kembali ke tempat usaha yang tampak tidak aman dan tidak ramah, dan reputasinya dapat semakin menghalangi calon pelanggan baru.

“Di UE, Undang-Undang Layanan Digital dapat mengenakan denda hingga 6% dari omzet global tahunan suatu perusahaan karena gagal menerapkan kebijakan keamanan pengguna.”

“Jika saya memiliki pengalaman buruk, kemungkinan besar saya akan melakukan churn kecuali platform tersebut secara proaktif menunjukkan komitmennya untuk memperbaiki masalah,” kata Pappas. “Pemain yang mengalami atau mengamati toksisitas tidak hanya lebih mungkin untuk melakukan churn, namun bahkan mereka yang tetap bertahan pun mungkin akan kecewa dan berhenti mengirimkan laporan pengguna, sehingga semakin memperburuk masalah toksisitas.”

Namun meskipun sebuah studio game mungkin tidak melihat perlunya mengatasi toksisitas jika judulnya begitu populer dan menarik sehingga para pemain tetap menggunakannya, survei dari Take This menunjukkan bahwa 61% gamer melakukan hal tersebut karena alasan ini dan memutuskan untuk mengeluarkan lebih sedikit uang untuk membeli game tersebut. game telah mengalami ujaran kebencian atau pelecehan. Lagi pula, mengapa Anda menghabiskan uang di lingkungan yang membuat Anda merasa buruk?

“Dulu ada mitos berbahaya bahwa pelaku racun dan ‘paus’ adalah satu dan sama, dan itu adalah ‘pembenaran’ untuk tidak mengatasi racun,” jelas Pappas. Ia merujuk pada penelitian yang dilakukan oleh Dr. Constance Steinkuehler pada tahun 2023, yang menunjukkan bahwa rata-rata pengeluaran bulanan dalam game pemain untuk judul-judul beracun adalah $12,09, tetapi meningkat dua kali lipat menjadi $21,10 untuk judul-judul serupa dengan komunitas yang lebih aman dan inklusif.

Biaya hukum dari toksisitas

Meskipun moderasi konten dalam skala besar mungkin terasa sulit dan mahal, namun dampaknya lebih besar jika kita tidak melakukan apa-apa, terutama mengingat semakin besarnya perhatian publik terhadap ruang digital di mana keamanan menjadi perhatian internasional.

“Gambaran seorang gamer yang sedang marah dan berteriak-teriak di headset sambil memainkan game FPS online sering kali muncul di benak kita ketika kita berbicara tentang toksisitas dalam game, namun moderasi konten dapat dan harus melampaui gambaran sempit tentang toksisitas tersebut,” kata Pappas.

Mike Pappas, CEO Modulasi

“Gamer muda sangat rentan terhadap bentuk-bentuk kekerasan yang lebih serius seperti ajakan seksual dan hasutan untuk melakukan kekerasan – yang untungnya cukup jarang terjadi, namun cukup merugikan sehingga bahkan satu kasus pun telah menyebabkan anggota parlemen di seluruh dunia memperketat peraturan “untuk mewajibkan platform untuk melakukan tindakan kekerasan.” secara proaktif memitigasi risiko ini.”

Sebuah rancangan undang-undang bipartisan di Kongres AS bertujuan untuk mewajibkan platform mengambil “langkah-langkah yang tepat” untuk melindungi anak-anak dari penindasan, pelecehan, dan perlakuan kasar, sementara negara-negara seperti Singapura dan India telah mengesahkan undang-undang internet yang ketat yang menerapkan sanksi ketat pada platform yang menerapkan kewajiban untuk peduli.

Kegagalan untuk mematuhi juga dapat mengakibatkan sanksi keuangan. “Di UE, Undang-Undang Layanan Digital dapat mengenakan denda hingga 6% dari omzet global tahunan perusahaan karena gagal menerapkan dan melaporkan kebijakan dan prosedur keselamatan pengguna, dan Undang-Undang Keamanan Online di Inggris dapat mengenakan denda hingga 10% – yaitu hukuman yang sangat besar bagi perusahaan dari semua ukuran,” kata Pappas.

Faktanya, konsekuensi ini sudah terjadi pada awal tahun 2022, ketika Epic Games membayar $275 juta dalam penyelesaian dengan Fair Trade Commission (FTC) atas tuduhan pelanggaran Peraturan Perlindungan Privasi Online Anak-Anak (COPPA) AS melalui penyalahgunaan data pribadi anak-anak. , tetapi juga sebagian disebabkan oleh kurangnya langkah-langkah keamanan bagi anak di bawah umur.

ToxMod: bukan penggerak biaya, namun penggerak pendapatan

Sangat mudah untuk melihat moderasi konten hanya sebagai biaya menjalankan bisnis dalam game layanan langsung. Meskipun terdapat biaya di muka untuk penerapan ToxMod, tidak hanya biayanya lebih murah dibandingkan risiko pelanggaran peraturan dan denda, namun Pappas menjelaskan bahwa biaya ini akan lebih dari cukup untuk menutupi peningkatan pendapatan.

Mari kita ambil contoh studio hipotetis dengan sekitar satu juta pengguna aktif bulanan (MAU). Meskipun biaya ToxMod bergantung pada seberapa sering pemain menggunakan obrolan suara, bahkan dengan $10.000 per bulan, hal ini dapat memberikan keuntungan finansial yang jelas. Hal ini karena studio memperkirakan sekitar 40% dari satu juta MAU tersebut akan terpapar racun setiap bulannya, dengan sekitar 10-12% (setidaknya 100.000 pemain) melakukan churn setiap bulannya.

“Jika masing-masing pengguna bulanan tersebut menghasilkan $1 per bulan, maka itu berarti kerugian sebesar $100.000 per bulan,” kata Pappas. Namun dengan penerapan ToxMod, mencegah churn ini berarti mendapatkan pengembalian $100.000 per bulan, sepuluh kali lipat biaya penerapannya.

Untuk satu judul, Modulate menggunakan ToxMod untuk melacak jumlah pemain aktif dalam game setelah beberapa minggu. Hanya dalam waktu tiga hari, terjadi peningkatan sebesar 6,3% pemain aktif, sedangkan pada hari ke 21 meningkat menjadi 27,9% lebih banyak pemain aktif.

“Dampak toksisitas jauh melebihi biaya moderasi konten.”

Mengingat penelitian menunjukkan peningkatan belanja pengguna di area yang lebih positif, hal ini berpotensi berarti bahwa peningkatan pemain aktif juga cenderung menghabiskan lebih banyak uang untuk pembelian dalam aplikasi, sehingga semakin meningkatkan keuntungan studio.

Hal ini sebelum mempertimbangkan bagaimana teknologi suara asli ToxMod juga mengurangi beban mental tim moderasi. “Kami mengembangkan ToxMod untuk membantu menyaring tumpukan jerami dan mengidentifikasi kerusakan terburuk dan paling mendesak,” jelas Pappas. “Hal ini memungkinkan fasilitator untuk memprioritaskan di mana mereka dapat memberikan dampak terbesar – dan pada gilirannya mencapai dampak yang jauh lebih besar per jam, sehingga mengurangi tekanan dalam balapan dari satu situasi buruk ke situasi berikutnya.”

Dengan meminimalkan waktu yang diperlukan untuk mendengarkan audio berbahaya, moderator yang menggunakan ToxMod mampu mengurangi kerusakan lima hingga sepuluh kali lebih banyak dibandingkan moderator yang melalui proses peninjauan audio manual yang melelahkan. Meskipun ToxMod menggunakan pembelajaran mesin dan telah dilatih selama puluhan juta jam obrolan suara khusus game, Pappas juga menekankan bahwa ini adalah alat yang dirancang untuk bekerja dengan tim moderasi studio. “Moderator Anda dapat meninjau rekomendasi ToxMod dan selalu mengambil keputusan akhir atas tindakan apa pun yang diambil terhadap pengguna akhir mereka.”

Ia menyimpulkan: “Mengingat penghapusan toksisitas umumnya menghasilkan liputan media yang positif dan sentimen konsumen yang positif; Dikombinasikan dengan meningkatnya kepercayaan di antara para pemain karena tindakan yang lebih tegas terhadap pelanggar, hal ini menjadi jelas: dampak toksisitas jauh lebih besar daripada biaya moderasi konten.”