Sosyal medya söz konusu olduğunda, bağlantı kurmanın sağladığı pek çok faydaya ek olarak, hepimiz biliyoruz ki daha kolay olsa da, özellikle gençler için çevrimiçi etkileşimin beraberinde getirdiği belirli riskler ve tehlikeler olabilir. Neyse ki proaktif davranan ve uygun denetleme teknolojilerini uygulayarak genç insanlara gelebilecek bu zararları sınırlamaya çalışan uygulamalar var.
YuboZ Kuşağı tarafından en çok kullanılan canlı sosyal keşif uygulaması, canlı yayın ses denetlemesinin kullanıma sunulacağını duyurdu. teknoloji en büyük pazarlarına, yani Amerika Birleşik Devletleri, Birleşik Krallık, Avustralya ve Kanada.
Bu, şirketin sesi gerçek zamanlı olarak analiz etmenin getirdiği sorunları nasıl çözeceğini öğrendiği için, özelliği ABD'nin bazı bölgelerinde birkaç ay test ettikten sonra geldi.
İçerik Denetiminin Önemi
Çevrimiçi içeriği yönetmek, yapılması zor bir iştir. Bunu Facebook'ta, Twitter'da, Instagram'da ve benzerlerinde gördük. Hakaretler, nefret dolu yorumlar ve hatta bazen şiddet veya kendine zarar verme arasında, bu platformları güvende tutmak ve kullanıcılarını korumak için ölçülü olmak son derece önemlidir. İnternetin sunduğu sözde anonimliğin arkasına saklanabilmenin bazı insanlarda en kötüsünü ortaya çıkarabilecek bir yanı var.
Yubo, özellikle kullanıcı tabanı çok daha genç olduğu için, bunu önlemek için elinden gelen her şeyi yaptığını göstermeye devam ediyor. Yubo'ya göre, kullanıcı tabanlarının %99'u 13-25 yaşındaki Z kuşağı. Çevrimiçi tacize katlanmak hiç kimse için hoş olmasa da, özellikle gençler için zararlı olabilir.
Görüntü ve video denetleme teknolojisi bir süredir ortalıkta dolaşıyor ve çeşitli aşamalarda başarıyla uygulandı. Ses denetimiAncak, özellikle canlı yayınlarda büyük bir zorluk olmaya devam etti. Sokakta yürürken çekilen bir canlı yayın mı yoksa birinin video oyunu oynadığı bir video mu olduğu önemli değil.
Yubo'nun Ses Denetimi Nasıl Çalışır?
Mayıs 2022'den itibaren Yubo, ses denetleme teknolojisi için Amerika Birleşik Devletleri'nin çeşitli bölgelerinde deneme aşamasına başladı. Şimdi bir sonraki aşama, şirketin yeni güvenlik aracı hakkında daha iyi bilgi edinmesine olanak sağlamak için Yubo'nun geniş bir kullanıcı tabanına sahip olduğu İngilizce konuşulan çoğu bölgeyi içeriyor.
Hâlâ yeni olmasına rağmen bu, gelecekte şiddeti veya kendine zarar vermeyi tespit etmek için yaygın olarak kullanılabilecek bir teknolojidir.
Yubo bunu tek başına değil, Hive ile ortaklaşa yapıyor. Hive, onları duymadıysanız, görüntüleri ve videoları neredeyse gerçek zamanlı olarak işlemek için içerik denetleme API'leri oluşturan ve sağlayan bir şirkettir.
Yubo'nun uyguladığı teknoloji, 10 veya daha fazla kişinin canlı yayınlarında 10 saniyelik ses parçalarını kaydedip yazıya dökerek çalışıyor. Metin, uygulamanın kurallarını ihlal eden herhangi bir kelime veya ifadeyi tespit etmek için yapay zeka tarafından anında analiz edilir. Topluluk Rehberleri.
Bekle, burada bitmiyor. Yapay zeka, bu tür şeyleri tespit etmede harika olabilse de, gerçek sorunlu kullanımlar ile yanlış bayraklar arasında ayrım yapabileceği noktadan hala çok uzak.
Yanlış bayraklar, örneğin, arka planda çalan şarkılar veya kötü niyet içermeyen eğlenceli bir dil olabilir.
İşaretlenen olayları araştırmak için getirilen Yubo'nun Güvenlik Uzmanları işte burada devreye giriyor. Eylemler varsa, bir durumun tırmanmayı gerektirip gerektirmediğini belirleyen kişiler insanlardır. Bu, kötü dil kullanan kişilere karşı alınması gereken veya gerekirse kolluk kuvvetlerinin getirilmesi gereken bir şeydir. içinde.
Canlı yayın tamamen sorunsuzsa, hiçbir transkript incelenmez veya 24 saatlik sınırın üzerinde tutulmaz, bu nedenle tamamı gizli kalır; veya 10'dan fazla kişinin olduğu bir canlı yayın kadar özel olabilir.
Ancak, algoritmalar örneğin şiddetli tehditler, nefret söylemi veya kendine zarar verme tespit ederse, transkriptler bir yıla kadar saklanır. Bu, elbette, kolluk kuvvetlerinin bilgileri gerektirmesi veya şirketin kendisinin daha fazla iç soruşturma için ayrıntılara ihtiyaç duyması durumunda şirket için bir güvenlik önlemidir.
Yubo'nun Operasyon Direktörü Marc-Antoine Durand, ses denetimi tüm endüstride çevrimiçi güvenliğin evriminde kilit bir unsur olarak teknoloji.
"Ses algılama alanında daha yapılacak çok şey var, ancak meslektaşlarımız için bir yol oluşturmaktan gurur duyuyoruz. Hive ile ses moderasyonunu ilk başlatan ve bu aracı bu deneme yoluyla daha güvenilir ve etkili hale getirmeye yardımcı olan ilk kişi olmak," Durand söz konusu.
Açıkçası, sosyal platformlar, diğer kullanıcıları uzaklaştıracağı için yaygın zorbalık, nefret söylemi ve şiddeti teşvik eden yorumlar istemiyor. Bu tür denetleme teknolojisini uygulamak, kullanıcıları güvende tutmak ve aynı zamanda uzun vadede Yubo'nun büyümesini ve başarısını garanti etmeye yardımcı olmak için harika bir araçtır.
