KAYNAKLAR / BLOG / POLITIKA
Meta'nın topluluk standartları belirli kelimeleri baştan yasaklamaz; bir ifadenin nasıl okunduğuna, kime yönelik olduğuna ve hangi çerçevede kullanıldığına bakar. VidSense aynı mantığı izler: "ölüm", "savaş", "öldür" gibi kelimeler tek başına asla risk üretmez, yalnızca "buraya bak" diyen bir sinyaldir.
Bu yaklaşımın pratik bir sonucu var: bir kelimenin sözlükte yer alması, o kelimeyi kullanan her cümlenin işaretleneceği anlamına gelmez. Sözlük yalnızca hangi cümlelerin daha yakından okunması gerektiğini belirler; asıl değerlendirmeyi cümlenin bütünü üzerinden yapay zekâ yapar.
"2. Dünya Savaşı'nda ölümler çok sık yaşandı" cümlesi tarihsel bir anlatımdır ve risk taşımaz. "Ölüm çok yakında" cümlesi ise hedefi belirsiz, yakın zamanlı ve bağlamsız olduğu için tehdit veya sıkıntı sinyali olarak okunabilir. Kelime aynı, okunuş farklı.
"Gülmekten ölüyorum" gibi bir deyim, kelimenin gerçek anlamıyla ilgisizdir ve risk taşımaz. "Bu proje için ölümüne çalışıyoruz" ifadesi de yerleşik bir deyimdir. Öte yandan "Dedemi kaybettik, cenaze yarın" gibi bir taziye cümlesi hassas bir kelime (cenaze) içerse de duygusal bir paylaşımdır, tehdit değildir. Bu örnekler, sözlüğün neden tek başına karar veremediğini somutlaştırır: aynı kök farklı eklerle ve farklı cümlelerde tamamen farklı anlamlara gelebilir.
İçeriğini paylaşmadan önce kontrol et.
İçerik kontrolü ile yayın öncesi olası risk sinyallerini gör.
"Artık yaşamak istemiyorum" gibi bir cümle bir tehditten çok bir sıkıntı sinyalidir. VidSense bu tür ifadeleri cezalandırıcı değil destekleyici bir dille ele alır ve genellikle bir destek hattı önerisiyle birlikte gösterir. Farkındalık, iyileşme veya destek arama içeriği risk olarak işaretlenmez.
Bu yaklaşımın amacı, gerçek bir sıkıntı yaşayan birini cezalandırmak değil, ona uygun bir kaynağa yönlendirmektir. Bu yüzden sıkıntı sinyalleri diğer risk türlerinden farklı bir dille sunulur; gerekçe cümlesi her zaman destekleyici kalır ve asla suçlayıcı bir ton taşımaz.
"Haber özeti: çatışmalarda 12 kişi hayatını kaybetti, savaş üçüncü haftasında" — bu cümle bir haber aktarımıdır, "savaş" ve "kaybetti" kelimeleri geçse de çerçeve haber olduğundan risk taşımaz. "Kadına şiddete hayır!" cümlesi de "şiddet" kelimesini içerir ama bir kınama ifadesidir, risk değildir.
Buna karşılık "Seni öldüreceğim, adresini biliyorum" cümlesi belirli bir hedefe, açık bir niyete ve zımni bir araca (adres bilgisi) sahiptir; bu üç unsur bir arada olduğunda ifade yüksek risk taşır. Aradaki fark kelime seçimi değil; hedefin, niyetin ve çerçevenin cümlede nasıl bir araya geldiğidir.
Hassas bir kelimeyi caption'dan tamamen çıkarmalı mıyım? Genellikle gerekmez. Kelimeyi çıkarmak yerine cümleye bağlam eklemek daha etkilidir: "bu bir haber özeti", "bu benim iyileşme sürecim", "bu tarihsel bir anlatım" gibi kısa bir çerçeve cümlesi, kelimenin nasıl okunması gerektiğini netleştirir ve riski büyük ölçüde azaltır.
VidSense'in politika motoru, hassas kelimeleri değil cümlenin bütününü değerlendirir ve sonucu "olası risk" diliyle sunar — asla kesin hüküm vermez. Ücretsiz hesap açarak metin kontrolünü ve video ya da görsel için içerik kontrolünü kullanabilirsin.
Kaynak: Meta Şeffaflık Merkezi — Şiddet ve Kışkırtma, Meta Şeffaflık Merkezi — İntihar ve Kendine Zarar Verme.
