Yapay zeka sanal zorbalığa karşı savaş açıyor
Sosyal ağlar ve özel mesajlaşma yazılımları hızı iletişim sağlıyor. Fakat bunlar aynı zamanda mobbing ve nefret için verimli alanlara dönüştü. İnsan denetimi bütün bu bilgi akışı için yetersiz olduğundan, artan sayıda platform işleteni ve güvenlik şirketi kullanıcılarını korumak için yapay zeka kullanmaya başladı. Görüntü, dil ve yazı tanıma sistemleri gerçek zamanlı olarak konuşmaları, paylaşımları ve akımları izliyor ve sorun çıkarsa yahut nefret mesajları verilirse alarm veriyor.
En sofistike yaklaşım fotoğraf ağı Instagram’ınki, bu gençlerin en önemli iletişim kanallarından biri. Burada üyeler otomatik olarak nefret mesajlarını engelleyebiliyor ve YZ sistemi tarafından da bunlar tespit edilebiliyor. Bunun dışında, ağ İngilizce konuşan kullanıcılara aşırı derecede sert olduğunu düşündüğü yorumları gerçekten paylaşıp paylaşmayacağını soruyor. İletişim kültürünü geliştirmek için şık bir metot. Ayrıca Instagram bir yıldır kendisi, insanlar tarafından incelenmeden önce olası mobbing vakalarını not alıyor. Şirket nun için kullandığı yöntemleri paylaşmayı reddetse de, şirketin yetkilisinin bir örneği bize biraz fikir veriyor: YZ iki parçalı fotoğraflara önem veriyor, burada bir insan diğeri ile kötü bir biçimde kıyaslanıyor. Daha da ötesinde, sistem fotoğraf altı yazıları da okuyor.
Ebeveyn kontrolü mü denetim mi?
Sanal mobbing – özellikle ABD’de – ebeveynler arasında önemli bir konu. Bu nedenle bir çok anti virüs şirketi tarayıcılarına YZ destekli çocuk koruma özellikleri ekledi.
Ebeveynin talebi üzerine, Bitdefender çocukların yazışma trafiğini otomatik yazı tanıma sistemi ile değerlendiriyor. Eğer sistem şiddetli, seksüel veya uygunsuz bir kelime yakalarsa – ebeveyne haber veriyor: Çocuğunla bir konuş! Bu işlem sırasında genç argosu ile mobbing arasındaki farkı ayırabiliyor. Başka firmalar genç koruma filtreleri öneriyor, bunlar çocukların adres ve telefon bilgilerini paylaşmasını veya sinsi fotoğraf veya videoları almalarını engelliyor. İlk chat botları ve tüm iletişim denetimi sistemleri hali hazırda geliştirilirken, burada bir uyuşmazlık halinde düzeni sağlamak için tartışma sürüyor – veya bir insana danışma hususunda.
Aşırı müdahaleci bir teknoloji endüstrisinin önündeki incir yaprağı
Böylesi önlemler geniş kapsamlı olarak mobbingi azaltmalı ve tüm kesimleri direnme konusunda güçlendirmeli. Fakat mobbingle savaşırken, algoritmalar tek başına yeterli değil, diyor uzmanlar. Sanal mobbing dijital medyanın yaygın bir hastalığı. Her on kullanıcıdan biri online hakaret, tehdit veye kötü muamelenin kurbanı oldu. Çocuklar ve gençler en hassas kişiler ve kız çocukları ile kadınlar daha sık kurban konumuna düşüyorlar.
Psikiyatri Uzmanları bu saldırıların sağlığa dönük sonuçları dahi olabiliyor diye uyarıyor. “Mobbing sosyal stres veya ruhsal şiddet olarak , çocukların ve gençlerin ruhsal hastalıklara yakalanma riskini artırıyor.”
Hakaret için kısıtsız ortam
Juuuport danışmanlık platformundan Lennart Sörnsen, “ iletişimin katalizatörleri olarak, sosyal ağları işletenlerin özel bir sorumluluğu var” diyor. “Sosyal medya mobbingi kolaylaştırıyor ve güçlendiriyor. Yapısı hakareti ve insanların aleni olarak aşağılanmasını çok kısa bir sürede mümkün kılıyor.” Bu nedenle Instagram’ın bu yöndeki çalışmaları iyi bir işaret. “Bu platformun bu tür hareketleri istemediğine dair net bir sinyal.” Yenilikçi sistemler, Spirit.AI gibi, de aynı yönde ilerliyor. Bunu kullanan sistemler antisosyal davranışı tespit edebiliyor ve online oyunlarda, örneğin, hakarete uğrayan kişiye bir chatbot ile pro sosyal davranışlar sunuyor: Yapıcı iletişim hijyeni.
Algoritma tarafından mobbing
Filtreler veya algoritmik denetim, aslında her zaman biraz ihlal anlamına geliyor. Eğer duygular ve ilişkilerin içeriği yazılımla incelenebilir veya manipüle edilebilirse, kamusal alanın algoritma ile denetimi de yakında demektir. Çin’de şu gözlemlenebiliyor: WeChat gibi iletişim platformları YZ ile ortadan kaldırılıyor. Eğer chatbotlar ve filtreler iletişim atmosferini manipüle edip düzeltebiliyorsa, tam tersi de geçerli olabilir.
