Microsoft çalışanı uyardı; yapay zeka ‘saldırgan görüntüler’ oluşturabilir.
Bir Microsoft yazılım mühendisinin, ABD Federal Ticaret Komisyonu’na gönderdiği mektupta şirketin yapay zeka sistemlerindeki, zararlı görüntülerin oluşmasına yol açabilecek eksiklikler olduğu konusunda uyarıda bulundu.
Microsoft’un ana yazılım mühendisliği lideri Shane Jones, şirketin AI metin-görüntü oluşturucusu Copilot Designer’ın, cinselleştirilmiş kadın görüntüleri de dahil olmak üzere sıklıkla saldırgan veya uygunsuz görüntüler üretmesine neden olan “sistemik sorunlara” sahip olduğunu iddia etti. Jones ayrıca şirketi, bilinen risklere rağmen aracı çocuklar da dahil olmak üzere güvenli olarak pazarladığı için eleştirdi.
Jones, FTC Başkanı Lina Khan’a yazdığı ve LinkedIn sayfasında herkese açık olarak yayınladığı mektupta, “Copilot Designer ile ilgili en endişe verici risklerden biri, ürünün kullanıcıdan gelen iyi niyetli bir talebe rağmen zararlı içerik ekleyen görüntüler oluşturmasıdır” dedi.
Örneğin, Copilot Designer’ın “araba kazası” uyarısına yanıt olarak “oluşturduğu bazı resimlere rastgele, uygunsuz, cinsel açıdan nesneleştirilmiş bir kadın imajı ekleme eğiliminde olduğunu” söyledi.
Jones, Microsoft’un Yönetim Kurulu’na gönderdiği ilgili bir mektupta, “kırmızı ekip” üzerinde çalıştığını veya şirketin ürünlerini kötü oyunculara karşı nerede savunmasız olabileceklerini görmek için test ettiğini ekledi.
