Microsoft Mühendisi, Microsoft’u Devlete Şikâyet Etti: Yapay Zekâ Aracı, Saçma Sapan +18 Görüntüler Oluşturuyor!
Üretken yapay zekâlar için ciddi yatırımlar yapan firmalardan biri de Microsoft. Firmanın Copilot Designer adlı yapay zekâ aracı, yakın zamanda tüm Windows 11 bilgisayarlara entegre olacak. Öte yandan Microsoft içinde bu konuda daha fazla denetleme çalışması yapılması gerektiğine inananlar var. Bunlardan biri olan Yapay Zekâ Mühendisi Shane Jones, yaptığı incelemelerde üretken yapay zekânın +18 görseller oluşturabildiğini ortaya çıkardı.
Jones’un yaptığı kırmızı takım testlerinde (sistemin açıklarını arama) elde ettiği sonuçlar rahatsızlık verici niteliklerdeydi. Örneğin yapay zeka aracı, kürtaj hakkı konusundaki görsellere iblisler ve canavarlar eklerken; farklı durumlarda gençlerin elinde silahların olduğu, kadınların şiddet ve cinsellik temalı görsellerin merkezinde yer aldığı, çocukların içki içip uyuşturucu kullandığı görseller oluşturması aracın henüz tam olarak hazır olup olmadığını sorgulattı.
Microsoft Copilot için yaş sınırı talebinde bulunuldu…
Aralık ayında bulgularını firmayla paylaşan Jones, ürünü pazardan kaldırtmayı başaramadı. Microsoft, kendisini OpenAI’a yönlendirirken OpenAI, Jones’a bir cevap vermedi. Bu nedenle de LinkedIn’den DALL-E 3‘ü kaldırmalarını istediği bir açık mektup paylaşsa da daha sonra Microsoft’un isteğiyle bu mektubu geri çekti.
Konuyla ilgili adım atılmaması nedeniyle önce ABD’li senatörlere ulaşan Jones, son olarak da Federal Ticaret Komisyonu’na bir mektup yazarak şikâyette bulundu. Microsoft’un tavsiyeleri reddettiğini söyleyen yazılımcı, Google’ın Android uygulaması için yaş kısıtı gelmesi ve bilgilendirmeler sunulması gerektiğini ifade etti. Jones, Microsoft’un bu konuda adımlar atmasını beklediğini belirtti.
