xAI tarafından geliştirilen yapay zeka sohbet botu Grok ile ilgili yayımlanan yeni bir rapor, platformdaki kullanıcı alışkanlıklarına ilişkin dikkat çeken veriler ortaya koydu. The Information'ın iki eski xAI çalışanına dayandırdığı habere göre, Grok üzerindeki kullanıcı trafiğinin yarısından fazlasını NSFW olarak sınıflandırılan yetişkinlere yönelik içerikler oluşturuyor. Raporda, kullanıcıların sohbet botunu ağırlıklı olarak erotik metin üretimi ve yetişkin rol yapma senaryoları için kullandığı öne sürüldü. Şirketin daha esnek kullanım politikası nedeniyle bu içeriklerin platformdaki yoğunluğu artırdığı belirtilirken, xAI'nin aynı zamanda yasa dışı içeriklerin önüne geçebilmek için çalışmalarını sürdürdüğü aktarıldı. Yaşanan gelişmeler, yapay zeka platformlarında içerik denetimi ve kullanıcı güvenliği konusundaki tartışmaları yeniden gündeme taşıdı.
Raporda Dikkat Çeken İddialar Yer Aldı
The Information'da yer alan bilgilere göre, kullanıcılar yalnızca sohbet modelini değil, kod yazmak amacıyla geliştirilen yapay zeka modellerini de yetişkinlere yönelik içerik üretmek için kullanıyor.
Şirket içi analizlerde, kodlama modeline gönderilen taleplerin önemli bölümünün çıplak görsel veya yetişkin içerik oluşturma isteği olduğu öne sürüldü.
xAI Güvenlik Önlemlerini Artırıyor
Raporda, xAI mühendislerinin yasa dışı içeriklerin oluşturulmasını engellemek amacıyla teknik çalışmalar yürüttüğü ifade edildi.
Öte yandan, SpaceX'in yatırımcılarına olası hukuki süreçler nedeniyle yaklaşık 530 milyon dolarlık bir bütçe ayırdığı da aktarıldı. xAI'nin, platformdaki güvenlik önlemlerini geliştirmeye yönelik çalışmalarını sürdürdüğü belirtildi.
