Meta, Instagram'da genç kullanıcıların güvenliğini artırmaya yönelik yeni bir uygulamayı hayata geçirdi. Şirketin yaptığı açıklamaya göre, yapay zekâ destekli sistem genç kullanıcıların sohbetlerinde kendine zarar verme veya intihar riski taşıyabilecek ifadeleri tespit etmeye çalışacak. Şüpheli görülen konuşmalar önce inceleme sürecine alınacak, gerekli değerlendirmelerin ardından riskin doğrulanması halinde ebeveynlere bildirim gönderilecek. Yeni sistem, genç kullanıcıların olası tehlikeli durumlarda daha erken destek almasını amaçlıyor. Meta, son dönemde gençlerin dijital ortamda güvenliğini artırmaya yönelik farklı uygulamaları devreye alırken, bu özellikle birlikte ailelerin de sürece daha aktif şekilde dahil edilmesi hedefleniyor. İlk aşamada belirli ülkelerde kullanıma sunulan sistemin yıl sonuna kadar daha geniş bir kullanıcı kitlesine ulaşması planlanıyor.
Yapay Zekâ Sohbetleri Analiz Edecek
Meta'nın paylaştığı bilgilere göre sistem, Meta AI desteğiyle çalışıyor. Yapay zekâ, genç kullanıcıların sohbetlerini analiz ederek kendine zarar verme veya intihar riski taşıyabilecek ifadeleri belirlemeye çalışıyor.Şüpheli görülen içerikler doğrudan işleme alınmıyor. Öncelikle manuel inceleme süreci başlatılıyor. Güvenlik ekiplerinin değerlendirmesi sonucunda risk doğrulanırsa, ebeveyn kontrolü açık hesaplarda ailelere bilgilendirme yapılıyor.
İlk Olarak Dört Ülkede Kullanıma Sunuldu
Yeni özellik ilk etapta ABD, İngiltere, Avustralya ve Kanada'da ebeveyn denetimi aktif olan Instagram hesaplarında kullanılmaya başlandı. Meta, uygulamanın yıl sonuna kadar dünya genelinde erişime açılmasını hedefliyor.Şirket ayrıca, yüksek risk taşıdığı değerlendirilen durumlarda ilgili acil yardım birimlerine bilgi verebilecek yeni bir sistem üzerinde de çalışmalarını sürdürüyor.
