Meta, güvenlik sürecinde yapay zekaya ağırlık veriyor!

Meta, Instagram ve WhatsApp gibi platformlarında ürün güvenliği süreçlerinde köklü bir dönüşüm başlattı. Şirket, geliştirdiği yeni sistemle ürün risk değerlendirmelerinin büyük kısmını yapay zekaya devrediyor. Planlamaya göre, bu otomatik sistem ürün güvenliği değerlendirmelerinin yüzde 90’ını üstlenecek.

Meta, güvenlik sürecinde yapay zeka kullanacak

Yeni yapay zeka tabanlı değerlendirme süreci, geliştirme aşamasındaki her özellik veya ürünün kullanıcıya sunulmadan önce potansiyel olarak ne tür olumsuzluklara yol açabileceğini analiz ediyor. Ürün ekipleri, her yeni özellik için önceden belirlenmiş bir anketi doldurarak sisteme bilgi aktarıyor. Bu veriler doğrultusunda yapay zeka, riskli durumları tespit ediyor ve ekipleri uyarıyor. Uygun görülmeyen sonuçlar ortaya çıktığında, ekiplerin yayın öncesinde ilgili düzenlemeleri yapması bekleniyor.

Son iki ay içinde Meta’nın bu alandaki yapay zeka kullanımını ciddi ölçüde artırdığı görülüyor. Şirket, süreçleri hızlandırmak ve daha kapsamlı değerlendirmeler yapabilmek adına insan gücüne olan bağımlılığı azaltıyor. Ancak bu değişiklik, şirket içinde ve dışında bazı tartışmalara yol açtı. Mevcut ve eski çalışanlardan gelen eleştiriler, yapay zekanın her zaman yeterli düzeyde hassasiyet gösteremeyeceğine dikkat çekiyor.

Yeni Xiaomi Mix Fold, Snapdragon ile karşımıza çıkacak!

Özellikle genç kullanıcıları etkileyebilecek içeriklerin otomatik sistemler tarafından doğru şekilde sınıflandırılamayabileceği ifade ediliyor. Zorbalık, şiddet, cinsiyet ve kültürel hassasiyet içeren durumların, yapay zeka tarafından yeterince doğru analiz edilememesi halinde gözden kaçma riskinin yüksek olduğu belirtiliyor.

Meta ise bu eleştirilere karşılık olarak sistemin tamamen otomatik çalışmadığını, yüksek risk taşıyan veya karmaşık durumlarda insan denetiminin sürdüğünü aktarıyor. Şirket, yapay zekayı değerlendirme sürecinde bir filtre ve hızlandırıcı katman olarak konumlandırıyor ancak nihai kararların gerektiğinde insan ekipler tarafından alınmaya devam edeceğini vurguluyor.

Bu gelişmeyle birlikte Meta, ürün güvenliğinde teknolojik otomasyonu genişletirken, yapay zekanın etik ve operasyonel sınırlarını yeniden tanımlayan bir sürece adım atıyor.