Facebook yeni yapay zekasına güvenilmemesi gerektiği konusunda uyarıyor. Zira Meta’nın geliştirdiği yeni yapay zeka, palavra söyleyebilir ve hakaret edebilir.
Meta, BlenderBot 3 sohbet botunu duyurdu. Şirket, geliştirdiği yapay zekanın neredeyse her husus hakkında konuşabileceğini ve konuşmalardan öğrenebileceğini söylüyor. Lakin Meta, kullanıcıları chatbot hakkında uyarmayı da ihmal etmiyor.
Meta’nın BlenderBot 3 sohbet robotu, ABD’deki kullanıcıların denemesi için halka açıldı. Şirket, yapay zekasının internette arama yapabileceğini ve neredeyse her mevzu hakkında sohbet edebileceğini tez ediyor. Hatta kendini geliştirme ve beşerlerle konuşarak daha düzgün irtibat kurmayı öğrenme yeteneği bile verildi.
GÜVENLİ OLMAYABİLİR
Yine de tüm çalışmalara karşın geliştirilen yapay zekanın lisanında meseleler olduğu tespit edildi. Facebook, yapay zeka botunu duyurduğu blog yazısında şu kelamlara yer veriyor: “Tüm konuşma hedefli yapay zeka sohbet botlarının bazen inançlı olmayan, önyargılı yahut saldırgan açıklamaları taklit ettiği ve ürettiği bilindiğinden, büyük ölçekli çalışmalar yürüttük, ortak çalıştaylar düzenledik ve BlenderBot 3 için güvenlik tedbirleri oluşturmak için yeni teknikler geliştirdik. Bu çalışmaya karşın, BlenderBot hala kaba yahut saldırgan yorumlar yapabiliyor, bu nedenle gelecekteki sohbet botlarını daha yeterli hale getirmeye yardımcı olacak geri bildirimler topluyoruz.”
Meta bot ile ilgili kullanıcılarını uyarırken gerçek bilgi vermeyebileceğini de belirtiyor: “Kullanıcılar, bu cins sıkıntıları azaltmak için elimizden gelenin en güzelini yapmamıza karşın, botun uygunsuz, kaba yahut gerçek olmayan yahut çelişkili açıklamalarda bulunabileceğini bilmeli. Bot’un yorumları Meta’nın bir şirket olarak görüşlerini temsil etmez ve tıbbi, yasal yahut finansal tavsiye dahil gerçek bilgiler için güvenilmemeli.”
SORUNU GİDERMEYE ÇALIŞIYOR
Şirket; botun küfür, hakaret içeren lisanlar yahut kültürel açıdan duyarsız tabirler kullanmasını en aza indirmek için çalıştığını kelamlarına ekledi. Kullanıcılar bu yorumları bildirme ve beğenmeme hakkına sahip.
İlk kere bir sohbet botu vereceği karşılıklar konusunda taraflı bir hal sergilemiyor. Chatbot’lar internette herkese açık datalar üzerinden eğitildikleri için davranışları internetteki içeriği yansıtabilir. Ve çevrimiçi pek çok uygunsuz, aşağılayıcı içerik var; bu nedenle bir yapay zekayı bu içeriği kullanarak etkileşimde bulunmak için eğitmek, kimi sıkıntılara neden olabilir.
Daha evvel Google’un da problemli bir yapay zekaya sahip olduğu bir yazılım mühendisi tarafından tez edilmiş hatta yapay zekanın ırkçı ve ayrımcı bir lisana sahip olduğunu belirtmişti.