Yahoo'nun haber makalelerinde, internetin geri kalanı gibi, pek çok tatsız yorum var, bu nedenle Yahoo ekibi, en kötü suçluları başarılı bir şekilde tanımlayabilecek bir algoritma geliştirmek için yorumlar bölümünü kullanmaya karar verdi. Onların yeni kötüye kullanım tespit algoritması %90 oranında çalışır ve diğer kuruluşların benzer başarılara imza atma girişimlerinden daha etkili olduğunu söylerler ve bu alanda ileriye doğru atılmış büyük bir adım olarak tanımlanır. yüzde 90 yapar kulağa hoş geliyor, kabul ediyorum.
kablolu Yahoo'nun kötüye kullanımla mücadele projelerinin bir parçası olarak halka açık ilk çevrimiçi nefret söylemi veritabanını da yayınladığını bildirdi. Bu, diğer sitelerin kendi algoritmalarını tasarlamak için Yahoo'nun yorum veritabanını kullanabilecekleri anlamına gelir. Yahoo'nun algoritması, makine öğrenimine ve ayrıca yorum bölümleri hakkında kullanıcı tarafından bildirilen verilere dayalı olarak geliştirildi.
Herhangi bir yorum denetleme algoritmasının en zor kısmı, yanlış pozitiflerle uğraşmaktır. Kötüye kullanımı tespit eden birçok algoritma, karalamalar veya yaygın hakaretler gibi belirli kelimeleri veya ifadeleri arar ve yorumları denetlemek için otomatik olarak işaretler. Ancak bu, örneğin uygun olmadığını söyleyerek veya yorum bir trolün alaycı bir taklidi olsa bile, bir hakarete atıfta bulunsa bile yorumların işaretlenmesine neden olur. Yahoo'nun algoritması görünüşe göre belirli konuşma kalıplarını algılayabilir ve şakacı alaycılık ile gerçek suistimal arasındaki farkı söyleyebilmek için tasarlanmıştır. (Tabii ki, komik yorumunuz gerçek kötüye kullanımdan ayırt edilemezse, o zaman algoritmanın yine de işaretleyeceğinden eminim, ancak AI'nın bu kısmının nasıl çalıştığını kesin olarak söyleyemem.)
Yahoo, algoritmayı mükemmelleştirmek için eğitimli yorum moderatörlerini görevlendirdi ve ayrıca bazı eğitimsiz moderatörlere para ödediler ve eğitimli moderatörlerin hangi yorumların uygun olduğunu bulmada çok daha iyi olduğunu gördüler (biraz daha akıllıca, ama hey). Yapay zekayı oluşturma süreci boyunca Yahoo, bu eğitimli insan moderatörlerin çalışmasının, algoritmanın etkinliğini korumak ve algılama tekniklerini mükemmelleştirmek için gerekli olduğunu keşfetti.
Elbette, algoritmaların hala önyargıları var bu, yorumları sınıflandırmak için kullanılan metodolojileri yinelemeye devam etmek için (umarım çeşitli) bir insan moderatör ekibini gerektirir. Kulağa zor bir iş gibi geliyor, ancak en azından Yahoo artık hem iyi eğitimli insan moderatörlerinin hem de yeni AI meslektaşlarının rollerini eğitmenin ve bunlara değer vermenin önemini anlıyor.
yağmurdaki gözyaşı damlaları gibi
(üzerinden Sonraki Web , aracılığıyla görüntü Michael Cordedda/Flickr )
