YAHOO SE ALGORITME VIR MISHANDELING WERK 90% VAN DIE TYD

rekenaaralgoritmehulp

Yahoo se nuusartikels bevat baie onsmaaklike opmerkings, net soos die res van die internet, en daarom het die Yahoo-span besluit om hul kommentaar-afdeling te gebruik om 'n algoritme te ontwikkel wat die ergste oortreders suksesvol kan identifiseer. Hulle nuwe misbruik-opsporingsalgoritme werk 90 persent van die tyd, wat volgens hulle dit effektiewer maak as ander organisasies se pogings om soortgelyke prestasies aan te pak, en word beskryf as 'n belangrike stap vorentoe in die veld. 90 persent doen klink redelik goed, erken ek.

Bedraad berig dat Yahoo ook die eerste bekendgemaakte databasis van aanlyn haatspraak vrystel as deel van hul projek om misbruik te bekamp. Dit beteken dat ander webwerwe Yahoo se databasis van opmerkings sal kan gebruik om hul eie algoritmes te ontwerp. Yahoo se algoritme is ontwikkel op grond van masjienleer en ook op gebruikersgerapporteerde gegewens oor hul opmerkings.

Die moeilikste deel van enige algoritme wat kommentaar lewer, is om vals positiewe te hanteer. Baie algoritmes wat misbruik opspoor, soek spesifieke woorde of frases, soos beledigings of algemene beledigings, en merk die opmerkings outomaties vir matigheid. Dit het egter tot gevolg dat opmerkings gemerk word, selfs al verwys hulle na 'n opskudding in die konteks om te sê dat dit nie geskik is nie, byvoorbeeld, of as die opmerking 'n sarkastiese nabootsing van 'n trol is. Yahoo se algoritme kan blykbaar sekere spraakpatrone opspoor, en dit is ontwerp om die verskil te kan onderskei tussen grappige sarkasme en werklike misbruik. (Natuurlik, as u skreeusnaakse opmerking nie van werklike misbruik kan onderskei word nie, dan is ek redelik seker dat die algoritme dit steeds sal merk, maar ek kan nie met sekerheid sê hoe die deel van die KI werk nie.)

Yahoo het opgeleide kommentaar moderators aangewys om die algoritme te help vervolmaak, en hulle het ook 'n paar onopgeleide moderators betaal, en hulle het gevind dat die opgeleide moderators baie beter was om uit te vind watter kommentaar gepas was ('n soort van 'n goeie idee, maar hey). In die loop van die skepping van die AI het Yahoo gevind dat die werk van hierdie opgeleide menslike moderators noodsaaklik was om die algoritme se doeltreffendheid te handhaaf en die opsporingstegnieke daarvan te vervolmaak.

Natuurlik, algoritmes het steeds vooroordele , wat 'n (hopelik uiteenlopende) groep menslike moderators noodsaak om voort te gaan met die metodologieë wat gebruik word om kommentaar te klassifiseer. Dit klink na 'n moeilike taak, maar Yahoo verstaan ten minste nou die belangrikheid van opleiding en waardering vir die rolle van sowel hul goed opgeleide menslike moderators as hul nuwe AI-kollega.