Cum officium tuum est aliquid pulcrum creare, de eo nimis loqui non debes, quia eventus ante oculos omnium est. Sed si inscriptiones e sepibus exesa, nemo opus tuum observabit dum sepes honestum viderint, vel donec aliquid mali deleas.
Quodlibet officium ubi commentum, recensionem relinquere potes, nuntium vel imagines imposuisti citius vel postea, problema spam, fraudis et obscenitatis vergit. Hoc evitari non potest, sed agendum est.
Nomen meum est Mikhail, ego in quadrigis Antispam laboro, qui utentes Yandex officia a talibus quaestionibus protegit. Opus nostrum raro (et bonum est!), ergo hodie plura de eo dicam. Cum supervacua sit moderatio scies et cur accuratio eius efficaciae non sit solum indicata. Dicemus etiam de iureiurando utendo exemplo felium et canum et quare aliquando utile est cogitare sicut iurator.
Magis magisque officia in Yandex apparent ubi utentes sua contenta evulgant. Interrogare potes vel rescribere in Yandex.Q, navale nuntium disputa in Yandex.District, condiciones negotiationis communica in sermonibus in Yandex.Maps. Sed cum officium audientium crescit, scammers et spammers gratus fit. Veniunt et commentationes complent: faciles pecunias offerunt, miraculum remedium praebent et beneficia socialia pollicentur. Propter spammers, nonnulli utentes pecuniam amittunt, alii cupiditatem amittunt in incompto servitio spamma obsiti.
Etiam non nisi lacus. Conamur non solum utentes scammers tueri, sed etiam commodiorem atmosphaeram communicationis creare. Si iurationi et contumeliis in commentis opponuntur, excedere et nunquam redire verisimile est. Id te etiam agere poteris.
Tersus Web
Ut saepe apud nos accidit, primae progressiones in Investigatione natae sunt, in parte quae spamma in inquisitione pugnat. Circiter decem annos, munus eliquandi adultae rei pro inquisitionibus familiaribus et pro quaestionibus quae responsa ex categoria 18+ non requirebant, apparuerunt. Hoc modo primum dictionaria porn et iuramenta manually typica apparuerunt, analystis repleti sunt. Praecipuum munus erat petitiones in eas inserere ubi placet ut adulta res ostendat et ubi non sit. Ad hoc opus, markup colligebatur, Heuristici aedificabantur, exempla erudiebantur. Hoc est quomodo primae explicationes ad contentus percolandum inutiles apparuerunt.
Subinde, UGC (contentus usoris genitus) apparere incepit in Yandex - epistulae quae ab ipsis utentibus scriptae sunt, et Yandex tantum evulgat. Causae supra scriptae sunt, multae epistulae divulgari non poterant quin aspectum - moderatio postulabat. Tunc ministerium creare decreverunt quod contra spam et oppugnatores praesidium contra omnes fructus Yandex UGC praeberet et explicationibus utere contentum inutilem in inquisitione eliquare. Ministerium "Telam Tersus" appellabat.
Nova opera et auxilium ab pushers
In primis, solum simplex automatio pro nobis laboravit: officia nobis textuum missa et obscenitates dictionarias, dictionarias porn dictionarias et expressiones regulares in illis - analystae omnia manually compilavit. Sed per tempus, ministerium in augendo numero Yandex productorum adhibitum est, et necesse erat ut novis quaestionibus laborare disceremus.
Saepe, loco recognitionis, utentes litterarum copia vanam evulgant, res gestas augere conantur, interdum turmam suam in commentationibus societatis competitoris ostentant et interdum simpliciter institutiones confundunt et in recognitione de facundo scribunt: " Pisces perfecte coctos!" Forsitan artificiosa aliquando intelligentia sensum cuiusvis textus perfecte capere discet, nunc automationem interdum hominibus deteriorem reddit.
Patuit nos hoc sine manuali notatione facere non posse, et iterato ambitu nostro addidimus β illud ad inspectionem manualem ab homine mittendo. Textus editi pro quibus classificator nullas difficultates vidit ibi inclusae sunt. Facile existimare potes scalam tanti operis, ut non solum assessoribus innitamur, sed etiam "sapientiae multitudinis" usus sit, id est in adiutorium saxum conversi sumus. Ii sunt qui nos adiuvant cognoscere quid machinae fallant, ac per hoc doceant.
Dolor caching et LSH hashing
Aliam quaestionem invenimus cum operando cum commentationibus spamma erat, vel pressius, eius volumen et celeritas divulgationis. Cum Yandex.Region audientia celeriter crescere coepit, spammers illuc venit. Voces regulares praeterire didicerunt textum leviter immutatum. Spamma, utique, adhuc inventa et deleta est, sed in scala Yandex, nuntius ingratus etiam pro 5 minutis per centenis hominibus videri potuit.
Scilicet, hoc nobis non convenit, et textum captiosum fecimus in caching LSH (). Hoc facit sicut hoc: textum normalizavimus, nexus ab eo removimus et in P. n-g incidimus (sequentias litterarum n). Deinde calculi hashes n-grammatum calculi erant, et LSH vector tabellae ex illis aedificata erat. Punctum est quod similes textus, etsi leviter mutati, in similes vectores vertuntur.
Haec solutio fieri potuit ut opiniones classiariorum et asseculorum pro similibus textibus rescinderes. Per impetum spam, statim ac primum nuntium emissum percurrerunt et cum sententia "spam" latibulum intraverunt, omnes novae similes epistulae, etiam mutatae, eandem sententiam acceperunt et ipso facto deletae sunt. Postea cognovimus quomodo classificatores spam instituendi et automatice retrahant, sed hic "cache captiosus" apud nos mansit et adhuc saepe adiuvat.
Bonum textum classifier
Sine tempore ut intermissum a pugnando spam accipiamus, intelleximus 95% contentorum nostrorum manually moderari: classificatores tantum cum violationibus agere, et plerique textus boni sunt. Purgantes oneramus qui in 95 casibus ex 100 datis censum "Omnia bene sunt". Insolitum officium facere debebam - faciens classificatores boni contenti, satis feliciter markup quod hoc tempore congesserat.
Primum classificator hoc modo videbatur: textum lemmatismum (verba ad formam initialem reducimus), omnes partes orationis auxiliares eicimus ac praeparatum "dictionarium bonorum lemmata" utimur. Si omnia verba in textu "bona" ββsunt, totus textus nullas violationes continet. In diversis officiis, aditus statim ab 25 ad 35% automationem notae manualis dedit. Utique haec accessus non est idealis: facile est pluribus verbis innocentibus miscere et taeterrimam enuntiationem accipere, sed nobis permisit ut cito ad bonum automationis gradum perveniret et tempus nobis dedit exempla multipliciora instituendi.
Sequuntur versiones bonorum textuum classificarum iam inclusae exemplaribus linearibus, decisionibus arboribus, earumque complexionibus. Ad rudem et contumelias notare, exempli gratia, network neural BERT. Magni interest comprehendere sensum verborum contextus et nexum verborum ex diversis sententiis, et BERTUS hoc bene facit. (Viam nuper collegae e News quomodo technologia adhibetur ad munus non vexillum - errores inveniendi in capitis.) Quo fit, fieri potuit automate usque ad 90% fluxus, pro servitio.
Cura, perfectio et celeritas
Ad explicandum, intelligere debes quae beneficia quaedam latis classificas afferant, mutationes in illis habeant, et an qualitas repressionum manualium sit ignominiosa. Ad hoc utimur subtilitate et reuocatione metrica.
Accuratio est proportio rectarum iudiciorum inter omnes sententias de contentis malis. Quo quanto est accuratio, positivis falsis pauciora. Si accurationem non attendis, in theoria omnia spamma et obscenitates delere potes et una cum illis dimidium bonarum epistularum. Contra, si accuratione tantum inniteris, optima technologia erit quae aliquem omnino non capit. Ergo etiam index est perfectionis: participes mali contenti in toto volumine mali contenti identificati. Haec duo metrica inter se paria sunt.
Ut metiamur, totum rivum advenientis specimen pro unoquoque servitio et exemplaria contenta assessoribus praebemus pro peritia aestimatione et comparatione cum solutionibus machinarum.
Aliquam sed maximus ligula.
Supra scripsimus ingratum nuntium centenis hominum etiam in 5 minutis videri posse. Ita computamus quotiens ostendimus homines malos contentos ante nos occultasse. Hoc magni momenti est quia non satis efficaciter ad operandum - opus est etiam cito ad operandum. Et cum defensionem contra iurationem edificauimus, eam plenissimam sensimus.
Antimatismus exemplo felium et canum
Parva digressio lyrici. Posset aliquis dicere turpitudinem et contumelias non tam periculosos esse quam malitiosos nexus, non tam molestos quam spammas. Sed conamur condiciones commodas ad communicationem pro decies usorum conservare, et homines non placet redire ad loca ubi contumeliae sunt. Nihil non est quod bannum iurandi et contumeliae in regulis plurium communitatum, etiam in HabrΓ©, evolvatur. Sed digredimur.
Iurare dictionarii tolerare non possunt omnes divitiae linguae Russicae. Quamquam quattuor tantum radices praecipuae iurare possunt, ex quibus innumera verba facere potes quae nullis regularibus tormentis capi possunt. Praeter verba in transliteratione partem scribere potes, litteras cum similibus coniunctis, litteras componis, asteriscos adde, etc. Aliquando sine contextu, impossibile est fundamentaliter determinare verbum usoris iurare significasse. Praecepta Habr veneramur, id non viventibus exemplis, sed felibus et canibus demonstrabimus.
"Lex," dixit cattus. Sed intelligimus quod cattus aliud verbum dixit...
Incepimus cogitare de algorithms "fuzzy matching" pro dictionary nostro et de praeprocessione smarter: nos transliterationem, conglutinationem spatiis et interpunctionibus simul, exspectavimus exemplaria et singulas expressiones regulares in illis scripsimus. Hic aditus eventus attulit, sed saepe accurate minuit et optatam perfectionem non praebet.
Tunc decrevimus "sicut juratores cogitare." Sonum in nosmetipsos notationes inducere coepimus: varias literas, typos generatas, epistolas cum similibus orthographiae substitutis, et sic porro. Nota initialis huius rei adhibita dictionaria matta ad magna textorum corpora. Si unam sententiam tuleris et multipliciter detorqueas, multis sententiis finias. Hoc modo disciplinam specimen decem temporum augere potes. Omnia quae supererant erant instituendi in lacus inde a plus minusve exemplar captiosum quod contextui ratione habita est.
Loqui immaturum est de sententia finali. Nos adhuc experimur aditus ad hanc quaestionem, sed iam perspicere possumus simplicis retis convolutionis symbolica plurium ordinum dictionariorum et machinarum regularium signanter formare: fieri potest et accurate et renovare.
Nimirum intelligimus semper futuras esse vias vel antecedens automationem praeterire, praesertim cum res tam periculosa est: ita scribe, ut stultam machinam non intelligat. Hic, ut in pugna contra spam, propositum est ne ipsam possibilitatem scribendi aliquid obscoenum evellere, negotium nostrum fac ut lucernae lusus non valeat.
Aperiendi facultatem communicandi opinionem tuam, communicandi et commentandi non difficile est. Multo difficilius est condiciones commodissimas et curationem hominum salvam consequi. Et sine hoc nulla erit progressio alicuius communitatis.
Source: www.habr.com