K dispozici je systém filtrování spamu Rspamd 2.0

Předložené uvolnění systému filtrování spamu Rspamd 2.0, která poskytuje nástroje pro vyhodnocování zpráv podle různých kritérií, včetně pravidel, statistických metod a blacklistů, na základě kterých se tvoří konečná váha zprávy, která se používá k rozhodnutí o zablokování. Rspamd podporuje téměř všechny funkce implementované ve SpamAssassinu a má řadu funkcí, které vám umožňují filtrovat poštu v průměru 10krát rychleji než SpamAssassin a také poskytují lepší kvalitu filtrování. Systémový kód je napsán v C a distribuovány licencováno pod Apache 2.0.

Rspamd je postaven pomocí architektury řízené událostmi a je původně navržen pro použití ve vysoce zatížených systémech, což mu umožňuje zpracovat stovky zpráv za sekundu. Pravidla pro identifikaci znaků spamu jsou vysoce flexibilní a ve své nejjednodušší podobě mohou obsahovat regulární výrazy a ve složitějších situacích mohou být napsána v Lua. Rozšiřování funkčnosti a přidávání nových typů kontrol je realizováno prostřednictvím modulů, které lze vytvořit v jazycích C a Lua. K dispozici jsou například moduly pro ověření odesílatele pomocí SPF, potvrzení domény odesílatele přes DKIM a generování požadavků na DNSBL seznamy. Pro zjednodušení konfigurace, vytváření pravidel a sledování statistik je k dispozici administrační webové rozhraní.

Hlavní inovace:

  • Byl proveden přechod na nové schéma číslování emisí. Vzhledem k tomu, že první číslo v čísle verze se již několik let nezměnilo a skutečným indikátorem verze je druhé číslo, bylo rozhodnuto přejít na formát „yz“ namísto schématu „xyz“;
  • Místo toho pro smyčku událostí Libevent zapojená knihovna Libev, který odstraňuje některá omezení libevent a umožňuje lepší výkon. Používání
    libev umožnil zjednodušit kód, zlepšit zpracování signálů a timeoutů a sjednotit sledování změn souborů pomocí mechanismu inotify (ne všechna vydání libevent dodávaná pro podporované platformy mohla fungovat s inotify);

  • Podpora pro modul klasifikace zpráv, který používá knihovnu hlubokého strojového učení Torch, byla ukončena. Důvodem je přílišná složitost Torche a vysoká složitost jeho aktualizace. Jako náhrada klasifikace pomocí metod strojového učení je navržen kompletně přepsaný modul Neurální, ve kterém je použita knihovna pro zajištění chodu neuronové sítě Kann, který obsahuje pouze 4000 řádků kódu C. Nová implementace řeší mnoho problémů s výskytem uváznutí během tréninku;
  • Modul RBL nahradil moduly SURBL a Emaily, což umožnilo sjednotit zpracování všech kontrol blacklistů. Možnosti RBL byly rozšířeny o podporu dalších typů, jako jsou selektory, a nástroje pro snadné rozšiřování stávajících pravidel. Pravidla blokování e-mailů založená na seznamech map namísto DNS RBL již nejsou podporována, místo toho se doporučuje používat multimapu se selektory;
  • K určení typů souborů na základě obsahu se používá nová knihovna Lua Magic, která místo libmagic používá Lua a Hyperscan.
    Mezi důvody pro vytvoření vlastní knihovny patří touha dosáhnout vyššího výkonu, zbavit se selhání při identifikaci docx souborů, získat vhodnější API a přidat nové typy heuristiky, které nejsou omezeny přísnými pravidly;

  • Vylepšený modul pro ukládání dat v DBMS clickhouse. Přidána pole LowCardinality a výrazně optimalizovaná spotřeba paměti;
  • Rozšířené možnosti modulu Multimap, ve kterém se objevila podpora kombinovaný и závislý srovnání;
  • Modul Maillist vylepšil definici e-mailových konferencí;
  • Pracovní procesy mají nyní možnost odesílat zprávy srdečního tepu hlavnímu procesu, čímž potvrzují normální provoz. Pokud se po určitou dobu žádné takové zprávy neobjeví, hlavní proces může násilně ukončit pracovní proces. Ve výchozím nastavení je tento režim prozatím zakázán;
  • Byla přidána řada nových skenerů v jazyce Lua. Například byly přidány moduly pro skenování zpráv v Kaspersky ScanEngine, Trend Micro IWSVA (přes icap) a
    F-Secure Internet Gatekeeper (přes icap) a také nabízí externí skenery pro Razor, oletools a P0F;

  • Přidána možnost měnit zprávy přes Lua API. Byl navržen modul pro provádění změn bloků MIME lib_mime;
  • Bylo poskytnuto samostatné zpracování nastavení nastavených prostřednictvím „Settings-Id:“, například nyní můžete pravidla vázat pouze na určité identifikátory nastavení;
  • Byly provedeny optimalizace pro výkon enginu Lua, dekódování base64 a detekci jazyka pro text. Přidána podpora pro ukládání komplexních map do mezipaměti. Podpora implementována
    HTTP keep-alive.

Zdroj: opennet.ru

Přidat komentář