Ua hoʻopuka ʻo AOL iā Moloch 2.3 network traffic indexing system

Hui AOL hoʻokuʻu hoʻokuʻu ʻana i kahi ʻōnaehana no ka hopu ʻana, mālama a me ka helu ʻana i nā ʻeke pūnaewele Moloka 2.3, e hāʻawi ana i nā mea hana no ka nānā ʻana i nā kahe o nā kaʻa a me ka ʻimi ʻana i ka ʻike e pili ana i ka hana pūnaewele. Ua kākau ʻia ke code ma ka ʻōlelo C (interface ma Node.js/JavaScript) a mahele ʻia e laikini ma lalo o Apache 2.0. Kākoʻo i ka hana ma Linux a me FreeBSD. Mākaukau nā kīʻaha mākaukau no nā ʻano like ʻole o CentOS a me Ubuntu.

Ua hoʻokumu ʻia ka papahana i ka makahiki 2012 me ka pahuhopu o ka hoʻokumu ʻana i kahi pani hakahaka no kahi kahua hoʻoponopono packet pūnaewele ʻoihana e hiki ke hoʻonui i ka nui o nā kaʻa AOL. ʻO ka hoʻokō ʻana i kahi ʻōnaehana hou ma AOL i hiki ai ke hoʻokō i ka mana piha o ka ʻōnaehana ma muli o ka waiho ʻana ma kāna mau kikowaena a hoʻemi nui i nā kumukūʻai - me ka hoʻohana ʻana iā Moloch e hopu holoʻokoʻa i nā kaʻa ma nā pūnaewele AOL āpau e like me ka hoʻohana ʻana. pāʻoihana pāʻoihana Ma mua, ua hoʻohana ʻia ma ka hopu ʻana i nā kaʻa ma kahi pūnaewele hoʻokahi. Hiki i ka ʻōnaehana ke hoʻonui i ke kaʻa kaʻa ma ka wikiwiki o nā ʻumi gigabits i kekona. Ua kaupalena ʻia ka nui o ka ʻikepili i mālama ʻia e ka nui o ka laha disk i loaʻa.
Hōʻike ʻia ka metadata o ke kau ma ka pūʻulu ʻenekini Elasticsearch.

Hoʻokomo ʻia ʻo Moloch i nā mea hana no ka hopu ʻana a me ka helu ʻana i nā kaʻa ma ke ʻano PCAP maoli, a me ke komo wikiwiki ʻana i ka ʻikepili i kuhikuhi ʻia. No ke kālailai ʻana i ka ʻike i hōʻiliʻili ʻia, hāʻawi ʻia kahi kikowaena pūnaewele e hiki ai iā ʻoe ke hoʻokele, ʻimi a hoʻokuʻu aku i nā laʻana. Hāʻawi pū ʻia API, hiki iā ʻoe ke hoʻololi i ka ʻikepili e pili ana i nā ʻeke i hopu ʻia ma ka ʻano PCAP a me nā kau i hoʻopaʻa ʻia ma ka format JSON i nā noi ʻaoʻao ʻekolu. ʻO ka hoʻohana ʻana i ke ʻano PCAP e hoʻomaʻamaʻa nui i ka hoʻohui ʻana me nā mea loiloi kaʻa e like me Wireshark.

Aia ʻo Moloch i ʻekolu mau mea kumu:

  • ʻO ka ʻōnaehana hopu kaʻa he noi C multi-threaded no ka nānā ʻana i ka hele ʻana, ke kākau ʻana i nā dumps ma ka format PCAP i ka disk, ka hoʻopaʻa ʻana i nā ʻeke hopu ʻia a me ka hoʻouna ʻana i nā metadata e pili ana i nā kau (SPI, Stateful packet inspection) a me nā protocols i ka hui Elasticsearch. Hiki ke mālama i nā faila PCAP ma ke ʻano i hoʻopili ʻia.
  • He kikowaena pūnaewele e pili ana i ka platform Node.js, e holo ana ma kēlā me kēia kikowaena hopu hopu a me nā noi noi e pili ana i ke komo ʻana i ka ʻikepili i kuhikuhi ʻia a me ka hoʻoili ʻana i nā faila PCAP ma o API.
  • Mālama ʻia ka metadata ma muli o Elasticsearch.

Hāʻawi ke kikowaena pūnaewele i kekahi mau ʻano nānā - mai nā helu helu maʻamau, nā palapala pili a me nā kiʻi hiʻohiʻona me nā ʻikepili e pili ana i nā loli o ka hana pūnaewele i nā mea hana no ke aʻo ʻana i nā kau pākahi, ke kālailai ʻana i ka hana i loko o ka pōʻaiapili o nā protocols i hoʻohana ʻia a me ka hoʻokaʻawale ʻana i nā ʻikepili mai nā dumps PCAP.

Ua hoʻopuka ʻo AOL iā Moloch 2.3 network traffic indexing system

Ua hoʻopuka ʻo AOL iā Moloch 2.3 network traffic indexing system

Ua hoʻopuka ʻo AOL iā Moloch 2.3 network traffic indexing system

Ua hoʻopuka ʻo AOL iā Moloch 2.3 network traffic indexing system

В hoʻokuʻu hou:

  • Ua hana ʻia kahi hoʻololi i ka hoʻohana ʻana i kahi ʻano typeless no ka kuhikuhi ʻana ma Elasticsearch.
  • Hoʻohui ʻia nā laʻana o nā kānana hopu kaʻa ma Lua.
  • Ua hoʻokō ʻia ke kākoʻo no ka mana 46-draft o ka protocol QUIC.
  • Ua hana hou ʻia ke code no ka parsing protocols, e hiki ai ke kākau i nā parsers no ka Ethernet a me nā protocol level IP.
  • Ua manaʻo ʻia nā parser hou no nā protocol arp, bgp, igmp, isis, lldp, ospf a me pim, a me nā parser no nā protocol unkEthernet ʻike ʻole a unkIpProtocol.
  • Hoʻohui i kahi koho e hoʻopau i nā parsers (disableParsers).
  • Ua hoʻohui ʻia ka hiki ke hōʻike i kekahi kahua integer ma nā pakuhi, i hoʻonoho ʻia ma ka ʻaoʻao hoʻonohonoho, i ka interface pūnaewele.
  • Hiki ke hoʻopaʻa ʻia nā kiʻi a me nā poʻo inoa i kēia manawa a ʻaʻole e neʻe i ka wā e ʻōwili ai i ka ʻaoʻao.
  • Huna a hāʻule paha ka hapa nui o nā pahu hoʻokele ma ka paʻamau.

Source: opennet.ru

Pākuʻi i ka manaʻo hoʻopuka