Ua hoʻopuka ʻo AOL iā Moloch 2.3 network traffic indexing system
Hui AOL hoʻokuʻu hoʻokuʻu ʻana i kahi ʻōnaehana no ka hopu ʻana, mālama a me ka helu ʻana i nā ʻeke pūnaewele Moloka 2.3, e hāʻawi ana i nā mea hana no ka nānā ʻana i nā kahe o nā kaʻa a me ka ʻimi ʻana i ka ʻike e pili ana i ka hana pūnaewele. Ua kākau ʻia ke code ma ka ʻōlelo C (interface ma Node.js/JavaScript) a mahele ʻia e laikini ma lalo o Apache 2.0. Kākoʻo i ka hana ma Linux a me FreeBSD. Mākaukau nā kīʻaha mākaukau no nā ʻano like ʻole o CentOS a me Ubuntu.
Ua hoʻokumu ʻia ka papahana i ka makahiki 2012 me ka pahuhopu o ka hoʻokumu ʻana i kahi pani hakahaka no kahi kahua hoʻoponopono packet pūnaewele ʻoihana e hiki ke hoʻonui i ka nui o nā kaʻa AOL. ʻO ka hoʻokō ʻana i kahi ʻōnaehana hou ma AOL i hiki ai ke hoʻokō i ka mana piha o ka ʻōnaehana ma muli o ka waiho ʻana ma kāna mau kikowaena a hoʻemi nui i nā kumukūʻai - me ka hoʻohana ʻana iā Moloch e hopu holoʻokoʻa i nā kaʻa ma nā pūnaewele AOL āpau e like me ka hoʻohana ʻana. pāʻoihana pāʻoihana Ma mua, ua hoʻohana ʻia ma ka hopu ʻana i nā kaʻa ma kahi pūnaewele hoʻokahi. Hiki i ka ʻōnaehana ke hoʻonui i ke kaʻa kaʻa ma ka wikiwiki o nā ʻumi gigabits i kekona. Ua kaupalena ʻia ka nui o ka ʻikepili i mālama ʻia e ka nui o ka laha disk i loaʻa.
Hōʻike ʻia ka metadata o ke kau ma ka pūʻulu ʻenekini Elasticsearch.
Hoʻokomo ʻia ʻo Moloch i nā mea hana no ka hopu ʻana a me ka helu ʻana i nā kaʻa ma ke ʻano PCAP maoli, a me ke komo wikiwiki ʻana i ka ʻikepili i kuhikuhi ʻia. No ke kālailai ʻana i ka ʻike i hōʻiliʻili ʻia, hāʻawi ʻia kahi kikowaena pūnaewele e hiki ai iā ʻoe ke hoʻokele, ʻimi a hoʻokuʻu aku i nā laʻana. Hāʻawi pū ʻia API, hiki iā ʻoe ke hoʻololi i ka ʻikepili e pili ana i nā ʻeke i hopu ʻia ma ka ʻano PCAP a me nā kau i hoʻopaʻa ʻia ma ka format JSON i nā noi ʻaoʻao ʻekolu. ʻO ka hoʻohana ʻana i ke ʻano PCAP e hoʻomaʻamaʻa nui i ka hoʻohui ʻana me nā mea loiloi kaʻa e like me Wireshark.
Aia ʻo Moloch i ʻekolu mau mea kumu:
ʻO ka ʻōnaehana hopu kaʻa he noi C multi-threaded no ka nānā ʻana i ka hele ʻana, ke kākau ʻana i nā dumps ma ka format PCAP i ka disk, ka hoʻopaʻa ʻana i nā ʻeke hopu ʻia a me ka hoʻouna ʻana i nā metadata e pili ana i nā kau (SPI, Stateful packet inspection) a me nā protocols i ka hui Elasticsearch. Hiki ke mālama i nā faila PCAP ma ke ʻano i hoʻopili ʻia.
He kikowaena pūnaewele e pili ana i ka platform Node.js, e holo ana ma kēlā me kēia kikowaena hopu hopu a me nā noi noi e pili ana i ke komo ʻana i ka ʻikepili i kuhikuhi ʻia a me ka hoʻoili ʻana i nā faila PCAP ma o API.
Mālama ʻia ka metadata ma muli o Elasticsearch.
Hāʻawi ke kikowaena pūnaewele i kekahi mau ʻano nānā - mai nā helu helu maʻamau, nā palapala pili a me nā kiʻi hiʻohiʻona me nā ʻikepili e pili ana i nā loli o ka hana pūnaewele i nā mea hana no ke aʻo ʻana i nā kau pākahi, ke kālailai ʻana i ka hana i loko o ka pōʻaiapili o nā protocols i hoʻohana ʻia a me ka hoʻokaʻawale ʻana i nā ʻikepili mai nā dumps PCAP.
Ua hana ʻia kahi hoʻololi i ka hoʻohana ʻana i kahi ʻano typeless no ka kuhikuhi ʻana ma Elasticsearch.
Hoʻohui ʻia nā laʻana o nā kānana hopu kaʻa ma Lua.
Ua hoʻokō ʻia ke kākoʻo no ka mana 46-draft o ka protocol QUIC.
Ua hana hou ʻia ke code no ka parsing protocols, e hiki ai ke kākau i nā parsers no ka Ethernet a me nā protocol level IP.
Ua manaʻo ʻia nā parser hou no nā protocol arp, bgp, igmp, isis, lldp, ospf a me pim, a me nā parser no nā protocol unkEthernet ʻike ʻole a unkIpProtocol.
Hoʻohui i kahi koho e hoʻopau i nā parsers (disableParsers).
Ua hoʻohui ʻia ka hiki ke hōʻike i kekahi kahua integer ma nā pakuhi, i hoʻonoho ʻia ma ka ʻaoʻao hoʻonohonoho, i ka interface pūnaewele.
Hiki ke hoʻopaʻa ʻia nā kiʻi a me nā poʻo inoa i kēia manawa a ʻaʻole e neʻe i ka wā e ʻōwili ai i ka ʻaoʻao.
Huna a hāʻule paha ka hapa nui o nā pahu hoʻokele ma ka paʻamau.