Pavel Klemenkov, NVIDIA: Ke hoʻāʻo nei mākou e hōʻemi i ka ʻokoʻa ma waena o ka mea hiki i kahi ʻepekema data ke hana a me kāna mea e hiki ai ke hana.

Ua hoʻomaka ka lua o ka lawe ʻana o nā haumāna o ka papahana master ma ka ʻepekema data a me ka ʻike ʻoihana ʻo Ozon Masters - a i mea e maʻalahi ai ka hoʻoholo ʻana e haʻalele i kahi noi a lawe i ka hoʻokolohua pūnaewele, ua nīnau mākou i nā kumu papahana e pili ana i ka mea e manaʻo ai mai ke aʻo ʻana a me ka hana. me ka ʻikepili.

Pavel Klemenkov, NVIDIA: Ke hoʻāʻo nei mākou e hōʻemi i ka ʻokoʻa ma waena o ka mea hiki i kahi ʻepekema data ke hana a me kāna mea e hiki ai ke hana. Luna ʻIke ʻepekema NVIDIA a me kumu nā papa ma Big Data and Data Engineering Ua kamaʻilio ʻo Pavel Klemenkov e pili ana i ke kumu e pono ai ka makemakika e kākau i ka code a aʻo ma Ozon Masters no ʻelua makahiki.

— He nui nā hui e hoʻohana ana i nā algorithms ʻepekema data?

- He nui loa. ʻO ka nui o nā hui nui i loaʻa ka ʻikepili nui e hoʻomaka ana e hana me ia me ka maikaʻi a i ʻole e hana pū me ia no ka manawa lōʻihi. Ua maopopo i ka hapalua o ka mākeke e hoʻohana i ka ʻikepili i hiki ke hoʻokomo i kahi pālahalaha Excel a i ʻole hiki ke helu ʻia ma kahi kikowaena nui, akā ʻaʻole hiki ke ʻōlelo ʻia he liʻiliʻi nā ʻoihana e hiki ke hana me ka ʻikepili.

— E haʻi iki iā mākou e pili ana i nā papahana kahi i hoʻohana ʻia ai ka ʻepekema data.

— No ka laʻana, ʻoiai mākou e hana ana ma Rambler, ke hana nei mākou i kahi ʻōnaehana hoʻolaha e hana ana ma nā loina o RTB (Real Time Bidding) - pono mākou e kūkulu i nā hiʻohiʻona he nui e hoʻomaikaʻi i ke kūʻai ʻana i ka hoʻolaha a i ʻole, no ka laʻana, hiki ke wānana i ka hiki o kahi kaomi, hoohuli, a pela aku. I ka manawa like, hoʻopuka ka hoʻolaha hoʻolaha i ka nui o nā ʻikepili: nā moʻolelo o nā noi pūnaewele i nā mea kūʻai hoʻolaha hoʻolaha, nā moʻolelo o nā manaʻo hoʻolaha hoʻolaha, nā logs o nā kaomi - he ʻumi terabytes kēia o ka ʻikepili i kēlā me kēia lā.

Eia kekahi, no kēia mau hana ua ʻike mākou i kahi mea hoihoi: ʻo ka nui o ka ʻikepili āu e hāʻawi ai e hoʻomaʻamaʻa i ke kumu hoʻohālike, ʻoi aku ka kiʻekiʻe o kona ʻano. ʻO ka mea maʻamau, ma hope o ka nui o ka ʻikepili, pau ka maikaʻi o ka wānana i ka hoʻomaikaʻi ʻana, a no ka hoʻomaikaʻi hou ʻana i ka pololei, pono ʻoe e hoʻohana i kahi kumu hoʻohālike kumu, kahi ala ʻē aʻe i ka hoʻomākaukau ʻana i ka ʻikepili, nā hiʻohiʻona, a pēlā aku. Ma ʻaneʻi ua hoʻouka mākou i nā ʻikepili hou aʻe a piʻi ka maikaʻi.

He hihia maʻamau kēia kahi e hana mua ai nā mea loiloi me nā pūʻulu ʻikepili nui i mea e hana ai i kahi hoʻokolohua, a ma kahi hiki ʻole ke loaʻa me kahi laʻana liʻiliʻi e kūpono i kahi MacBook ʻoluʻolu. I ka manawa like, pono mākou i nā hiʻohiʻona i hāʻawi ʻia, no ka mea ʻaʻole hiki ke aʻo ʻia. Me ka hoʻokomo ʻana o ka ʻike kamepiula i ka hana ʻana, ʻoi aku ka maʻamau o ia mau hiʻohiʻona, ʻoiai ʻo nā kiʻi ka nui o ka ʻikepili, a no ka hoʻomaʻamaʻa ʻana i kahi hiʻohiʻona nui, pono nā miliona o nā kiʻi.

Hiki koke mai ka nīnau: pehea e mālama ai i kēia ʻike a pau, pehea e hoʻoponopono pono ai, pehea e hoʻohana ai i nā algorithms hoʻonaʻauao mahele - ke neʻe nei ka manaʻo mai ka makemakika maʻemaʻe i ka ʻenekinia. ʻOiai ʻaʻole ʻoe e kākau i ke code i ka hana ʻana, pono ʻoe e hana me nā mea hana ʻenekinia e hana i kahi hoʻokolohua.

— Pehea ka hoʻololi ʻana o ke ala i nā hakahaka ʻepekema data i nā makahiki i hala iho nei?

- Ua pau ka ʻikepili nui i ka hype a ua lilo i mea maoli. He ʻuʻuku loa ka paʻakikī, ʻo ia ka mea hiki ke hōʻiliʻili i nā ʻikepili a pau i ka wā e hiki mai ana e lawa ai ka hoʻāʻo ʻana i kekahi hypotheses. ʻO ka hopena, ʻike nui ʻia ka ʻike o nā mea hana no ka hana ʻana me ka ʻikepili nui, a ʻo ka hopena, ʻike ʻia ka nui o nā hakahaka no nā ʻenekini data.

I koʻu hoʻomaopopo ʻana, ʻaʻole hoʻokolohua ka hopena o ka hana a ka ʻepekema data, akā he huahana i hiki i ka hana. A mai kēia manaʻo wale nō, ma mua o ka hiki ʻana mai o ka hype e pili ana i ka ʻikepili nui, ua maʻalahi ke kaʻina hana: ua hana nā ʻenekinia i ke aʻo ʻana i ka mīkini e hoʻoponopono i nā pilikia kikoʻī, a ʻaʻohe pilikia me ka lawe ʻana i nā algorithms i ka hana.

— He aha ka mea e pono ai ke noho mau i kahi loea i ʻimi ʻia?

- I kēia manawa ua hele mai nā poʻe he nui i ka ʻepekema data i aʻo i ka makemakika, ke kumumanaʻo o ke aʻo ʻana i ka mīkini, a i komo i nā hoʻokūkū hoʻopaʻa ʻikepili, kahi i hoʻolako ʻia ai kahi ʻenehana i mākaukau: hoʻomaʻemaʻe ʻia ka ʻikepili, wehewehe ʻia nā metric, a ʻaʻohe nā koi no ka hoʻonā e hana hou a wikiwiki.

ʻO ka hopena, hele mai nā kāne e hana me ka mākaukau ʻole no ka ʻoiaʻiʻo o ka ʻoihana, a ua hoʻokumu ʻia kahi āpau ma waena o nā mea hou a me nā mea hoʻomohala ʻike.

Me ka hoʻomohala ʻana o nā mea hana e hiki ai iā ʻoe ke hōʻuluʻulu i kāu kumu hoʻohālike mai nā modules i mākaukau - a ua loaʻa iā Microsoft, Google a me nā mea ʻē aʻe he nui nā hopena - a me ka automation o ke aʻo ʻana i ka mīkini, e ʻoi aku ka nui o kēia āpau. I ka wā e hiki mai ana, e koi ʻia ka ʻoihana no nā mea noiʻi koʻikoʻi e piʻi mai me nā algorithms hou, a me nā limahana me nā mākau hoʻomohala hoʻomohala e hoʻokō i nā kumu hoʻohālike a me nā kaʻina hana. Hoʻolālā ʻia ka papa Ozon Masters i ka ʻenekinia data e hoʻomohala i nā mākau ʻenekinia a me ka hiki ke hoʻohana i nā algorithm aʻo mīkini i hoʻokaʻawale ʻia ma ka ʻikepili nui. Ke hoʻāʻo nei mākou e hōʻemi i ka ʻokoʻa ma waena o ka mea hiki ke hana i kahi ʻepekema data a me kāna mea e hiki ai ke hana i ka hana.

— No ke aha e hele ai ka makemakika me ka diploma e aʻo i ka ʻoihana?

— Ua hiki i ka Lūkini ikepili 'epekema kaiaulu ua hiki mai e hoomaopopo i ka akamai a me ka hoao ana ua loa koke hoohuliia mai i ke kālā, no laila, i ka manawa e loaʻa ai i ka 'ike loea, hoʻomaka kona kumukūʻai e ulu wikiwiki loa, o ka poʻe akamai loa i ka pipiʻi - a me keia. ʻoiaʻiʻo i kēia manawa o ka mākeke hoʻomohala.

ʻO kahi ʻāpana nui o ka hana a ka ʻepekema data ʻo ke komo ʻana i ka ʻikepili, hoʻomaopopo i ka mea e waiho nei ma laila, kūkākūkā me nā poʻe i kuleana no nā kaʻina hana ʻoihana a hana i kēia ʻikepili - a laila hoʻohana wale ia e kūkulu i nā kumu hoʻohālike. No ka hoʻomaka ʻana e hana me ka ʻikepili nui, he mea nui ka loaʻa ʻana o nā mākau ʻenekinia - ʻoi aku ka maʻalahi o ka pale ʻana i nā kihi ʻoi aku ka nui o ka ʻepekema data.

He moʻolelo maʻamau: ua kākau ʻoe i kahi nīnau ma SQL i hoʻokō ʻia me ka hoʻohana ʻana i ka hive framework e holo ana ma ka ʻikepili nui. Hoʻopili ʻia ka noi i loko o ʻumi mau minuke, i ka hihia ʻoi loa - i hoʻokahi hola a ʻelua paha, a pinepine, i ka wā e loaʻa ai nā hoʻoiho o kēia ʻikepili, ʻike ʻoe ua poina ʻoe e noʻonoʻo i kekahi kumu a i ʻole ka ʻike hou aʻe. Pono ʻoe e hoʻouna hou i ka noi a kali i kēia mau minuke a me nā hola. Inā he akamai maikaʻi ʻoe, e lawe ʻoe i kahi hana ʻē aʻe, akā, e like me ka hōʻike ʻana i ka hoʻomaʻamaʻa, he liʻiliʻi kā mākou akamai akamai, a ke kali wale nei nā kānaka. No laila, i loko o nā papa e hāʻawi mākou i ka manawa nui e hana pono i mea e kākau mua ai i nā nīnau e hana ʻaʻole no ʻelua hola, akā no kekahi mau minuke. Hoʻonui kēia mākaukau i ka huahana, a me ka waiwai o kahi loea.

- Pehea ka ʻokoʻa o Ozon Masters mai nā papa ʻē aʻe?

- Ua aʻo ʻia ʻo Ozon Masters e nā limahana o Ozon, a ua hoʻokumu ʻia nā hana i nā hihia ʻoihana maoli i hoʻoholo ʻia i nā hui. ʻO kaʻoiaʻiʻo, ma waho aʻe o ka nele o nā mākau ʻenekinia, he pilikia ʻē aʻe ka mea nāna i aʻo i ka ʻepekema data ma ke kulanui: ua hoʻokumu ʻia ka hana o kahi ʻoihana ma ka ʻōlelo o ka ʻoihana, a he maʻalahi loa kāna pahuhopu: e loaʻa kālā hou aʻe. A ʻike maikaʻi ka mea makemakika pehea e hoʻonui ai i nā metric matematika - akā paʻakikī ka loaʻa ʻana o kahi hōʻailona e hoʻopili ʻia me kahi metric ʻoihana. A pono ʻoe e hoʻomaopopo e hoʻoponopono ana ʻoe i kahi pilikia ʻoihana, a hui pū me ka ʻoihana, hoʻokumu i nā metric i hiki ke hoʻopaʻa ʻia ma ka makemakika. Loaʻa kēia mākaukau ma o nā hihia maoli, a hāʻawi ʻia lākou e Ozon.
A inā paha mākou e haʻalele i nā hihia, ua aʻo ʻia ke kula e nā loea he nui e hoʻoponopono i nā pilikia ʻoihana i nā ʻoihana maoli. ʻO ka hopena, ʻoi aku ka hoʻomaʻamaʻa ʻana o ke aʻo ʻana iā ia iho. Ma ka liʻiliʻi ma kaʻu papa, e hoʻāʻo wau e hoʻololi i ka manaʻo i ka hoʻohana ʻana i nā mea hana, nā ala e kū nei, a pēlā aku. Me nā haumāna, e hoʻomaopopo mākou aia kēlā me kēia hana i kāna pono ponoʻī, a ʻo kēlā me kēia mea hana i kona wahi e pili ai.

— ʻO ka papahana hoʻonaʻauao ʻikepili kaulana loa, ʻoiaʻiʻo, ʻo ia ʻo ShAD - he aha ka ʻokoʻa mai ia?

- Ua maopopo ia ShAD a me Ozon Masters, ma kahi o ka hana hoʻonaʻauao, hoʻoponopono i ka pilikia kūloko o ka hoʻomaʻamaʻa limahana. Loaʻa nā haumāna puka SHAD kiʻekiʻe i Yandex, akā ʻo ka hopu ʻo Yandex, ma muli o kāna mau kikoʻī - a ua nui a hana ʻia i ka wā he liʻiliʻi nā mea hana maikaʻi no ka hana ʻana me ka ʻikepili nui - aia kāna pono ponoʻī a me nā mea hana no ka hana ʻana me ka ʻikepili. , ʻo ia hoʻi, pono ʻoe e haku iā lākou. He ʻōlelo ʻē aʻe ʻo Ozon Masters - inā ua lanakila ʻoe i ka papahana a ʻo Ozon a i ʻole kekahi o ka 99% o nā hui ʻē aʻe e kono iā ʻoe e hana, ʻoi aku ka maʻalahi o ka hoʻomaka ʻana e pōmaikaʻi i ka ʻoihana; ua loaʻa ka mākaukau ma ke ʻano he ʻāpana o Ozon Masters. e lawa no ka hoomaka ana e hana.

— ʻElua makahiki ka lōʻihi o ka papa. No ke aha ʻoe e hoʻolilo nui ai i kēia?

- Nīnau maikaʻi. He lōʻihi ka manawa, no ka mea, ma ke ʻano o ka ʻike a me ka pae o nā kumu, he papahana kumu kumu kēia e koi ai i ka manawa nui e haku, me nā haʻawina home.

Mai kaʻu hiʻohiʻona papa, ʻo ka manaʻo e hoʻolilo ka haumāna i 2-3 mau hola o ka pule ma nā haʻawina he mea maʻamau. ʻO ka mea mua, hana ʻia nā hana ma kahi pūʻulu hoʻomaʻamaʻa, a ʻo kēlā me kēia puʻupuʻu i hōʻike ʻia e hoʻohana kekahi poʻe iā ia i ka manawa like. ʻO ia hoʻi, pono ʻoe e kali no ka hoʻomaka ʻana o ka hana; hiki ke koho ʻia kekahi mau kumuwaiwai a hoʻololi ʻia i kahi pila kiʻekiʻe. Ma ka ʻaoʻao ʻē aʻe, ʻo kēlā me kēia hana me ka ʻikepili nui e lawe i ka manawa nui.

Inā he mau nīnau hou aʻe kāu e pili ana i ka papahana, e hana ana me ka ʻikepili nui a i ʻole nā ​​mākau ʻenekinia, aia ʻo Ozon Masters i kahi lā wehe pūnaewele ma ka Pōʻaono, ʻApelila 25 ma 12:00. Hui mākou me nā kumu a me nā haumāna ma ho'okokoke a ma YouTube.

Source: www.habr.com

Pākuʻi i ka manaʻo hoʻopuka