Kodi i motorit SQL BlazingSQL, që përdor GPU për përshpejtimin e procesimit, është hapur

Njoftuar për hapjen e teksteve burimore të motorit SQL BlazingSQL, që përdor GPU për përshpejtimin e përpunimit të të dhënave. BlazingSQL nuk është një sistem i plotë menaxhimi të bazave të të dhënave, por pozicionohet si një motor për analizimin dhe përpunimin e grupeve të mëdha të të dhënave, i krahasueshëm në objektiva me Apache Spark. Kodi është shkruar në gjuhën Python dhe është i hapur nën licencën Apache 2.0.

BlazingSQL është i përshtatshëm për kryerjen e kërkesave analitike të veçanta mbi grupe të mëdha të të dhënave (dhjetëra gigabajt), të ruajtura në formate tabelare (p.sh., logjet, statistika NetFlow, etj.). BlazingSQL mund të kryejë kërkesa nga skedarët raw në formatet CSV dhe Apache Parquet, të vendosura në sisteme të skedarëve rrjetë dhe në re, si HDSF dhe AWS S3, duke transmetuar direkt rezultatin në memorien e GPU. Falë paralelizimit të operacioneve në GPU dhe përdorimit të memories më të shpejtë video, kërkesat në BlazingSQL realizohen deri në 20 herë më shpejt se në Apache Spark.

Kodi i motorit SQL BlazingSQL, që përdor GPU për përshpejtimin e procesimit, është hapur

Për punën me GPU, përdoret një grup bibliotekash të zhvilluar me pjesëmarrjen e kompanisë NVIDIA aplikacioneve të hapura bibliotekat RAPIDS, që mundësojnë krijimin e aplikacioneve për përpunimin e të dhënave dhe analizat, të cilat realizohen plotësisht në anën e GPU (ofrohet interfaci Python për përdorimin e primitiveve të ulëta CUDA dhe paralelizimin e llogaritjeve).

BlazingSQL ofron mundĂ«sinĂ« e pĂ«rdorimit tĂ« SQL nĂ« vend tĂ« API pĂ«r pĂ«rpunimin e tĂ« dhĂ«nave cuUDF (bazuar nĂ« Apache Arrow), e pĂ«rdorur nĂ« RAPIDS. BlazingSQL Ă«shtĂ« njĂ« shtresĂ« shtesĂ« qĂ« punon mbi cuDF dhe pĂ«rdor bibliotekĂ«n cuIO pĂ«r tĂ« lexuar tĂ« dhĂ«na nga disku. KĂ«rkesat SQL pĂ«rkthehen nĂ« thirrje funksionesh cuUDF, qĂ« lejojnĂ« ngarkimin e tĂ« dhĂ«nave nĂ« GPU dhe kryerjen e operacioneve tĂ« bashkimit, grumbullimit dhe filtrimit mbi to. ËshtĂ« e mbĂ«shtetur krijimi i konfiguracioneve tĂ« shpĂ«rndara qĂ« mbulojnĂ« mijĂ«ra GPU.

BlazingSQL e thjeshton dukshĂ«m punĂ«n me tĂ« dhĂ«nat — nĂ« vend tĂ« qindra thirrjeve tĂ« funksioneve cuDF mund tĂ« mjaftojĂ« njĂ« kĂ«rkesĂ« SQL. PĂ«rdorimi i SQL siguron integrimin e RAPIDS me sistemet ekzistuese tĂ« analizĂ«s, pa shkruar procesorĂ« specifik dhe pa u mbĂ«shtetur nĂ« ngarkimin ndĂ«rmjetĂ«s tĂ« tĂ« dhĂ«nave nĂ« njĂ« sistem tĂ« bazĂ«s sĂ« dhĂ«nave shtesĂ«, por
duke ruajtur përputhshmërinë e plotë me të gjitha pjesët e RAPIDS, duke përkthyer funksionalitetin e disponueshëm në SQL dhe duke siguruar një performancë në nivelin e cuDF. Ndër të tjera, mbështetet integrimi me bibliotekat XGBoost dhe cuML për zgjidhjen e detyrave të analizës dhe mësimit të makinerive.

Burimi: opennet.ru

Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster