ClickHouse + Graphite: quam ad signanter reducere orbis tractus consummatio

Salve, habr.

Si aliquis utitur systema graphite-web et offendit repono perficientur exitus vix parvam stillam (IO, orbis tractus consumptus est), tunc forte strepita ut substitutio ad unum mitteretur. Haec propositio implicat tertiam partem exsecutionem iam adhibitam esse daemonis metri acceptionem, e.g carbonwriter aut go-carbon.

ClickHouse problemata descripta bene solvit. Exempli gratia, translatis 2TiB notitiarum susurri, aptant in 300GiB. De comparatione singillatim non moror, articulorum in hac re permulta sunt. Praeterea, usque ad recentem, non omnia perfecta sunt cum repositione ClickHouse nostra.

Problematum consumptis spatium

Primo aspectu omnia bene operantur. sequentia documentumFac aboutconfig ad rationem metrics repono (ulterius retention) , deinde mensam creare iuxta commendationem delectus backend pro graphite-textu: carbonis clickhouse+graphite-clickhouse aut graphousesecundum quod ACERVUS adhibetur. Tum bomb... tempus abit.

Ad quorum unum cognoscendum, debes scire quomodo opus inserendi et vitae ulterioris iter notitiarum in tabulis machinis familiae *.MergeTree ClickHouse (charts ex presentations Alexey Zatelepin):

• insertum блок data. In nobis, metrice quod pervenerunt.
  
• Quisque talis clausus sortitur secundum clavem antequam scriberetur ad disci. ORDER BYcerta mensa creando.
• Post sorting, кусок (part) data scribitur in disco.
  
• Ministri monitores in curriculo ita ut non multae partes exstent et in background mittat слияния (mergeinfra merge).
  
  
• Servus currens cessat migrare in seipsa, quamprimum notitia sistit active influens партицию (partition) , sed processus manually cum imperio potes incipere OPTIMIZE.
• Si una tantum pars in partitione remanet, tunc merge uti consueto mandato currere non poteris, utendum est. OPTIMIZE ... FINAL

Primae itaque metri venerint. Aliquam et tempus ante. Eventus posteriores aliquantum variari possunt a pluribus causis pendentes;

• Clavis partitio fieri potest vel perexiguus (dies) vel valde magnus (menses complures).
• Retentione config aptare possunt ad limina aggregationis notabilium aliquot notabilium intra partitionem activam (ubi metrici notantur), vel fortasse non.
• Si data est sors, tunc primores chunki, qui ob infuscationem mergi possunt, iam immanes (si clavem partitionem non-optimam eliges), non se cum novis parvis chunkis miscebunt.

Etiam semper finibus ipsum. Spatium metri in ClickHouse occupatum tantum crescit si:

• non applicare OPTIMIZE ... FINAL manually or *
• notitias in omnes partitiones in fundamento permanenti non inseres, ut citius aut serius in background merge incipiet

Secundus modus videtur esse facillimus ad efficiendum, et ideo est falsa et primo tentata.
Scripsi pythonem satis simplicem, qui metrice phantasma emisit singulis diebus per annos praeteriti 4 et singulis horis cron currebat.
Cum tota operatio de ClickHouse DBMS innitatur eo quod haec ratio citius aut serius omnia opera curriculi faciet, sed ignoratur quando, exspectare non potui tempus cum veteres ingentes partes mergere dignarentur. nova parva. Patuit nos necessitatem quaerere ad viam automatis optimizations coactam.

Informationes in tabulis ClickHouse ratio

Inspice in mensa compages system.parts. Haec notitia comprehensiva est de unaquaque parte omnium tabularum in servo strepitato. Continet inter alia sequentia columnae;

• db nomine (database);
• mensa nomen (table);
• partitio nomen et ID (partition & partition_id);
• quando pars creata est (modification_time);
• minimum et maximum diem in fragmen (partitio fit per diem) (min_date & max_date);

Est etiam mensa system.graphite_retentionscum sequentibus iucunda agris;

• db nomine (Tables.database);
• mensa nomen (Tables.table);
• aetas metrica cum proxime aggregatione applicandaage);

sic:

1. Habemus mensam chunkarum et mensam aggregationis regulas.
2. Intersectionem eorum coniungimus et tabulas omnes *GraphiteMergeTree possidemus.
3. Quaerimus omnes partitiones in quibus:
   • plus quam una
   • vel tempus venerit ut applicatio regulae proximae aggregationis sit, et modification_time antiquiorem hoc momento.

Реализация

Haec petitio

SELECT
    concat(p.database, '.', p.table) AS table,
    p.partition_id AS partition_id,
    p.partition AS partition,
    -- Самое "старое" правило, которое может быть применено для
    -- партиции, но не в будущем, см (*)
    max(g.age) AS age,
    -- Количество кусков в партиции
    countDistinct(p.name) AS parts,
    -- За самую старшую метрику в партиции принимается 00:00:00 следующего дня
    toDateTime(max(p.max_date + 1)) AS max_time,
    -- Когда партиция должна быть оптимизированна
    max_time + age AS rollup_time,
    -- Когда самый старый кусок в партиции был обновлён
    min(p.modification_time) AS modified_at
FROM system.parts AS p
INNER JOIN
(
    -- Все правила для всех таблиц *GraphiteMergeTree
    SELECT
        Tables.database AS database,
        Tables.table AS table,
        age
    FROM system.graphite_retentions
    ARRAY JOIN Tables
    GROUP BY
        database,
        table,
        age
) AS g ON
    (p.table = g.table)
    AND (p.database = g.database)
WHERE
    -- Только активные куски
    p.active
    -- (*) И только строки, где правила аггрегации уже должны быть применены
    AND ((toDateTime(p.max_date + 1) + g.age) < now())
GROUP BY
    table,
    partition
HAVING
    -- Только партиции, которые младше момента оптимизации
    (modified_at < rollup_time)
    -- Или с несколькими кусками
    OR (parts > 1)
ORDER BY
    table ASC,
    partition ASC,
    age ASC

refert singulas tabulas *GraphiteMergeTree partitiones quarum bus in orbis tractus liberare debet. Restat ut per omnia petatur OPTIMIZE ... FINAL. Postrema exsecutio etiam rationem habet quod saepta cum memoria activa attingere non oportet.

Hoc est quod prorsus project facit graphite-ch-optimizer. Collegae superiores Yandex.Market productionem probaverunt, effectus operis infra videri potest.

Si progressio servo cum ClickHouse curris, opus in daemone modo incipiet simpliciter. Semel hora petitio exsecutioni mandabitur, num novae partitiones maiores tribus diebus apparuerint quae optimized possunt.

Consilia immediata nostra de fasciculis saltem debijs provideant, et, si fieri potest, etiam rpm.

Sed in finem

Ad preteritum 9+ mensibus fui intus in mea comitatu innogames multum temporis tinkering per intersectionem ClickHouse et graphite-textus consumpsit. Bona usus fuit, quae consecuta est in celeri transitu e susurro ad ClickHouse sicut in repositione metrica. Spero hunc articulum aliquid initium seriei de quibus emendationibus in variis huius acervi partibus fecimus, et quid in posterum fiet.

Aliquot liters cerevisiae et admin diebus in explicandis precibus absumpti sunt, una cum v0devilpro quo volo ei gratias agere. Et etiam ad hoc articulum recognoscendum.

Project pagina github

Source: www.habr.com