ProHoster > Blogi > Haldamine > Veebisaidi statistika ja oma vÀike arhiiv

Veebisaidi statistika ja oma vÀike arhiiv

Webalizeri tööriist ja Google Analytics on aidanud mul aastaid saada ĂŒlevaadet veebisaitide toimimisest. NĂŒĂŒd saan aru, et nad annavad vĂ€ga vĂ€he kasulikku teavet. Omandades ligipÀÀsu oma access.log failile, on statistika mĂ”istmine vĂ€ga lihtne ja selleks piisab elementaarsetest tööriistadest nagu sqlite, html, sql keel ja mĂ”ni skriptimiskeel.

Webalizeri andmeallikaks on access.log fail serverilt. Sellised on tema veerud ja numbrid, millest on arusaadav vaid ĂŒldine liiklusmaht:

Veebisaidi statistika ja oma vÀike arhiiv
Veebisaidi statistika ja oma vÀike arhiiv
Sellised tööriistad nagu Google Analytics koguvad andmeid ise laaditud lehelt. Nad kuvavad meile paar diagrammi ja joonist, mille pÔhjal on sageli keeruline Ôigeid jÀreldusi teha. VÔib-olla oleks pidanud rohkem pingutama? Ei tea.

Nii et, mida ma tahtsin nĂ€ha veebisaidi kĂŒlastuste statistikast?

Kasutajate ja robotite liiklus

Sageli on veebisaitide liiklus piiratud ja on vajalik nÀha, kui palju kasulikku liiklust kasutatakse. NÀiteks nii:

Veebisaidi statistika ja oma vÀike arhiiv

SQL aruanne

SELECT
1 as 'StackedArea: Kasutajate ja robotite genereeritud liiklus',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'PĂ€ev',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END) / 1000 AS 'Robotid, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END) / 1000 AS 'Kasutajad, KB'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Grafikult on nÀha pidev robotite aktiivsus. Oleks huvitav pÔhjalikult uurida kÔige aktiivsemaid esindajaid.

TĂŒĂŒtud robotid

Klassifitseerime roboteid pĂ”hinedes kasutaja agendi teabele. Lisastatistika pĂ€evase liikluse, Ă”nnestunud ja ebaĂ”nnestunud pĂ€ringute arvu kohta annab hea ĂŒlevaate robotite aktiivsusest.

Veebisaidi statistika ja oma vÀike arhiiv

SQL aruanne

SELECT 
1 AS 'Tabel: TĂŒĂŒtud Robotid',
MAX(USG.AGENT_BOT) AS 'Robot',
ROUND(SUM(FCT.BYTES) / 1000 / 14.0, 1) AS 'KB pÀevas',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IP-d pÀevas',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Kliendi viga', 'Serveri viga') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Vigased pÀringud pÀevas',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Edukas', 'Suunan') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Edukaid pÀringuid pÀevas',
USG.USER_AGENT_NK AS 'Agendi nimi'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
     DIM_USER_AGENT USG,
     DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT != 'n.a.'
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10

Antud juhul oli analĂŒĂŒsi tulemus otsus piirata juurdepÀÀsu saidile, lisades selle robots.txt faili.

Kasutaja-agent: AhrefsBot
Keela: /
Kasutaja-agent: dotbot
Keela: /
Kasutaja-agent: bingbot
Indeksimise viivitus: 5
Esimesed kaks robotit kadusid tabelist ning MS robotid liikusid esimestelt ridadelt allapoole.

KÔige aktiivsema pÀeva ja tunni aeg

Liiklusest on nĂ€htavad tĂ”usud. Nende ĂŒksikasjalikuks uurimiseks on vajalik eraldada nende tekkimise aeg, ilma et peaks kindlasti kuvama kĂ”iki mÔÔtmise tundide ja pĂ€evade andmeid. Nii on lihtsam leida eraldi pĂ€ringud logifailis vajadusel pĂ”hjalikuks analĂŒĂŒsiks.

Veebisaidi statistika ja oma vÀike arhiiv

SQL aruanne

SELECT
1 AS 'Rida: PĂ€ev ja tund KĂŒlastuste kasutajatelt ja robotitelt',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'KuupÀev Aeg',
HIB AS 'Robotid, KĂŒlastused',
HIU AS 'Kasutajad, KĂŒlastused'
FROM (
	SELECT
	EVENT_DT,
	SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
	SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
	FROM FCT_ACCESS_REQUEST_REF_HH
	WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
	GROUP BY EVENT_DT
	ORDER BY SUM(LINE_CNT) DESC
	LIMIT 10
) ORDER BY EVENT_DT

TÀitame kÔige aktiivsemad tunnid, mis on 11, 14 ja 20 esimese pÀeva graafikul. JÀrgmisel pÀeval olid robotid aktiivsed kell 13.

Kasutajate keskmine pÀevane aktiivsus nÀdalate lÔikes

Oleme aktiivsuse ja liikluse osas veidi selgust saanud. JĂ€rgmine kĂŒsimus oli kasutajate enda aktiivsus. Sellise statistika jaoks on soovitatav kasutada pikki agregatsiooni perioode, nĂ€iteks nĂ€dalat.

Veebisaidi statistika ja oma vÀike arhiiv

SQL aruanne

SELECT
1 as 'Rida: Keskmine pÀevane kasutaja aktiivsus nÀdalate kaupa',
strftime('%W nÀdal', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'NÀdal',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Lehed IP kohta pÀevas',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Failid IP kohta pÀevas'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG,
  DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT='n.a.' /* ainult kasutajad */
  AND HST.STATUS_GROUP IN ('Successful') /* head lehed */
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-3 month')
GROUP BY strftime('%W nÀdal', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

NĂ€dalast statistika nĂ€itab, et keskmiselt avab ĂŒks kasutaja 1,6 lehte pĂ€evas. Ühe kasutaja jaoks sĂ”ltub nĂ”utavate failide arv antud juhul saidile uute failide lisamisest.

KÔik pÀringud ja nende staatuste

Webalizer nÀitas alati konkreetseid lehekoodide jahtaatlemise tÔendeid ning sooviti alati nÀha lihtsalt edukaid pÀringute ja vigade arvu.

Veebisaidi statistika ja oma vÀike arhiiv

SQL aruanne

VALI
1 kui 'Rida: KÔik pÀringud oleku jÀrgi',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'PĂ€ev',
SUM(CASE WHEN STS.STATUS_GROUP='Eduka' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Edu',
SUM(CASE WHEN STS.STATUS_GROUP='Suunamine' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Suunamine',
SUM(CASE WHEN STS.STATUS_GROUP='Kliendi viga' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Kliendi Viga',
SUM(CASE WHEN STS.STATUS_GROUP='Serveri viga' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Serveri Viga'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Aruanne kuvab pĂ€ringud, mitte klikke (hitid), erinevalt LINE_CNT meetrikast, REQUEST_CNT arvestatakse kui COUNT(DISTINCT STG.REQUEST_NK). EesmĂ€rk on nĂ€idata efektiivseid sĂŒndmusi, nĂ€iteks, MS robotid kĂŒsivad sadu kordi pĂ€evas faili robots.txt ja sellised pĂ€ringud arvestatakse antud juhul ĂŒhe korra. See aitab tasandada diagrammi kĂ”ikumisi.

Diagrammist on nĂ€ha palju vigu — mitteolemasolevad lehed. AnalĂŒĂŒsi tulemusena lisati ĂŒmbersuunamised kustutatud lehtedelt.

Vigased pÀringud

PÀringute pÔhjalikuks uurimiseks saab vÀlja tuua detailse statistika.

Veebisaidi statistika ja oma vÀike arhiiv

SQL aruanne

VALI
  1 AS 'Tabel: Peamised vigased pÀringud',
  REQ.REQUEST_NK AS 'PĂ€ring',
  'Viga' AS 'PĂ€ringu olek',
  ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hite pÀevas',
  ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IP-d pÀevas',
  ROUND(SUM(FCT.BYTES) / 1000 / 14.0, 1) AS 'KB pÀevas'
FROM
  FCT_ACCESS_REQUEST_REF_HH FCT,
  DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
  AND FCT.STATUS_GROUP IN ('Kliendi viga', 'Serveri viga')
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20

Sellest nimekirjast leiate ka kÔik kÔned, nÀiteks pÀring /wp-login.php, muutes pÀringute kirjutamise reegleid. serverilt saab kohandada serveri reaktsiooni sarnastele pÀringutele ja saata need avalehele.

Seega, mĂ”ned lihtsad aruanded serveri logifaili pĂ”hjal annavad piisavalt tĂ€ieliku ĂŒlevaate sellest, mis veebilehel toimub.

Kuidas infot saada?

SQLite andmebaasid on tÀiesti piisavad. Loome tabelid: abistava ETL protsesside logimise jaoks.

Veebisaidi statistika ja oma vÀike arhiiv

Samm tabel, kuhu kirjutame logifailid PHP vahenditega. Kaks aggregaatide tabelit. Loome pÀevase tabeli statistika jaoks kasutajaliideste ja pÀringute staatuste kohta. Tunnise pÀringute, staatuste ja agendi statistika tabeli. Neli sobiva mÔÔtme tabelit.

Tulemuseks on jÀrgmine relatsiooniline mudel:

AndmemudelVeebisaidi statistika ja oma vÀike arhiiv

Skript objekti loomiseks SQLite andmebaasis:

DDL objekti loomine

KUSTA TABEL IF EXISTS DIM_USER_AGENT;
ALO TABEL DIM_USER_AGENT (
  DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
  USER_AGENT_NK     TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_OS          TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_ENGINE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_DEVICE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_BOT         TEXT NOT NULL DEFAULT 'n.a.',
  UPDATE_DT         INTEGER NOT NULL DEFAULT 0,
  UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);

Lavastus

Access.log faili puhul tuleb lugeda, analĂŒĂŒsida ja salvestada kĂ”ik pĂ€ringud andmebaasi. Seda saab teha kas otse skriptide abil vĂ”i kasutades sqlite vahendeid.

Logifaili formaat:

//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';

VÔtmete levitamine

Kui toorandmed on andmebaasis, tuleb salvestada mÔÔtmete tabelitesse vÔtmed, mida seal pole. Nii saab luua linke mÔÔtmistele. NÀiteks on DIM_REFERRER tabelis vÔtme kombinatsioon kolmest vÀljast.

SQL pÀring vÔtmete levitamiseks

/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
	CLS.HOST_NK,
	CLS.PATH_NK,
	CLS.QUERY_NK,
	STRFTIME('%s','now') AS UPDATE_DT
FROM (
	SELECT DISTINCT
	REFERRER_HOST AS HOST_NK,
	REFERRER_PATH AS PATH_NK,
	CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* ĐŸŃ‚Ń€Đ”Đ·Đ°Đ”ĐŒ sid - спДцОфОĐșĐ° Ń†ĐŒŃ */
	ELSE REFERRER_QUERY END AS QUERY_NK
	FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULL

Kasutajagentide tabelisse levitamine vÔib sisaldada botide loogikat, nÀiteks sql-i lÔik:


CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
	THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
	THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
	THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
	THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
	THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
	OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
	OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
	OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
	OR INSTR(LOWER(CLS.BROWSER),'wget')>0
	THEN 'other'
ELSE 'n.a.' END AS AGENT_BOT

Agregaatide tabelid

LÔpuks laadime agregaatide tabelid, nÀiteks vÔib pÀevane tabel laadida jÀrgmiselt:

SQL pÀring agregaatide laadimiseks

/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
	STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
	CASE SUBSTR(TIME_NK,5,3)
	WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
	WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
	ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
	BROWSER AS USER_AGENT_NK,
	REQUEST_NK,
	IP_NR,
	STATUS,
	LINE_NK,
	BYTES
FROM STG_ACCESS_LOG
)
SELECT
	CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
	USG.DIM_USER_AGENT_ID,
	HST.DIM_HTTP_STATUS_ID,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
	COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
	COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
	COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
	SUM(BYTES) AS BYTES
FROM STG,
	DIM_HTTP_STATUS HST,
	DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
  AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
  AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
  AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_ID

SQLite andmebaas vÔimaldab kirjutada keerukaid pÀringuid. WITH sisaldab andmete ja vÔtmete ettevalmistust. Peamine pÀring kogub kÔik lingid mÔÔtmistele.

Tingimus ei luba ajalugu veel kord laadida: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, kus parameeter on pÀringu tulemus
‘SELECT COALESCE(MAX(EVENT_DT), ‘3600’) AS LAST_EVENT_EPOCH FROM FCT_ACCESS_USER_AGENT_DD’

Tingimus laadib ainult tĂ€ispĂ€eva: CAST(STG.EVENT_DT AS INTEGER) < strftime(‘%s’, date(‘now’, ‘start of day’))

LehekĂŒlgede vĂ”i failide arvutamine toimub primitiivsel moel, otsides punkti.

Aruanded

Keerukates visualiseerimissĂŒsteemides on vĂ”imalik luua meta-mudel andmebaasi objektide pĂ”hjal, hallata dĂŒnaamiliselt filtreid ja agregatsiooni reegleid. LĂ”ppkokkuvĂ”ttes genereerivad kĂ”ik korralikud tööriistad SQL pĂ€ringu.

Antud nĂ€ites loome juba valmis SQL pĂ€ringud ja salvestame need vaatekujul andmebaasi — see on raportid.

Visualiseerimine

Visualiseerimise tööriistana kasutati Bluff: Beautiful graphs in JavaScript

Selleks oli vaja PHP abil lÀbida kÔik raportid ja genereerida html fail tabelitega.

$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);

Tööriist lihtsalt visualiseerib tulemuste tabelid.

KokkuvÔte

VeebianalĂŒĂŒsi nĂ€itel kĂ€sitleb artikkel mehhanisme, mis on vajalikud andmehoidlate loomisel. Nagu tulemused nĂ€itavad, on sĂŒgava analĂŒĂŒsi ja andmete visualiseerimiseks piisavad kĂ”ige lihtsamad tööriistad.

Edasi, kasutades seda andmehoidlat, proovime rakendada selliseid struktuure nagu aeglaselt muutuvaid mÔÔtmeid, metaandmeid, aggregatsiooni tasandeid ja andmete integreerimist erinevatest allikatest.

Samuti vaatame lĂ€hemalt lihtsaimat ETL protsesside haldamise tööriista, mis pĂ”hineb ĂŒhel tabelil.

Naaseme andmeka kvaliteedi mÔÔtmise ja selle protsessi automatiseerimise teemade juurde.

Uurime andmehoidlate tehnilise keskkonna ja hoolduse probleeme, milleks loome madalaressursilise andmehoidla serveri, nÀiteks Raspberry Pi baasil.

Allikas: habr.com

Osta usaldusvÀÀrne hostimine veebilehtede jaoks DDoS-i kaitsega, VPS VDS serverid đŸ”„ Osta usaldusvÀÀrne hostimine veebilehtede jaoks DDoS-i kaitsega, VPS VDS serverid | ProHoster