L-istatistika tas-sit u l-ħażna żgħira tiegħek stess

Webalizer u Google Analytics għenuni nikseb għarfien dwar dak li qed jiġri fuq il-websajts għal ħafna snin. Issa nifhem li jipprovdu ftit li xejn informazzjoni utli. Wara li jkollok aċċess għall-fajl access.log tiegħek, huwa faċli ħafna li tifhem l-istatistika u li timplimenta għodod pjuttost bażiċi, bħal sqlite, html, il-lingwa sql u kwalunkwe lingwa ta 'programmar ta' scripting.

Is-sors tad-dejta għal Webalizer huwa l-fajl access.log tas-server. Hekk jidhru l-vireg u n-numri tiegħu, li minnu jidher ċar biss il-volum totali tat-traffiku:

Għodod bħal Google Analytics jiġbru data mill-paġna mgħobbija huma stess. Huma juruna ftit dijagrammi u linji, li fuqhom ħafna drabi huwa diffiċli li wieħed jasal għal konklużjonijiet korretti. Forsi kellu jsir aktar sforz? Ma nafx.

Allura, x'ridt nara fl-istatistika tal-viżitaturi tal-websajt?

Traffiku tal-utenti u tal-bot

Ħafna drabi t-traffiku tas-sit huwa limitat u huwa meħtieġ li wieħed jara kemm qed jintuża traffiku utli. Per eżempju, bħal dan:

Mistoqsija ta' rapport SQL

SELECT
1 as 'StackedArea: Traffic generated by Users and Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Users, KB'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Il-graff turi l-attività kostanti tal-bots. Ikun interessanti li tistudja fid-dettall ir-rappreżentanti l-aktar attivi.

Bots tedjanti

Aħna nikklassifikaw il-bots ibbażati fuq informazzjoni dwar l-aġent tal-utent. Statistika addizzjonali dwar it-traffiku ta 'kuljum, in-numru ta' talbiet b'suċċess u mingħajr suċċess jagħtu idea tajba tal-attività tal-bot.

Mistoqsija ta' rapport SQL

SELECT 
1 AS 'Table: Annoying Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Error Requests per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Success Requests per Day',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
     DIM_USER_AGENT USG,
     DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT != 'n.a.'
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10

F'dan il-każ, ir-riżultat tal-analiżi kienet id-deċiżjoni li jiġi ristrett l-aċċess għas-sit billi żżidu mal-fajl robots.txt

User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
L-ewwel żewġ bots sparixxew mit-tabella, u r-robots tal-MS niżlu 'l isfel mill-ewwel linji.

Jum u ħin tal-akbar attività

It-titjib jidher fit-traffiku. Biex tistudjahom fid-dettall, huwa meħtieġ li jiġi enfasizzat il-ħin tal-okkorrenza tagħhom, u mhux meħtieġ li jintwerew is-sigħat u l-ġranet kollha tal-kejl tal-ħin. Dan jagħmilha aktar faċli li ssib talbiet individwali fil-fajl tal-ġurnal jekk tkun meħtieġa analiżi dettaljata.

Mistoqsija ta' rapport SQL

SELECT
1 AS 'Line: Day and Hour of Hits from Users and Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Date Time',
HIB AS 'Bots, Hits',
HIU AS 'Users, Hits'
FROM (
	SELECT
	EVENT_DT,
	SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
	SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
	FROM FCT_ACCESS_REQUEST_REF_HH
	WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
	GROUP BY EVENT_DT
	ORDER BY SUM(LINE_CNT) DESC
	LIMIT 10
) ORDER BY EVENT_DT

Aħna nosservaw l-aktar sigħat attivi 11, 14 u 20 tal-ewwel jum fuq iċ-ċart. Iżda l-għada f'13:XNUMX il-bots kienu attivi.

Attività medja tal-utent ta' kuljum skont il-ġimgħa

Irranġajna xi ftit l-affarijiet bl-attività u t-traffiku. Il-mistoqsija li jmiss kienet l-attività tal-utenti nfushom. Għal tali statistika, perjodi twal ta' aggregazzjoni, bħal ġimgħa, huma mixtieqa.

Mistoqsija ta' rapport SQL

SELECT
1 as 'Line: Average Daily User Activity by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Pages per IP per Day',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Files per IP per Day'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG,
  DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT='n.a.' /* users only */
  AND HST.STATUS_GROUP IN ('Successful') /* good pages */
  AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

L-istatistika ta’ kull ġimgħa turi li bħala medja utent wieħed jiftaħ 1,6 paġni kuljum. In-numru ta 'fajls mitluba għal kull utent f'dan il-każ jiddependi fuq iż-żieda ta' fajls ġodda fis-sit.

It-talbiet kollha u l-istatus tagħhom

Webalizer dejjem wera kodiċi tal-paġna speċifiċi u jien dejjem ridt nara biss in-numru ta 'talbiet u żbalji b'suċċess.

Mistoqsija ta' rapport SQL

SELECT
1 as 'Line: All Requests by Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN STS.STATUS_GROUP='Successful' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Success',
SUM(CASE WHEN STS.STATUS_GROUP='Redirection' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirect',
SUM(CASE WHEN STS.STATUS_GROUP='Client Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Customer Error',
SUM(CASE WHEN STS.STATUS_GROUP='Server Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Server Error'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Ir-rapport juri talbiet, mhux klikks (hits), kuntrarjament għal LINE_CNT, il-metrika REQUEST_CNT hija kkalkulata bħala COUNT(DISTINCT STG.REQUEST_NK). L-għan huwa li jintwerew avvenimenti effettivi, pereżempju, MS bots jivverifikaw il-fajl robots.txt mijiet ta 'darbiet kuljum u, f'dan il-każ, polls bħal dawn se jingħaddu darba. Dan jippermettilek li twitti l-qbiż fil-graff.

Mill-graff tista' tara ħafna żbalji - dawn huma paġni ineżistenti. Ir-riżultat tal-analiżi kien iż-żieda ta 'redirects minn paġni remoti.

Talbiet ħżiena

Biex teżamina t-talbiet fid-dettall, tista' turi statistika dettaljata.

Mistoqsija ta' rapport SQL

SELECT
  1 AS 'Table: Top Error Requests',
  REQ.REQUEST_NK AS 'Request',
  'Error' AS 'Request Status',
  ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hits per Day',
  ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
  ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day'
FROM
  FCT_ACCESS_REQUEST_REF_HH FCT,
  DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
  AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20

Din il-lista se jkun fiha wkoll is-sejħiet kollha, pereżempju, talba lil /wp-login.php Billi taġġusta r-regoli għall-kitba mill-ġdid tat-talbiet mis-server, tista 'taġġusta r-reazzjoni tas-server għal tali talbiet u tibgħathom lill-paġna tal-bidu.

Allura, ftit rapporti sempliċi bbażati fuq il-fajl log tas-server jagħtu stampa pjuttost kompluta ta 'dak li qed jiġri fuq is-sit.

Kif tikseb l-informazzjoni?

Database sqlite hija biżżejjed. Ejja noħolqu tabelli: awżiljarju għall-qtugħ tal-proċessi ETL.

Stadju tal-mejda fejn se niktbu log files bl-użu tal-PHP. Żewġ tabelli aggregati. Ejja noħolqu tabella ta 'kuljum bi statistika dwar l-aġenti tal-utenti u l-istatus tat-talbiet. Kull siegħa bi statistika dwar talbiet, gruppi ta 'status u aġenti. Erba 'tabelli ta' kejl rilevanti.

Ir-riżultat huwa l-mudell relazzjonali li ġej:

Mudell tad-dejta

Script biex toħloq oġġett f'database sqlite:

Ħolqien ta' oġġett DDL

DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
  DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
  USER_AGENT_NK     TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_OS          TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_ENGINE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_DEVICE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_BOT         TEXT NOT NULL DEFAULT 'n.a.',
  UPDATE_DT         INTEGER NOT NULL DEFAULT 0,
  UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);

Stadju

Fil-każ tal-fajl access.log, huwa meħtieġ li taqra, parse u tikteb it-talbiet kollha fid-database. Dan jista 'jsir jew direttament bl-użu ta' lingwa ta 'scripting jew bl-użu ta' għodod sqlite.

Format tal-fajl log:

//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';

Propagazzjoni ewlenija

Meta d-data mhux ipproċessata tkun fid-database, trid tikteb ċwievet li mhumiex hemm fit-tabelli tal-kejl. Imbagħad ikun possibbli li tinbena referenza għall-kejl. Pereżempju, fit-tabella DIM_REFERRER, iċ-ċavetta hija taħlita ta' tliet oqsma.

Mistoqsija dwar il-propagazzjoni taċ-ċavetta SQL

/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
	CLS.HOST_NK,
	CLS.PATH_NK,
	CLS.QUERY_NK,
	STRFTIME('%s','now') AS UPDATE_DT
FROM (
	SELECT DISTINCT
	REFERRER_HOST AS HOST_NK,
	REFERRER_PATH AS PATH_NK,
	CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
	ELSE REFERRER_QUERY END AS QUERY_NK
	FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULL

Il-propagazzjoni għat-tabella tal-aġent tal-utent jista' jkun fiha loġika tal-bot, pereżempju s-snippet sql:

CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
	THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
	THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
	THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
	THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
	THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
	OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
	OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
	OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
	OR INSTR(LOWER(CLS.BROWSER),'wget')>0
	THEN 'other'
ELSE 'n.a.' END AS AGENT_BOT

Tabelli aggregati

Fl-aħħar nett, aħna se tagħbija t-tabelli aggregati; pereżempju, it-tabella ta 'kuljum tista' titgħabba kif ġej:

Mistoqsija SQL għat-tagħbija aggregata

/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
	STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
	CASE SUBSTR(TIME_NK,5,3)
	WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
	WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
	ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
	BROWSER AS USER_AGENT_NK,
	REQUEST_NK,
	IP_NR,
	STATUS,
	LINE_NK,
	BYTES
FROM STG_ACCESS_LOG
)
SELECT
	CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
	USG.DIM_USER_AGENT_ID,
	HST.DIM_HTTP_STATUS_ID,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
	COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
	COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
	COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
	SUM(BYTES) AS BYTES
FROM STG,
	DIM_HTTP_STATUS HST,
	DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
  AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
  AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
  AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_ID

Id-database sqlite tippermettilek tikteb mistoqsijiet kumplessi. WITH fih il-preparazzjoni ta 'data u ċwievet. Il-mistoqsija ewlenija tiġbor ir-referenzi kollha għad-dimensjonijiet.

Il-kundizzjoni ma tippermettix li terġa’ titgħabba l-istorja: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, fejn il-parametru huwa r-riżultat tat-talba
'AGĦŻEL COALESCE(MAX(EVENT_DT), '3600') KIF LAST_EVENT_EPOCH FROM FCT_ACCESS_USER_AGENT_DD'

Il-kundizzjoni se tagħbija biss il-ġurnata sħiħa: CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('issa', 'bidu tal-ġurnata')))

L-għadd tal-paġni jew il-fajls jitwettaq b'mod primittiv, billi jfittex punt.

Rapporti

F'sistemi ta 'viżwalizzazzjoni kumplessi, huwa possibbli li jinħoloq meta-mudell ibbażat fuq oġġetti ta' database, jimmaniġġjaw b'mod dinamiku filtri u regoli ta 'aggregazzjoni. Fl-aħħar mill-aħħar, l-għodod deċenti kollha jiġġeneraw mistoqsija SQL.

F'dan l-eżempju, se noħolqu mistoqsijiet SQL lesti u nissejvjahom bħala fehmiet fid-database - dawn huma rapporti.

Viżwalizzazzjoni

Bluff: Graffs sbieħ f'JavaScript intużaw bħala għodda ta 'viżwalizzazzjoni

Biex tagħmel dan, kien meħtieġ li tgħaddi mir-rapporti kollha bl-użu tal-PHP u tiġġenera fajl html bit-tabelli.

$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);

L-għodda sempliċement tara tabelli tar-riżultati.

Output

Bl-użu tal-analiżi tal-web bħala eżempju, l-artiklu jiddeskrivi l-mekkaniżmi meħtieġa biex jinbnew imħażen tad-dejta. Kif jidher mir-riżultati, l-aktar għodod sempliċi huma biżżejjed għal analiżi profonda u viżwalizzazzjoni tad-data.

Fil-futur, billi nużaw dan ir-repożitorju bħala eżempju, nippruvaw nimplimentaw strutturi bħal dimensjonijiet li jinbidlu bil-mod, metadata, livelli ta 'aggregazzjoni u integrazzjoni ta' data minn sorsi differenti.

Ukoll, ejja nagħtu ħarsa aktar mill-qrib lejn l-aktar għodda sempliċi għall-ġestjoni tal-proċessi ETL ibbażati fuq tabella waħda.

Ejja nerġgħu lura għas-suġġett tal-kejl tal-kwalità tad-dejta u l-awtomatizzazzjoni ta 'dan il-proċess.

Se nistudjaw il-problemi tal-ambjent tekniku u l-manutenzjoni tal-ħażniet tad-dejta, li għalihom se nimplimentaw server tal-ħażna b'riżorsi minimi, pereżempju, ibbażat fuq Raspberry Pi.

Sors: www.habr.com