ProHoster > Blog > Administracija > Statistika web stranice i vlastiti mali skladište

Statistika web stranice i vlastiti mali skladište

Alat Webalizer i Google Analytics su mi godinama pomagali da razumem šta se dešava na veb sajtovima. Sada shvatam da pružaju vrlo malo korisnih informacija. Imajući pristup svom access.log fajlu, lako je analizirati statistiku uz osnovne alate poput sqlite, html, sql jezika i bilo kog programskog jezika.

Izvor podataka za Webalizer je access.log fajl. poslužitelja. Ovako izgledaju njegovi kolone i brojevi, iz kojih se može shvatiti ukupna količina saobraćaja:

Statistika web stranice i vlastiti mali skladište
Statistika web stranice i vlastiti mali skladište
Takvi alati kao što je Google Analytics samostalno prikupljaju podatke sa učitane stranice. Prikazuju nam nekoliko grafikona i linija, na osnovu kojih je često teško doneti prave zaključke. Možda je trebalo uložiti više truda? Ne znam.

Dakle, šta sam želeo da vidim u statistici poseta sajtu?

Saobraćaj korisnika i botova

Često saobraćaj sajtova ima ograničenje i neophodno je videti koliko korisnog saobraćaja se koristi. Na primer, ovako:

Statistika web stranice i vlastiti mali skladište

SQL upit izveštaja

SELECT
1 as 'StackedArea: Saobraćaj generisan od strane korisnika i botova',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Dan',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END) / 1000 AS 'Botovi, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END) / 1000 AS 'Korisnici, KB'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Iz grafikona se može videti stalna aktivnost botova. Bilo bi zanimljivo detaljno istražiti najaktvinije.

Dosadni botovi

Klasifikujemo botove na osnovu informacija korisničkog agenta. Dodatna statistika o dnevnom saobraćaju, broju uspešnih i neuspešnih zahteva pruža dobru predstavu o aktivnosti botova.

Statistika web stranice i vlastiti mali skladište

SQL upit izveštaja

SELECT 
1 AS 'Tabela: Dosadni botovi',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES) / 1000 / 14.0, 1) AS 'KB po Danu',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IP adrese po Danu',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Zahtevi sa Greškama po Danu',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Uspešni Zahtevi po Danu',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
     DIM_USER_AGENT USG,
     DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT != 'n.a.'
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10

U ovom slučaju analiza je rezultirala odlukom o ograničenju pristupa web stranici putem dodavanja u datoteku robots.txt

User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
Prva dva bota su nestala iz tablice, dok su MS roboti pomjerili s gornjih redova prema dolje.

Dan i vrijeme najveće aktivnosti

U prometu su vidljive oscilacije. Da biste ih detaljno istražili, potrebno je izdvojiti vrijeme njihovog nastanka, pri čemu nije nužno prikazivati sve sate i dane mjerila vremena. Ovo će olakšati pronalaženje pojedinačnih zahtjeva u log datoteci ako je potreban detaljan pregled.

Statistika web stranice i vlastiti mali skladište

SQL upit izveštaja

SELECT
1 AS 'Linija: Dan i Sat Pogađanja od Korisnika i Botova',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Datum Vrijeme',
HIB AS 'Botovi, Pogađanja',
HIU AS 'Korisnici, Pogađanja'
FROM (
	SELECT
	EVENT_DT,
	SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
	SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
	FROM FCT_ACCESS_REQUEST_REF_HH
	WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
	GROUP BY EVENT_DT
	ORDER BY SUM(LINE_CNT) DESC
	LIMIT 10
) ORDER BY EVENT_DT

Najaktivniji sati su 11, 14 i 20 prvog dana na grafu. A sljedećeg dana, u 13 sati, botovi su bili aktivni.

Prosječna dnevna aktivnost korisnika po tjednima

S aktivnošću i prometom smo malo razjasnili. Sljedeće pitanje bila je aktivnost samih korisnika. Za takvu statistiku poželjni su duži vremenski periodi agregacije, na primjer, tjedan.

Statistika web stranice i vlastiti mali skladište

SQL upit izveštaja

SELECT
1 as 'Linija: Prosječna Dnevna Aktivnost Korisnika po Tjednu',
strftime('%W tjedan', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Tjedan',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Stranice po IP po Danu',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Datoteke po IP po Danu'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG,
  DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT='n.a.' /* samo korisnici */
  AND HST.STATUS_GROUP IN ('Uspješno') /* dobre stranice */
  AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W tjedan', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Statistika za tjedan pokazuje da u prosjeku jedan korisnik otvara 1,6 stranica dnevno. Broj zahtijevanih datoteka po korisniku u ovom slučaju ovisi o dodavanju novih datoteka na web stranicu.

Svi zahtjevi i njihovi statusi

Webalizer je uvijek pokazivao konkretne kodove stranica i uvijek je bilo željeno vidjeti samo broj uspješnih zahtjeva i grešaka.

Statistika web stranice i vlastiti mali skladište

SQL upit izveštaja

ODABIR
1 kao 'Red: Svi zahtjevi prema statusu',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Dan',
SUM(CASE WHEN STS.STATUS_GROUP='Uspješan' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Uspjeh',
SUM(CASE WHEN STS.STATUS_GROUP='Preusmjeravanje' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Preusmjerenje',
SUM(CASE WHEN STS.STATUS_GROUP='Greška klijenta' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Greška kupca',
SUM(CASE WHEN STS.STATUS_GROUP='Greška servera' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Greška servera'
IZ
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_HTTP_STATUS STS
GDJE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
  I datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Izvještaj prikazuje zahtjeve, a ne klikove (poteze), za razliku od METRIKE LINE_CNT koja se smatra kao COUNT(DISTINCT STG.REQUEST_NK). Cilj je pokazati učinkovite događaje, na primjer, botovi MS više puta dnevno pretražuju datoteku robots.txt i, u ovom slučaju, takva ispitivanja će biti zabilježena samo jednom. To pomaže da se ublaže skokovi na grafikonu.

Iz grafikona se može vidjeti mnogo grešaka — to su nepostojeće stranice. Kao rezultat analize dodana su preusmjeravanja s uklonjenih stranica.

Grešni zahtjevi

Za detaljno razmatranje zahtjeva može se prikazati detaljna statistika.

Statistika web stranice i vlastiti mali skladište

SQL upit izveštaja

ODABIR
  1 AS 'Tablica: Najveći greški zahtjevi',
  REQ.REQUEST_NK AS 'Zahtjev',
  'Greška' AS 'Status zahtjeva',
  ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Potezi dnevno',
  ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IP-ovi dnevno',
  ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB dnevno'
IZ
  FCT_ACCESS_REQUEST_REF_HH FCT,
  DIM_REQUEST_V_ACT REQ
GDJE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
  I FCT.STATUS_GROUP IN ('Greška klijenta', 'Greška servera')
  I datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20

Na ovom popisu bit će i svi promašaji, na primjer, zahtjev za /wp-login.php Tako što ćemo ispraviti pravila za preusmjeravanje zahtjeva serverom može se korigirati reakcija servera na takve zahtjeve i preusmjeriti ih na početnu stranicu.

Dakle, nekoliko jednostavnih izvještaja temeljenih na datoteci dnevnika servera pruža dovoljno potpunu sliku onoga što se događa na web stranici.

Kako dobiti informacije?

SQLite baze podataka su više nego dovoljne. Stvorit ćemo tablice: pomoćnu za praćenje ETL procesa.

Statistika web stranice i vlastiti mali skladište

Staging tablica, gdje ćemo zapisivati log datoteke putem PHP-a. Dvije tablice agregata. Stvorit ćemo dnevnu tablicu sa statistikom po korisničkim agentima i statusima zahtjeva. Satnu sa statistikom po zahtjevima, grupama statusa i agentima. Četiri tablice odgovarajućih mjerenja.

Kao rezultat dobivena je sljedeća relacijska misaona modela:

Model podatakaStatistika web stranice i vlastiti mali skladište

Skripta za stvaranje objekta u sqlite bazi podataka:

DDL stvaranje objekta

DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
  DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
  USER_AGENT_NK     TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_OS          TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_ENGINE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_DEVICE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_BOT         TEXT NOT NULL DEFAULT 'n.a.',
  UPDATE_DT         INTEGER NOT NULL DEFAULT 0,
  UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);

Stadij

U slučaju datoteke access.log potrebno je pročitati, analizirati i zapisati sve zahtjeve u bazu. To se može učiniti ili izravno putem skriptnog jezika, ili koristeći alate sqlite.

Format log datoteke:

//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';

Propagacija ključeva

Kada su si dati u bazi, potrebno je zapisati u tablice mjerenja ključeve koji tamo ne postoje. Tada će biti moguće izgraditi referencu na mjerenja. Na primjer, u tablici DIM_REFERRER ključ je kombinacija tri polja.

SQL upit za propagaciju ključeva

/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
	CLS.HOST_NK,
	CLS.PATH_NK,
	CLS.QUERY_NK,
	STRFTIME('%s','now') AS UPDATE_DT
FROM (
	SELECT DISTINCT
	REFERRER_HOST AS HOST_NK,
	REFERRER_PATH AS PATH_NK,
	CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
	ELSE REFERRER_QUERY END AS QUERY_NK
	FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULL

Propagacija u tablicu korisničkih agenata može sadržavati logiku botova, na primjer, dio sql:


CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
	THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
	THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
	THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
	THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
	THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
	OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
	OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
	OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
	OR INSTR(LOWER(CLS.BROWSER),'wget')>0
	THEN 'other'
ELSE 'n.a.' END AS AGENT_BOT

Tablice agregata

Na kraju ćemo učitati tablice agregata, na primjer, dnevna tablica može se učitati na sljedeći način:

SQL upit za učitavanje agregata

/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
	STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
	CASE SUBSTR(TIME_NK,5,3)
	WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
	WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
	ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
	BROWSER AS USER_AGENT_NK,
	REQUEST_NK,
	IP_NR,
	STATUS,
	LINE_NK,
	BYTES
FROM STG_ACCESS_LOG
)
SELECT
	CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
	USG.DIM_USER_AGENT_ID,
	HST.DIM_HTTP_STATUS_ID,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
	COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
	COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
	COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
	SUM(BYTES) AS BYTES
FROM STG,
	DIM_HTTP_STATUS HST,
	DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
  AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
  AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
  AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_ID

SQLite baza podataka omogućava pisanje složenih upita. WITH sadrži pripremu podataka i ključeva. Glavni upit prikuplja sve linkove na mjerenja.

Uvjet neće dopustiti ponovno učitavanje povijesti: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, gdje je parametar rezultat upita
‘SELECT COALESCE(MAX(EVENT_DT), ‘3600’) AS LAST_EVENT_EPOCH FROM FCT_ACCESS_USER_AGENT_DD’

Uvjet će učitati samo cijeli dan: CAST(STG.EVENT_DT AS INTEGER) < strftime(‘%s’, date(‘now’, ‘start of day’))

Brojanje stranica ili datoteka vrši se jednostavno, traženjem točke.

Izvještaji

U složenim sustavima vizualizacije postoji mogućnost stvaranja meta-modela na osnovi objekata baze podataka, dinamičkog upravljanja filtarima i pravilima agregacije. Na kraju, svi pristojni alati generiraju SQL upit.

U ovom primjeru ćemo stvoriti gotove SQL upite i sačuvati ih kao prikaze u bazi podataka — to su izvještaji.

Vizualizacija

Kao alat za vizualizaciju korišten je Bluff: Lijepi grafikoni u JavaScriptu

Za to je bilo potrebno pomoću PHP-a proći kroz sve izvještaje i generirati html datoteku s tablicama.

$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);

Alat jednostavno vizualizira tablice rezultata.

Izvještaj

Na primjeru web analize članak opisuje mehanizme potrebne za izgradnju skladišta podataka. Kao što se može vidjeti iz rezultata, za duboku analizu i vizualizaciju podataka dovoljni su najjednostavniji alati.

U nastavku, na primjeru ovog skladišta, pokušat ćemo implementirati strukture poput polako promjenjivih dimenzija, metapodataka, razina agregacije i integraciju podataka iz različitih izvora.

Također, detaljnije ćemo razmotriti najjednostavniji alat za upravljanje ETL procesima na temelju jedne tablice.

Vratimo se na temu mjerenja kvalitete podataka i automatizacije ovog procesa.

Istražit ćemo probleme tehničkog okruženja i održavanja skladišta podataka, za što ćemo realizirati skladišni server s minimalnim resursima, na primjer, temeljen na Raspberry Pi.

Izvor: habr.com

Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere 🔥 Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere | ProHoster