Статистика на сайта и вашето собствено малко хранилище

Webalizer и Google Analytics ми помогнаха да придобия представа какво се случва на уебсайтовете в продължение на много години. Сега разбирам, че предоставят много малко полезна информация. Имайки достъп до вашия access.log файл, е много лесно да разберете статистиката и да приложите съвсем основни инструменти, като sqlite, html, езика sql и всеки език за програмиране на скриптове.

Източникът на данни за Webalizer е access.log файлът на сървъра. Ето как изглеждат неговите ленти и числа, от които е ясен само общият обем на трафика:

Инструменти като Google Analytics сами събират данни от заредената страница. Те ни показват няколко диаграми и линии, въз основа на които често е трудно да се направят правилни заключения. Може би трябваше да се положат повече усилия? не знам

И така, какво исках да видя в статистиката за посетителите на уебсайта?

Потребителски и бот трафик

Често трафикът на сайта е ограничен и е необходимо да се види колко полезен трафик се използва. Например така:

SQL заявка за отчет

SELECT
1 as 'StackedArea: Traffic generated by Users and Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Users, KB'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Графиката показва постоянната активност на ботовете. Би било интересно да се проучат подробно най-активните представители.

Досадни ботове

Класифицираме ботове въз основа на информация за потребителски агент. Допълнителна статистика за ежедневния трафик, броя на успешните и неуспешните заявки дават добра представа за активността на бота.

SQL заявка за отчет

SELECT 
1 AS 'Table: Annoying Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Error Requests per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Success Requests per Day',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
     DIM_USER_AGENT USG,
     DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT != 'n.a.'
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10

В този случай резултатът от анализа беше решението за ограничаване на достъпа до сайта чрез добавянето му към файла robots.txt

User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
Първите два бота изчезнаха от масата, а MS роботите се преместиха надолу от първите редове.

Ден и час на най-голяма активност

Виждат се подеми в трафика. За да ги проучите в детайли, е необходимо да подчертаете времето на тяхното възникване и не е необходимо да показвате всички часове и дни на измерване на времето. Това ще улесни намирането на отделни заявки в регистрационния файл, ако е необходим подробен анализ.

SQL заявка за отчет

SELECT
1 AS 'Line: Day and Hour of Hits from Users and Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Date Time',
HIB AS 'Bots, Hits',
HIU AS 'Users, Hits'
FROM (
	SELECT
	EVENT_DT,
	SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
	SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
	FROM FCT_ACCESS_REQUEST_REF_HH
	WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
	GROUP BY EVENT_DT
	ORDER BY SUM(LINE_CNT) DESC
	LIMIT 10
) ORDER BY EVENT_DT

Наблюдаваме най-активните часове 11, 14 и 20 от първия ден на графиката. Но на следващия ден в 13:XNUMX ботовете бяха активни.

Средна дневна потребителска активност по седмици

Подредихме малко нещата с активността и трафика. Следващият въпрос беше активността на самите потребители. За такава статистика са желателни дълги периоди на агрегиране, като една седмица.

SQL заявка за отчет

SELECT
1 as 'Line: Average Daily User Activity by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Pages per IP per Day',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Files per IP per Day'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG,
  DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT='n.a.' /* users only */
  AND HST.STATUS_GROUP IN ('Successful') /* good pages */
  AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Седмичната статистика показва, че средно един потребител отваря 1,6 страници на ден. Броят на заявените файлове на потребител в този случай зависи от добавянето на нови файлове към сайта.

Всички заявки и техните статуси

Webalizer винаги показваше конкретни кодове на страници и винаги исках да видя само броя на успешните заявки и грешки.

SQL заявка за отчет

SELECT
1 as 'Line: All Requests by Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN STS.STATUS_GROUP='Successful' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Success',
SUM(CASE WHEN STS.STATUS_GROUP='Redirection' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirect',
SUM(CASE WHEN STS.STATUS_GROUP='Client Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Customer Error',
SUM(CASE WHEN STS.STATUS_GROUP='Server Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Server Error'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

Отчетът показва заявки, а не кликвания (посещения), за разлика от LINE_CNT, показателят REQUEST_CNT се изчислява като COUNT(DISTINCT STG.REQUEST_NK). Целта е да се покажат ефективни събития, например MS ботове анкетират файла robots.txt стотици пъти на ден и в този случай такива анкети ще бъдат преброени веднъж. Това ви позволява да изгладите скоковете в графиката.

От графиката можете да видите много грешки - това са несъществуващи страници. Резултатът от анализа беше добавянето на пренасочвания от отдалечени страници.

Лоши молби

За да разгледате заявките в детайли, можете да покажете подробна статистика.

SQL заявка за отчет

SELECT
  1 AS 'Table: Top Error Requests',
  REQ.REQUEST_NK AS 'Request',
  'Error' AS 'Request Status',
  ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hits per Day',
  ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
  ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day'
FROM
  FCT_ACCESS_REQUEST_REF_HH FCT,
  DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
  AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20

Този списък също ще съдържа всички повиквания, например заявка към /wp-login.php Чрез коригиране на правилата за пренаписване на заявки от сървъра, можете да коригирате реакцията на сървъра към такива заявки и да ги изпратите на началната страница.

И така, няколко прости доклада, базирани на лог файла на сървъра, дават доста пълна картина на това, което се случва на сайта.

Как да получите информация?

База данни sqlite е достатъчна. Нека създадем таблици: спомагателни за регистриране на ETL процеси.

Етап на таблица, където ще пишем лог файлове с помощта на PHP. Две сборни таблици. Нека създадем ежедневна таблица със статистика за потребителски агенти и статуси на заявки. Почасово със статистика за заявки, статус групи и агенти. Четири таблици с подходящи измервания.

Резултатът е следният релационен модел:

Модел на данни

Скрипт за създаване на обект в база данни на sqlite:

Създаване на DDL обект

DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
  DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
  USER_AGENT_NK     TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_OS          TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_ENGINE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_DEVICE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_BOT         TEXT NOT NULL DEFAULT 'n.a.',
  UPDATE_DT         INTEGER NOT NULL DEFAULT 0,
  UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);

сцена

В случая на файла access.log е необходимо да се прочетат, анализират и запишат всички заявки към базата данни. Това може да се направи или директно с помощта на скриптов език, или с помощта на инструменти на sqlite.

Формат на регистрационния файл:

//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';

Ключово разпространение

Когато необработените данни са в базата данни, трябва да запишете ключове, които не са там, в таблиците за измерване. Тогава ще бъде възможно да се изгради препратка към измерванията. Например в таблицата DIM_REFERRER ключът е комбинация от три полета.

Заявка за разпространение на SQL ключ

/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
	CLS.HOST_NK,
	CLS.PATH_NK,
	CLS.QUERY_NK,
	STRFTIME('%s','now') AS UPDATE_DT
FROM (
	SELECT DISTINCT
	REFERRER_HOST AS HOST_NK,
	REFERRER_PATH AS PATH_NK,
	CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
	ELSE REFERRER_QUERY END AS QUERY_NK
	FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULL

Разпространението към таблицата на потребителския агент може да съдържа бот логика, например sql фрагмента:

CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
	THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
	THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
	THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
	THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
	THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
	OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
	OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
	OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
	OR INSTR(LOWER(CLS.BROWSER),'wget')>0
	THEN 'other'
ELSE 'n.a.' END AS AGENT_BOT

Сборни таблици

И накрая, ще заредим обобщените таблици; например дневната таблица може да се зареди, както следва:

SQL заявка за зареждане на агрегат

/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
	STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
	CASE SUBSTR(TIME_NK,5,3)
	WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
	WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
	ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
	BROWSER AS USER_AGENT_NK,
	REQUEST_NK,
	IP_NR,
	STATUS,
	LINE_NK,
	BYTES
FROM STG_ACCESS_LOG
)
SELECT
	CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
	USG.DIM_USER_AGENT_ID,
	HST.DIM_HTTP_STATUS_ID,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
	COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
	COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
	COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
	SUM(BYTES) AS BYTES
FROM STG,
	DIM_HTTP_STATUS HST,
	DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
  AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
  AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
  AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_ID

Базата данни sqlite ви позволява да пишете сложни заявки. WITH съдържа подготовката на данни и ключове. Основната заявка събира всички препратки към измерения.

Условието няма да позволи повторно зареждане на хронологията: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, където параметърът е резултатът от заявката
'SELECT COALESCE(MAX(EVENT_DT), '3600') AS LAST_EVENT_EPOCH FROM FCT_ACCESS_USER_AGENT_DD'

Условието ще зареди само целия ден: CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))

Броенето на страници или файлове се извършва по примитивен начин, чрез търсене на точка.

Отчети

В сложни системи за визуализация е възможно да се създаде мета-модел, базиран на обекти на база данни, динамично управление на филтри и правила за агрегиране. В крайна сметка всички прилични инструменти генерират SQL заявка.

В този пример ще създадем готови SQL заявки и ще ги запазим като изгледи в базата данни - това са отчети.

Визуализация

Блъф: Красивите графики в JavaScript бяха използвани като инструмент за визуализация

За да направите това, беше необходимо да преминете през всички отчети с помощта на PHP и да генерирате html файл с таблици.

$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);

Инструментът просто визуализира таблици с резултати.

Продукция

Използвайки уеб анализ като пример, статията описва механизмите, необходими за изграждане на хранилища за данни. Както се вижда от резултатите, най-простите инструменти са достатъчни за задълбочен анализ и визуализация на данни.

В бъдеще, използвайки това хранилище като пример, ще се опитаме да внедрим такива структури като бавно променящи се измерения, метаданни, нива на агрегиране и интегриране на данни от различни източници.

Също така, нека разгледаме по-отблизо най-простия инструмент за управление на ETL процеси, базирани на една таблица.

Да се ​​върнем към темата за измерване на качеството на данните и автоматизиране на този процес.

Ще проучим проблемите на техническата среда и поддръжката на хранилища за данни, за които ще внедрим сървър за съхранение с минимални ресурси, например на базата на Raspberry Pi.

Източник: www.habr.com