Webalizer және Google Analytics маған көптеген жылдар бойы веб-сайттарда не болып жатқанын түсінуге көмектесті. Енді мен олардың өте аз пайдалы ақпарат беретінін түсіндім. Access.log файлына қол жеткізе отырып, статистиканы түсіну және sqlite, html, sql тілі және кез келген сценарийлік бағдарламалау тілі сияқты қарапайым құралдарды енгізу өте оңай.
Webalizer үшін деректер көзі сервердің access.log файлы болып табылады. Оның жолақтары мен сандары осылай көрінеді, олардан трафиктің жалпы көлемі ғана анық:
Google Analytics сияқты құралдар жүктелген беттен деректерді өздері жинайды. Олар бізге бірнеше диаграммалар мен сызықтарды көрсетеді, олардың негізінде дұрыс қорытынды жасау қиынға соғады. Мүмкін көбірек күш салу керек еді? Білмеймін.
Сонымен, мен веб-сайтқа келушілер статистикасында не көргім келді?
Пайдаланушы және бот трафигі
Көбінесе сайт трафигі шектеулі және қаншалықты пайдалы трафикті пайдаланып жатқанын көру керек. Мысалы, келесідей:
SQL есеп сұрауы
SELECT
1 as 'StackedArea: Traffic generated by Users and Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Users, KB'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTГрафик боттардың тұрақты белсенділігін көрсетеді. Ең белсенді өкілдерді егжей-тегжейлі зерттеу қызықты болар еді.
Тітіркендіргіш боттар
Біз боттарды пайдаланушы агентінің ақпараты негізінде жіктейміз. Күнделікті трафик туралы қосымша статистика, сәтті және сәтсіз сұраулар саны бот қызметі туралы жақсы түсінік береді.
SQL есеп сұрауы
SELECT
1 AS 'Table: Annoying Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Error Requests per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Success Requests per Day',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT != 'n.a.'
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10Бұл жағдайда, талдау нәтижесі роботтар.txt файлына қосу арқылы сайтқа кіруді шектеу туралы шешім болды.
User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
Алғашқы екі бот үстелден жоғалып кетті, ал MS роботтары бірінші жолдардан төмен қарай жылжыды.
Ең үлкен белсенділіктің күні мен уақыты
Көтерілулер қозғалыста көрінеді. Оларды егжей-тегжейлі зерделеу үшін олардың пайда болу уақытын бөлектеу қажет, ал уақытты өлшеудің барлық сағаттары мен күндерін көрсету қажет емес. Бұл егжей-тегжейлі талдау қажет болса, журнал файлында жеке сұрауларды табуды жеңілдетеді.
SQL есеп сұрауы
SELECT
1 AS 'Line: Day and Hour of Hits from Users and Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Date Time',
HIB AS 'Bots, Hits',
HIU AS 'Users, Hits'
FROM (
SELECT
EVENT_DT,
SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
FROM FCT_ACCESS_REQUEST_REF_HH
WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY EVENT_DT
ORDER BY SUM(LINE_CNT) DESC
LIMIT 10
) ORDER BY EVENT_DTБіз диаграммадағы бірінші күннің 11, 14 және 20 ең белсенді сағаттарын байқаймыз. Бірақ келесі күні сағат 13:XNUMX-де боттар белсенді болды.
Апта бойынша орташа күнделікті пайдаланушы белсенділігі
Біз белсенділік пен трафикке байланысты біраз нәрсені реттедік. Келесі сұрақ қолданушылардың өздерінің белсенділігі болды. Мұндай статистика үшін апта сияқты ұзақ жинақтау кезеңдері қажет.
SQL есеп сұрауы
SELECT
1 as 'Line: Average Daily User Activity by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Pages per IP per Day',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Files per IP per Day'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT='n.a.' /* users only */
AND HST.STATUS_GROUP IN ('Successful') /* good pages */
AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTАпталық статистика орташа есеппен бір пайдаланушы күніне 1,6 бет ашатынын көрсетеді. Бұл жағдайда бір пайдаланушыға сұралған файлдардың саны сайтқа жаңа файлдардың қосылуына байланысты.
Барлық сұраулар және олардың күйлері
Webalizer әрқашан нақты бет кодтарын көрсетті және мен әрқашан сәтті сұраулар мен қателердің санын көргім келді.
SQL есеп сұрауы
SELECT
1 as 'Line: All Requests by Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN STS.STATUS_GROUP='Successful' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Success',
SUM(CASE WHEN STS.STATUS_GROUP='Redirection' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirect',
SUM(CASE WHEN STS.STATUS_GROUP='Client Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Customer Error',
SUM(CASE WHEN STS.STATUS_GROUP='Server Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Server Error'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTЕсеп LINE_CNT-тен айырмашылығы, REQUEST_CNT көрсеткіші COUNT(DISTINCT STG.REQUEST_NK) ретінде есептеледі, шертулер (соққылар) емес, сұрауларды көрсетеді. Мақсат - тиімді оқиғаларды көрсету, мысалы, MS боттары robots.txt файлына күніне жүздеген рет сауалнама жүргізеді және бұл жағдайда мұндай сауалнамалар бір рет есептеледі. Бұл графиктегі секірістерді тегістеуге мүмкіндік береді.
Графиктен сіз көптеген қателерді көре аласыз - бұл жоқ беттер. Талдау нәтижесі қашықтағы беттерден қайта бағыттауларды қосу болды.
Нашар сұраулар
Сұрауларды егжей-тегжейлі тексеру үшін егжей-тегжейлі статистиканы көрсетуге болады.
SQL есеп сұрауы
SELECT
1 AS 'Table: Top Error Requests',
REQ.REQUEST_NK AS 'Request',
'Error' AS 'Request Status',
ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hits per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day'
FROM
FCT_ACCESS_REQUEST_REF_HH FCT,
DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20Бұл тізімде сонымен қатар барлық қоңыраулар болады, мысалы, /wp-login.php сұрауы Сервердің сұрауларды қайта жазу ережелерін реттеу арқылы сервердің мұндай сұрауларға реакциясын реттеп, оларды бастапқы бетке жіберуге болады.
Сонымен, сервер журналының файлына негізделген бірнеше қарапайым есептер сайтта не болып жатқаны туралы толық суретті береді.
Ақпаратты қалай алуға болады?
Sqlite дерекқоры жеткілікті. Кестелерді құрайық: ETL процестерін тіркеуге арналған көмекші.
PHP көмегімен журнал файлдарын жазатын кесте кезеңі. Екі жиынтық кесте. Пайдаланушы агенттері мен сұрау күйлерінің статистикасы бар күнделікті кестені жасайық. Сұраулар, мәртебе топтары және агенттер туралы статистикалық мәліметтермен сағат сайын. Сәйкес өлшемдердің төрт кестесі.
Нәтиже келесі реляциялық модель болып табылады:
Деректер моделі
Sqlite дерекқорында нысан жасау үшін сценарий:
DDL нысанын жасау
DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
USER_AGENT_NK TEXT NOT NULL DEFAULT 'n.a.',
AGENT_OS TEXT NOT NULL DEFAULT 'n.a.',
AGENT_ENGINE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_DEVICE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_BOT TEXT NOT NULL DEFAULT 'n.a.',
UPDATE_DT INTEGER NOT NULL DEFAULT 0,
UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);Сахна
Access.log файлы жағдайында барлық сұраныстарды мәліметтер базасына оқу, талдау және жазу қажет. Мұны тікелей сценарий тілін немесе sqlite құралдарын пайдалану арқылы жасауға болады.
Журнал файл пішімі:
//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';
Негізгі таралу
Шикі деректер дерекқорда болғанда, өлшеу кестелеріне жоқ кілттерді жазу керек. Содан кейін өлшемдерге сілтеме жасау мүмкін болады. Мысалы, DIM_REFERRER кестесінде кілт үш өрістің тіркесімі болып табылады.
SQL кілтін тарату сұрауы
/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
CLS.HOST_NK,
CLS.PATH_NK,
CLS.QUERY_NK,
STRFTIME('%s','now') AS UPDATE_DT
FROM (
SELECT DISTINCT
REFERRER_HOST AS HOST_NK,
REFERRER_PATH AS PATH_NK,
CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
ELSE REFERRER_QUERY END AS QUERY_NK
FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULLПайдаланушы агентінің кестесіне тарату бот логикасын қамтуы мүмкін, мысалы, sql үзіндісі:
CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
OR INSTR(LOWER(CLS.BROWSER),'wget')>0
THEN 'other'
ELSE 'n.a.' END AS AGENT_BOTЖиынтық кестелер
Соңында біз жиынтық кестелерді жүктейміз, мысалы, күнделікті кестені келесідей жүктеуге болады:
Жиынтықты жүктеуге арналған SQL сұрауы
/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
CASE SUBSTR(TIME_NK,5,3)
WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
BROWSER AS USER_AGENT_NK,
REQUEST_NK,
IP_NR,
STATUS,
LINE_NK,
BYTES
FROM STG_ACCESS_LOG
)
SELECT
CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
USG.DIM_USER_AGENT_ID,
HST.DIM_HTTP_STATUS_ID,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
SUM(BYTES) AS BYTES
FROM STG,
DIM_HTTP_STATUS HST,
DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_IDSqlite деректер қоры күрделі сұраныстарды жазуға мүмкіндік береді. WITH деректер мен кілттерді дайындауды қамтиды. Негізгі сұрау өлшемдерге барлық сілтемелерді жинайды.
Шарт тарихты қайта жүктеуге мүмкіндік бермейді: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, мұнда параметр сұраудың нәтижесі болып табылады
‘FCT_ACCESS_USER_AGENT_DD СОҢҒЫ_ОҚИҒАН_ДӘУІР РЕТІНДЕ КОАЛЕСЦИЯНЫ (MAX(EVENT_DT), '3600') ТАҢДАУ'
Шарт тек толық күнді жүктейді: CAST(STG.EVENT_DT AS INTEGER) < strftime(‘%s', date('қазір', 'күннің басы'))
Беттерді немесе файлдарды санау қарабайыр жолмен, нүктені іздеу арқылы жүзеге асырылады.
Есептер
Күрделі визуализация жүйелерінде дерекқор объектілері негізінде мета-модель құруға, сүзгілерді және біріктіру ережелерін динамикалық басқаруға болады. Сайып келгенде, барлық лайықты құралдар SQL сұрауын жасайды.
Бұл мысалда біз дайын SQL сұраныстарын жасаймыз және оларды дерекқорда көріністер ретінде сақтаймыз - бұл есептер.
Көрнекілік
Bluff: JavaScript-тегі әдемі графиктер визуализация құралы ретінде пайдаланылды
Ол үшін PHP көмегімен барлық есептерді қарап шығу және кестелері бар html файлын құру қажет болды.
$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);Құрал нәтижелер кестелерін жай ғана визуализациялайды.
қорытынды
Мысал ретінде веб-талдауды пайдалана отырып, мақала деректер қоймаларын құруға қажетті механизмдерді сипаттайды. Нәтижелерден көрініп тұрғандай, деректерді терең талдау және визуализациялау үшін қарапайым құралдар жеткілікті.
Болашақта осы репозиторийді мысал ретінде пайдалана отырып, біз баяу өзгеретін өлшемдер, метадеректер, жинақтау деңгейлері және әртүрлі көздерден алынған деректерді біріктіру сияқты құрылымдарды енгізуге тырысамыз.
Сондай-ақ, бір кестеге негізделген ETL процестерін басқарудың ең қарапайым құралын толығырақ қарастырайық.
Деректердің сапасын өлшеу және бұл процесті автоматтандыру тақырыбына оралайық.
Біз техникалық ортаның мәселелерін және деректер қоймаларына қызмет көрсету мәселелерін зерттейміз, ол үшін ең аз ресурстары бар сақтау серверін енгіземіз, мысалы, Raspberry Pi негізінде.
Ақпарат көзі: www.habr.com