เชตเซเชฌเชฒเชพเชเชเชฐ เช เชจเซ เชเซเชเชฒ เชเชจเชฒเชฟเชเชฟเชเซเชธเซ เชฎเชจเซ เชเชฃเชพ เชตเชฐเซเชทเซเชฅเซ เชตเซเชฌเชธเชพเชเชเซเชธ เชชเชฐ เชถเซเช เชฅเช เชฐเชนเซเชฏเซเช เชเซ เชคเซเชจเซ เชธเชฎเช เชฎเซเชณเชตเชตเชพเชฎเชพเช เชฎเชฆเชฆ เชเชฐเซ เชเซ. เชนเชตเซ เชนเซเช เชธเชฎเชเซเช เชเซเช เชเซ เชคเซเช เชฌเชนเซ เชเชเซ เชเชชเชฏเซเชเซ เชฎเชพเชนเชฟเชคเซ เชชเซเชฐเชฆเชพเชจ เชเชฐเซ เชเซ. เชคเชฎเชพเชฐเซ access.log เชซเชพเชเชฒเชจเซ เชเชเซเชธเซเชธ เชนเซเชตเชพเชฅเซ, เชเชเชเชกเชพเชเชจเซ เชธเชฎเชเชตเชพ เช เชจเซ เชคเชฆเซเชฆเชจ เชฎเซเชณเชญเซเชค เชธเชพเชงเชจเซ, เชเซเชฎ เชเซ sqlite, html, sql เชญเชพเชทเชพ เช เชจเซ เชเซเชเชชเชฃ เชธเซเชเซเชฐเชฟเชชเซเชเซเชเช เชชเซเชฐเซเชเซเชฐเชพเชฎเชฟเชเช เชญเชพเชทเชพเชจเซ เช เชฎเชฒเชฎเชพเช เชฎเซเชเชตเชพเชจเซเช เชเซเชฌ เช เชธเชฐเชณ เชเซ.
เชตเซเชฌเชฒเชพเชเชเชฐ เชฎเชพเชเซเชจเซ เชกเซเชเชพ เชธเซเชคเซเชฐเซเชค เชธเชฐเซเชตเชฐเชจเซ access.log เชซเชพเชเชฒ เชเซ. เชคเซเชจเชพ เชฌเชพเชฐ เช เชจเซ เชจเชเชฌเชฐเซ เชเชจเชพ เชเซเชตเชพ เชฆเซเชเชพเชฏ เชเซ, เชเซเชฎเชพเชเชฅเซ เชฎเชพเชคเซเชฐ เชเซเชฐเชพเชซเชฟเชเชจเซเช เชเซเชฒ เชตเซเชฒเซเชฏเซเชฎ เชธเซเชชเชทเซเช เชเซ:
เชเซเชเชฒ เชเชจเชฒเชฟเชเชฟเชเซเชธ เชเซเชตเชพ เชเซเชฒเซเชธ เชฒเซเชก เชเชฐเซเชฒเชพ เชชเซเชเชฎเชพเชเชฅเซ เช เชกเซเชเชพ เชเชเชคเซเชฐเชฟเชค เชเชฐเซ เชเซ. เชคเซเช เช
เชฎเชจเซ เชเซเชเชฒเชพเช เชเชเซเชคเชฟเช เช
เชจเซ เชฐเซเชเชพเช เชฌเชคเชพเชตเซ เชเซ, เชเซเชจเชพ เชเชงเชพเชฐเซ เชธเชพเชเชพ เชคเชพเชฐเชฃเซ เชเชพเชขเชตเชพเชจเซเช เชเชฃเซเชตเชพเชฐ เชฎเซเชถเซเชเซเชฒ เชนเซเชฏ เชเซ. เชเชฆเชพเช เชตเชงเซ เชชเซเชฐเชฏเชคเซเชจเซ เชเชฐเชตเชพ เชเซเชเช? เชเชฌเชฐ เชจเชฅเซ.
เชคเซเชฅเซ, เชนเซเช เชตเซเชฌเชธเชพเชเช เชฎเซเชฒเชพเชเชพเชคเซเชเชจเชพ เชเชเชเชกเชพเชฎเชพเช เชถเซเช เชเซเชตเชพ เชฎเชพเชเชเซ เชเซเช?
เชตเชชเชฐเชพเชถเชเชฐเซเชคเชพ เช เชจเซ เชฌเซเช เชเซเชฐเชพเชซเชฟเช
เชเชฃเซ เชตเชเชค เชธเชพเชเช เชเซเชฐเชพเชซเชฟเช เชฎเชฐเซเชฏเชพเชฆเชฟเชค เชนเซเชฏ เชเซ เช เชจเซ เชเซเชเชฒเชพ เชเชชเชฏเซเชเซ เชเซเชฐเชพเชซเชฟเชเชจเซ เชเชชเชฏเซเช เชฅเช เชฐเชนเซเชฏเซ เชเซ เชคเซ เชเซเชตเซเช เชเชฐเซเชฐเซ เชเซ. เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ, เชเชจเซ เชเซเชฎ:
SQL เชฐเชฟเชชเซเชฐเซเช เชเซเชตเซเชฐเซ
SELECT
1 as 'StackedArea: Traffic generated by Users and Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Users, KB'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT
เชเชฒเซเช เชฌเซเชเซเชจเซ เชธเชคเชค เชชเซเชฐเชตเซเชคเซเชคเชฟ เชฌเชคเชพเชตเซ เชเซ. เชธเซเชฅเซ เชธเชเซเชฐเชฟเชฏ เชชเซเชฐเชคเชฟเชจเชฟเชงเชฟเชเชจเซ เชตเชฟเชเชคเชตเชพเชฐ เช เชญเซเชฏเชพเชธ เชเชฐเชตเซ เชฐเชธเชชเซเชฐเชฆ เชฐเชนเซเชถเซ.
เชนเซเชฐเชพเชจ เชเชฐเชจเชพเชฐ เชฌเซเชเซ
เช เชฎเซ เชตเชชเชฐเชพเชถเชเชฐเซเชคเชพ เชเชเชจเซเชเชจเซ เชฎเชพเชนเชฟเชคเซเชจเชพ เชเชงเชพเชฐเซ เชฌเซเชเซเชจเซเช เชตเชฐเซเชเซเชเชฐเชฃ เชเชฐเซเช เชเซเช. เชฆเซเชจเชฟเช เชเซเชฐเชพเชซเชฟเช เชชเชฐเชจเชพ เชตเชงเชพเชฐเชพเชจเชพ เชเชเชเชกเชพ, เชธเชซเชณ เช เชจเซ เช เชธเชซเชณ เชตเชฟเชจเชเชคเซเชเชจเซ เชธเชเชเซเชฏเชพ เชฌเซเช เชชเซเชฐเชตเซเชคเซเชคเชฟเชจเซ เชธเชพเชฐเซ เชเซเชฏเชพเชฒ เชเชชเซ เชเซ.
SQL เชฐเชฟเชชเซเชฐเซเช เชเซเชตเซเชฐเซ
SELECT
1 AS 'Table: Annoying Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Error Requests per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Success Requests per Day',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT != 'n.a.'
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10
เช เชเชฟเชธเซเชธเชพเชฎเชพเช, เชตเชฟเชถเซเชฒเซเชทเชฃเชจเซเช เชชเชฐเชฟเชฃเชพเชฎ เช เชธเชพเชเชเชจเซ เชเชเซเชธเซเชธเชจเซ robots.txt เชซเชพเชเชฒเชฎเชพเช เชเชฎเซเชฐเซเชจเซ เชชเซเชฐเชคเชฟเชฌเชเชงเชฟเชค เชเชฐเชตเชพเชจเซ เชจเชฟเชฐเซเชฃเชฏ เชนเชคเซ.
User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
เชชเซเชฐเชฅเชฎ เชฌเซ เชฌเซเชเซเชธ เชเซเชฌเชฒเชฎเชพเชเชฅเซ เช
เชฆเซเชถเซเชฏ เชฅเช เชเชฏเชพ, เช
เชจเซ MS เชฐเซเชฌเซเชเซเชธ เชชเซเชฐเชฅเชฎ เชฒเซเชเซเชเชฅเซ เชจเซเชเซ เชเชธเซ เชเชฏเชพ.
เชฎเชนเชพเชจ เชชเซเชฐเชตเซเชคเซเชคเชฟเชจเซ เชฆเชฟเชตเชธ เช เชจเซ เชธเชฎเชฏ
เชเซเชฐเชพเชซเชฟเชเชฎเชพเช เชเชเชพเชณเซ เชเซเชตเชพ เชฎเชณเซ เชฐเชนเซเชฏเซ เชเซ. เชคเซเชฎเชจเซ เชตเชฟเชเชคเชตเชพเชฐ เช เชญเซเชฏเชพเชธ เชเชฐเชตเชพ เชฎเชพเชเซ, เชคเซเชฎเชจเซ เชเชเชจเชพเชจเชพ เชธเชฎเชฏเชจเซ เชชเซเชฐเชเชพเชถเชฟเชค เชเชฐเชตเซ เชเชฐเซเชฐเซ เชเซ, เช เชจเซ เชธเชฎเชฏ เชฎเชพเชชเชจเชจเชพ เชคเชฎเชพเชฎ เชเชฒเชพเชเซ เช เชจเซ เชฆเชฟเชตเชธเซ เชฆเชฐเซเชถเชพเชตเชตเชพ เชเชฐเซเชฐเซ เชจเชฅเซ. เชเซ เชตเชฟเชเชคเชตเชพเชฐ เชตเชฟเชถเซเชฒเซเชทเชฃเชจเซ เชเชฐเซเชฐ เชนเซเชฏ เชคเซ เช เชฒเซเช เชซเชพเชเชฒเชฎเชพเช เชตเซเชฏเชเซเชคเชฟเชเชค เชตเชฟเชจเชเชคเซเช เชถเซเชงเชตเชพเชจเซเช เชธเชฐเชณ เชฌเชจเชพเชตเชถเซ.
SQL เชฐเชฟเชชเซเชฐเซเช เชเซเชตเซเชฐเซ
SELECT
1 AS 'Line: Day and Hour of Hits from Users and Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Date Time',
HIB AS 'Bots, Hits',
HIU AS 'Users, Hits'
FROM (
SELECT
EVENT_DT,
SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
FROM FCT_ACCESS_REQUEST_REF_HH
WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY EVENT_DT
ORDER BY SUM(LINE_CNT) DESC
LIMIT 10
) ORDER BY EVENT_DT
เช เชฎเซ เชเชพเชฐเซเช เชชเชฐ เชชเซเชฐเชฅเชฎ เชฆเชฟเชตเชธเชจเชพ เชธเซเชฅเซ เชตเชงเซ เชธเชเซเชฐเชฟเชฏ เชเชฒเชพเชเซ 11, 14 เช เชจเซ 20 เช เชตเชฒเซเชเชจ เชเชฐเซเช เชเซเช. เชชเชฐเชเชคเซ เชฌเซเชเชพ เชฆเชฟเชตเชธเซ 13:XNUMX เชตเชพเชเซเชฏเซ เชฌเซเชเซ เชธเชเซเชฐเชฟเชฏ เชนเชคเชพ.
เชธเชชเซเชคเชพเชน เชฆเซเชตเชพเชฐเชพ เชธเชฐเซเชฐเชพเชถ เชฆเซเชจเชฟเช เชตเชชเชฐเชพเชถเชเชฐเซเชคเชพ เชชเซเชฐเชตเซเชคเซเชคเชฟ
เช เชฎเซ เชชเซเชฐเชตเซเชคเซเชคเชฟ เช เชจเซ เชเซเชฐเชพเชซเชฟเช เชธเชพเชฅเซ เชฅเซเชกเซ เชตเชธเซเชคเซเช เชเซเช เชตเซ. เชเชเชณเชจเซ เชชเซเชฐเชถเซเชจ เชตเชชเชฐเชพเชถเชเชฐเซเชคเชพเชเชจเซ เชชเซเชคเชพเชจเซ เชชเซเชฐเชตเซเชคเซเชคเชฟเชจเซ เชนเชคเซ. เชเชตเชพ เชเชเชเชกเชพเช เชฎเชพเชเซ, เชฒเชพเชเชฌเชพ เชเชเชคเซเชฐเซเชเชฐเชฃ เชธเชฎเชฏเชเชพเชณเชพ, เชเซเชฎ เชเซ เชเช เช เช เชตเชพเชกเชฟเชฏเชพ, เชเชเซเชเชจเซเชฏ เชเซ.
SQL เชฐเชฟเชชเซเชฐเซเช เชเซเชตเซเชฐเซ
SELECT
1 as 'Line: Average Daily User Activity by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Pages per IP per Day',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Files per IP per Day'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT='n.a.' /* users only */
AND HST.STATUS_GROUP IN ('Successful') /* good pages */
AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT
เชธเชพเชชเซเชคเชพเชนเชฟเช เชเชเชเชกเชพ เชฆเชฐเซเชถเชพเชตเซ เชเซ เชเซ เชธเชฐเซเชฐเชพเชถ เชเช เชตเชชเชฐเชพเชถเชเชฐเซเชคเชพ เชฆเชฐเชฐเซเช 1,6 เชชเซเชทเซเช เซ เชเซเชฒเซ เชเซ. เช เชเชฟเชธเซเชธเชพเชฎเชพเช เชตเชชเชฐเชพเชถเชเชฐเซเชคเชพ เชฆเซเช เชตเชฟเชจเชเชคเซ เชเชฐเซเชฒเซ เชซเชพเชเชฒเซเชจเซ เชธเชเชเซเชฏเชพ เชธเชพเชเช เชชเชฐ เชจเชตเซ เชซเชพเชเชฒเซเชจเชพ เชเชฎเซเชฐเชพ เชชเชฐ เชเชงเชพเชฐเชฟเชค เชเซ.
เชฌเชงเซ เชตเชฟเชจเชเชคเซเช เช เชจเซ เชคเซเชฎเชจเซ เชธเซเชฅเชฟเชคเชฟ
เชตเซเชฌเชฒเชพเชเชเชฐ เชนเชเชฎเซเชถเชพ เชเซเชเซเชเชธ เชชเซเช เชเซเชกเซเชธ เชฆเชฐเซเชถเชพเชตเซ เชเซ เช เชจเซ เชนเซเช เชนเชเชฎเซเชถเชพ เชฎเชพเชคเซเชฐ เชธเชซเชณ เชตเชฟเชจเชเชคเซเช เช เชจเซ เชญเซเชฒเซเชจเซ เชธเชเชเซเชฏเชพ เชเซเชตเชพ เชฎเชพเชเชเชคเซ เชนเชคเซ.
SQL เชฐเชฟเชชเซเชฐเซเช เชเซเชตเซเชฐเซ
SELECT
1 as 'Line: All Requests by Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN STS.STATUS_GROUP='Successful' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Success',
SUM(CASE WHEN STS.STATUS_GROUP='Redirection' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirect',
SUM(CASE WHEN STS.STATUS_GROUP='Client Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Customer Error',
SUM(CASE WHEN STS.STATUS_GROUP='Server Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Server Error'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT
เชฐเชฟเชชเซเชฐเซเช เชตเชฟเชจเชเชคเซเช เชฆเชฐเซเชถเชพเชตเซ เชเซ, เชเซเชฒเชฟเชเซเชธ (เชนเชฟเช) เชจเชนเซเช, LINE_CNTเชฅเซ เชตเชฟเชชเชฐเซเชค, REQUEST_CNT เชฎเซเชเซเชฐเชฟเชเชจเซ เชเชฃเชคเชฐเซ COUNT(DISTINCT STG.REQUEST_NK) เชคเชฐเซเชเซ เชเชฐเชตเชพเชฎเชพเช เชเชตเซ เชเซ. เชงเซเชฏเซเชฏ เช เชธเชฐเชเชพเชฐเช เชเชตเซเชจเซเชเซเชธ เชฌเชคเชพเชตเชตเชพเชจเซ เชเซ, เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ, MS เชฌเซเชเซเชธ เชฆเชฟเชตเชธเชฎเชพเช เชธเซเชเชเชกเซ เชตเชเชค robots.txt เชซเชพเชเชฒเชจเซเช เชฎเชคเชฆเชพเชจ เชเชฐเซ เชเซ เช เชจเซ เช เชเชฟเชธเซเชธเชพเชฎเชพเช, เชเชตเชพ เชฎเชคเชฆเชพเชจเชจเซ เชเชฃเชคเชฐเซ เชเชเชตเชพเชฐ เชเชฐเชตเชพเชฎเชพเช เชเชตเชถเซ. เช เชคเชฎเชจเซ เชเซเชฐเชพเชซเชฎเชพเช เชเซเชฆเชเชพเชจเซ เชธเชฐเชณ เชฌเชจเชพเชตเชตเชพ เชฎเชพเชเซ เชชเชฐเชตเชพเชจเชเซ เชเชชเซ เชเซ.
เชเซเชฐเชพเชซเชฎเชพเชเชฅเซ เชคเชฎเซ เชเชฃเซ เชญเซเชฒเซ เชเซเช เชถเชเซ เชเซ - เช เช เชธเซเชคเชฟเชคเซเชตเชฎเชพเช เชจเชฅเซ เชคเซเชตเชพ เชชเซเชทเซเช เซ เชเซ. เชตเชฟเชถเซเชฒเซเชทเชฃเชจเซเช เชชเชฐเชฟเชฃเชพเชฎ เชฆเซเชฐเชธเซเชฅ เชชเซเชทเซเช เซเชฎเชพเชเชฅเซ เชฐเซเชกเชพเชฏเชฐเซเชเซเชเชจเซ เชเชฎเซเชฐเซ เชนเชคเซ.
เชเชฐเชพเชฌ เชตเชฟเชจเชเชคเซเช
เชตเชฟเชจเชเชคเซเชเชจเซ เชตเชฟเชเชคเชตเชพเชฐ เชคเชชเชพเชธ เชเชฐเชตเชพ เชฎเชพเชเซ, เชคเชฎเซ เชตเชฟเชเชคเชตเชพเชฐ เชเชเชเชกเชพ เชชเซเชฐเชฆเชฐเซเชถเชฟเชค เชเชฐเซ เชถเชเซ เชเซ.
SQL เชฐเชฟเชชเซเชฐเซเช เชเซเชตเซเชฐเซ
SELECT
1 AS 'Table: Top Error Requests',
REQ.REQUEST_NK AS 'Request',
'Error' AS 'Request Status',
ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hits per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day'
FROM
FCT_ACCESS_REQUEST_REF_HH FCT,
DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20
เช เชธเซเชเชฟเชฎเชพเช เชคเชฎเชพเชฎ เชเซเชฒเซเชธ เชชเชฃ เชนเชถเซ, เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ, /wp-login.php เชจเซ เชตเชฟเชจเชเชคเซ เชธเชฐเซเชตเชฐ เชฆเซเชตเชพเชฐเชพ เชซเชฐเซเชฅเซ เชฒเชเชตเชพเชจเซ เชตเชฟเชจเชเชคเซเช เชฎเชพเชเซเชจเชพ เชจเชฟเชฏเชฎเซเชจเซ เชธเชฎเชพเชฏเซเชเชฟเชค เชเชฐเซเชจเซ, เชคเชฎเซ เชเชตเซ เชตเชฟเชจเชเชคเซเช เชชเชฐ เชธเชฐเซเชตเชฐเชจเซ เชชเซเชฐเชคเชฟเชเซเชฐเชฟเชฏเชพเชจเซ เชธเชฎเชพเชฏเซเชเชฟเชค เชเชฐเซ เชถเชเซ เชเซ เช เชจเซ เชคเซเชฎเชจเซ เชชเซเชฐเชพเชฐเชเชญ เชชเซเชทเซเช เชชเชฐ เชฎเซเชเชฒเซ เชถเชเซ เชเซ.
เชคเซเชฅเซ, เชธเชฐเซเชตเชฐ เชฒเซเช เชซเชพเชเชฒ เชชเชฐ เชเชงเชพเชฐเชฟเชค เชฅเซเชกเชพ เชธเชฐเชณ เช เชนเซเชตเชพเชฒเซ เชธเชพเชเช เชชเชฐ เชถเซเช เชฅเช เชฐเชนเซเชฏเซเช เชเซ เชคเซเชจเซเช เชเชเชฆเชฎ เชธเชเชชเซเชฐเซเชฃ เชเชฟเชคเซเชฐ เชเชชเซ เชเซ.
เชฎเชพเชนเชฟเชคเซ เชเซเชตเซ เชฐเซเชคเซ เชฎเซเชณเชตเชตเซ?
เชเช sqlite เชกเซเชเชพเชฌเซเช เชชเชฐเซเชฏเชพเชชเซเชค เชเซ. เชเชพเชฒเซ เชเซเชทเซเชเชเซ เชฌเชจเชพเชตเซเช: ETL เชชเซเชฐเชเซเชฐเชฟเชฏเชพเชเชจเซ เชฒเซเช เชเชฐเชตเชพ เชฎเชพเชเซ เชธเชนเชพเชฏเช.
เชเซเชฌเชฒ เชธเซเชเซเช เชเซเชฏเชพเช เชเชชเชฃเซ PHP เชจเซ เชเชชเชฏเซเช เชเชฐเซเชจเซ เชฒเซเช เชซเชพเชเชฒเซ เชฒเชเซเชถเซเช. เชฌเซ เชเชเชเชฆเชฐ เชเซเชทเซเชเชเซ. เชเชพเชฒเซ เชฏเซเชเชฐ เชเชเชจเซเชเซเชธ เช
เชจเซ เชฐเชฟเชเซเชตเซเชธเซเช เชธเซเชเซเชเชธ เชชเชฐเชจเชพ เชเชเชเชกเชพเช เชธเชพเชฅเซ เชฆเซเชจเชฟเช เชเซเชทเซเชเช เชฌเชจเชพเชตเซเช. เชตเชฟเชจเชเชคเซเช, เชธเซเชฅเชฟเชคเชฟ เชเซเชฅเซ เช
เชจเซ เชเชเชจเซเชเซ เชชเชฐเชจเชพ เชเชเชเชกเชพ เชธเชพเชฅเซ เชเชฒเชพเชเชฆเซเช . เชธเชเชฌเชเชงเชฟเชค เชฎเชพเชชเชจเชพ เชเชพเชฐ เชเซเชทเซเชเชเซ.
เชชเชฐเชฟเชฃเชพเชฎ เชจเซเชเซเชจเซเช เชฐเชฟเชฒเซเชถเชจเชฒ เชฎเซเชกเชฒ เชเซ:
เชกเซเชเชพ เชฎเซเชกเซเชฒ
sqlite เชกเซเชเชพเชฌเซเชเชฎเชพเช เชเชฌเซเชเซเชเซเช เชฌเชจเชพเชตเชตเชพ เชฎเชพเชเซ เชธเซเชเซเชฐเชฟเชชเซเช:
DDL เชเชฌเซเชเซเชเซเช เชฌเชจเชพเชตเช
DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
USER_AGENT_NK TEXT NOT NULL DEFAULT 'n.a.',
AGENT_OS TEXT NOT NULL DEFAULT 'n.a.',
AGENT_ENGINE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_DEVICE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_BOT TEXT NOT NULL DEFAULT 'n.a.',
UPDATE_DT INTEGER NOT NULL DEFAULT 0,
UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);
เชธเซเชเซเช
access.log เชซเชพเชเชฒเชจเชพ เชเชฟเชธเซเชธเชพเชฎเชพเช, เชกเซเชเชพเชฌเซเชเชฎเชพเช เชฌเชงเซ เชตเชฟเชจเชเชคเซเช เชตเชพเชเชเชตเซ, เชชเชพเชฐเซเชธ เชเชฐเชตเซ เช เชจเซ เชฒเชเชตเซ เชเชฐเซเชฐเซ เชเซ. เช เชเชพเช เชคเซ เชธเซเชงเซ เชธเซเชเซเชฐเชฟเชชเซเชเซเชเช เชญเชพเชทเชพเชจเซ เชเชชเชฏเซเช เชเชฐเซเชจเซ เช เชฅเชตเชพ sqlite เชเซเชฒเซเชธเชจเซ เชเชชเชฏเซเช เชเชฐเซเชจเซ เชเชฐเซ เชถเชเชพเชฏ เชเซ.
เชฒเซเช เชซเชพเชเชฒ เชซเซเชฐเซเชฎเซเช:
//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';
เชเซ เชชเซเชฐเชเชพเชฐ
เชเซเชฏเชพเชฐเซ เชเชพเชเซ เชกเซเชเชพ เชกเซเชเชพเชฌเซเชเชฎเชพเช เชนเซเชฏ, เชคเซเชฏเชพเชฐเซ เชคเชฎเชพเชฐเซ เชฎเชพเชชเชจ เชเซเชทเซเชเชเซเชฎเชพเช เชจ เชนเซเชฏ เชคเซเชตเซ เชเซ เชฒเชเชตเชพเชจเซ เชเชฐเซเชฐ เชเซ. เชชเชเซ เชฎเชพเชชเชจเซ เชธเชเชฆเชฐเซเชญ เชฌเชจเชพเชตเชตเชพเชจเซเช เชถเชเซเชฏ เชฌเชจเชถเซ. เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ, DIM_REFERRER เชเซเชทเซเชเชเชฎเชพเช, เชเซ เช เชคเซเชฐเชฃ เชเซเชทเซเชคเซเชฐเซเชจเซเช เชธเชเชฏเซเชเชจ เชเซ.
SQL เชเซ เชชเซเชฐเชเชพเชฐ เชเซเชตเซเชฐเซ
/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
CLS.HOST_NK,
CLS.PATH_NK,
CLS.QUERY_NK,
STRFTIME('%s','now') AS UPDATE_DT
FROM (
SELECT DISTINCT
REFERRER_HOST AS HOST_NK,
REFERRER_PATH AS PATH_NK,
CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* ะพััะตะทะฐะตะผ sid - ัะฟะตัะธัะธะบะฐ ัะผั */
ELSE REFERRER_QUERY END AS QUERY_NK
FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULL
เชตเชชเชฐเชพเชถเชเชฐเซเชคเชพ เชเชเชจเซเช เชเซเชทเซเชเชเชฎเชพเช เชชเซเชฐเชเชพเชฐเชฎเชพเช เชฌเซเช เชคเชฐเซเช เชถเชพเชฎเซเชฒ เชนเซเช เชถเชเซ เชเซ, เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ sql เชธเซเชจเชฟเชชเซเช:
CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
OR INSTR(LOWER(CLS.BROWSER),'wget')>0
THEN 'other'
ELSE 'n.a.' END AS AGENT_BOT
เชเชเชเชฆเชฐ เชเซเชทเซเชเชเซ
เชเซเชฒเซเชฒเซ, เช เชฎเซ เชเชเชเชฆเชฐ เชเซเชทเซเชเชเซ เชฒเซเชก เชเชฐเซเชถเซเช; เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ, เชฆเซเชจเชฟเช เชเซเชทเซเชเช เชจเซเชเซ เชชเซเชฐเชฎเชพเชฃเซ เชฒเซเชก เชเชฐเซ เชถเชเชพเชฏ เชเซ:
เชเชเชเชฆเชฐ เชฒเซเชก เชเชฐเชตเชพ เชฎเชพเชเซ SQL เชเซเชตเซเชฐเซ
/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
CASE SUBSTR(TIME_NK,5,3)
WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
BROWSER AS USER_AGENT_NK,
REQUEST_NK,
IP_NR,
STATUS,
LINE_NK,
BYTES
FROM STG_ACCESS_LOG
)
SELECT
CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
USG.DIM_USER_AGENT_ID,
HST.DIM_HTTP_STATUS_ID,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
SUM(BYTES) AS BYTES
FROM STG,
DIM_HTTP_STATUS HST,
DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_ID
sqlite เชกเซเชเชพเชฌเซเช เชคเชฎเชจเซ เชเชเชฟเชฒ เชชเซเชฐเชถเซเชจเซ เชฒเชเชตเชพ เชฎเชพเชเซ เชชเชฐเชตเชพเชจเชเซ เชเชชเซ เชเซ. WITH เชฎเชพเช เชกเซเชเชพ เช เชจเซ เชเซเชจเซ เชคเซเชฏเชพเชฐเซเชจเซ เชธเชฎเชพเชตเซเชถ เชฅเชพเชฏ เชเซ. เชฎเซเชเซเชฏ เชเซเชตเซเชฐเซ เชชเชฐเชฟเชฎเชพเชฃเซเชจเชพ เชคเชฎเชพเชฎ เชธเชเชฆเชฐเซเชญเซ เชเชเชคเซเชฐเชฟเชค เชเชฐเซ เชเซ.
เชถเชฐเชค เชเชคเชฟเชนเชพเชธเชจเซ เชซเชฐเซเชฅเซ เชฒเซเชก เชเชฐเชตเชพเชจเซ เชฎเชเชเซเชฐเซ เชเชชเชถเซ เชจเชนเซเช: CAST(STG.EVENT_DT AS INTEGEER) > $param_epoch_from, เชเซเชฏเชพเช เชชเซเชฐเชพเชฎเซเชเชฐ เชตเชฟเชจเชเชคเซเชจเซเช เชชเชฐเชฟเชฃเชพเชฎ เชเซ
FCT_ACCESS_USER_AGENT_DDเชฎเชพเชเชฅเซ 'LAST_EVENT_EPOCH เชคเชฐเซเชเซ COALESCE(MAX(EVENT_DT), '3600') เชชเชธเชเชฆ เชเชฐเซ'
เชถเชฐเชค เชซเชเซเชค เชเชเซ เชฆเชฟเชตเชธ เชฒเซเชก เชฅเชถเซ: CAST(STG.EVENT_DT เชชเซเชฐเซเชฃเชพเชเช เชคเชฐเซเชเซ) < strftime('%s', เชคเชพเชฐเซเช('เชนเชตเซ', 'เชฆเชฟเชตเชธเชจเซ เชถเชฐเซเชเชค'))
เชชเซเชทเซเช เซ เช เชฅเชตเชพ เชซเชพเชเชฒเซเชจเซ เชเชฃเชคเชฐเซ เชเชฆเชฟเชฎ เชฐเซเชคเซ เชเชฐเชตเชพเชฎเชพเช เชเชตเซ เชเซ, เชฌเชฟเชเชฆเซเชจเซ เชถเซเชง เชเชฐเซเชจเซ.
เช เชนเซเชตเชพเชฒเซ
เชเชเชฟเชฒ เชตเชฟเชเซเชฏเซเชฒเชพเชเชเซเชถเชจ เชธเชฟเชธเซเชเชฎเซเชธเชฎเชพเช, เชกเซเชเชพเชฌเซเช เชเชฌเซเชเซเชเซเชเซเชธ เชชเชฐ เชเชงเชพเชฐเชฟเชค เชฎเซเชเชพ-เชฎเซเชกเชฒ เชฌเชจเชพเชตเชตเซเช, เชซเชฟเชฒเซเชเชฐเซเชธ เช เชจเซ เชเชเชคเซเชฐเซเชเชฐเชฃ เชจเชฟเชฏเชฎเซเชจเซ เชเชคเชฟเชถเซเชฒ เชฐเซเชคเซ เชธเชเชเชพเชฒเชฟเชค เชเชฐเชตเซเช เชถเชเซเชฏ เชเซ. เชเชเชฐเซ, เชฌเชงเชพ เชฏเซเชเซเชฏ เชธเชพเชงเชจเซ SQL เชเซเชตเซเชฐเซ เชเชจเชฐเซเช เชเชฐเซ เชเซ.
เช เชเชฆเชพเชนเชฐเชฃเชฎเชพเช, เช เชฎเซ เชคเซเชฏเชพเชฐ เชเชธเชเซเชฏเซเชเชฒ เชเซเชตเซเชฐเซ เชฌเชจเชพเชตเซเชถเซเช เช เชจเซ เชคเซเชฎเชจเซ เชกเซเชเชพเชฌเซเชเชฎเชพเช เชตเซเชฏเซ เชคเชฐเซเชเซ เชธเชพเชเชตเซเชถเซเช - เช เชฐเชฟเชชเซเชฐเซเชเซเชธ เชเซ.
เชตเชฟเชเซเชฏเซเชฒเชพเชเชเซเชถเชจ
เชฌเซเชฒเชซ: เชเชพเชตเชพเชธเซเชเซเชฐเชฟเชชเซเชเชฎเชพเช เชธเซเชเชฆเชฐ เชเซเชฐเชพเชซเชจเซ เชเชชเชฏเซเช เชตเชฟเชเซเชฏเซเชฒเชพเชเชเซเชถเชจ เชเซเชฒ เชคเชฐเซเชเซ เชฅเชคเซ เชนเชคเซ
เช เชเชฐเชตเชพ เชฎเชพเชเซ, PHP เชจเซ เชเชชเชฏเซเช เชเชฐเซเชจเซ เชคเชฎเชพเชฎ เชฐเชฟเชชเซเชฐเซเชเซเชธเชฎเชพเชเชฅเซ เชชเชธเชพเชฐ เชฅเชตเซเช เช เชจเซ เชเซเชทเซเชเชเซ เชธเชพเชฅเซ html เชซเชพเชเชฒ เชเชจเชฐเซเช เชเชฐเชตเซ เชเชฐเซเชฐเซ เชนเชคเซ.
$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);
เชธเชพเชงเชจ เชซเชเซเชค เชชเชฐเชฟเชฃเชพเชฎเซเชจเชพ เชเซเชทเซเชเชเซเชจเซ เชเชฒเซเชชเชจเชพ เชเชฐเซ เชเซ.
เชจเชฟเชทเซเชเชฐเซเชท
เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ เชตเซเชฌ เชตเชฟเชถเซเชฒเซเชทเชฃเชจเซ เชเชชเชฏเซเช เชเชฐเซเชจเซ, เชฒเซเช เชกเซเชเชพ เชตเซเชฐเชนเชพเชเชธ เชฌเชจเชพเชตเชตเชพ เชฎเชพเชเซ เชเชฐเซเชฐเซ เชฎเชฟเชเซเชจเชฟเชเชฎเซเชธเชจเซเช เชตเชฐเซเชฃเชจ เชเชฐเซ เชเซ. เชชเชฐเชฟเชฃเชพเชฎเซ เชชเชฐเชฅเซ เชเซเช เชถเชเชพเชฏ เชเซ เชคเซเชฎ, เชกเซเชเชพเชจเชพ เชเชเชกเชพ เชตเชฟเชถเซเชฒเซเชทเชฃ เช เชจเซ เชตเชฟเชเซเชฏเซเชฒเชพเชเชเซเชถเชจ เชฎเชพเชเซ เชธเซเชฅเซ เชธเชฐเชณ เชธเชพเชงเชจเซ เชชเชฐเซเชฏเชพเชชเซเชค เชเซ.
เชญเชตเชฟเชทเซเชฏเชฎเชพเช, เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ เช เชญเชเชกเชพเชฐเชจเซ เชเชชเชฏเซเช เชเชฐเซเชจเซ, เช เชฎเซ เชงเซเชฎเซ เชงเซเชฎเซ เชฌเชฆเชฒเชพเชคเชพ เชชเชฐเชฟเชฎเชพเชฃเซ, เชฎเซเชเชพเชกเซเชเชพ, เชเชเชคเซเชฐเซเชเชฐเชฃ เชธเซเชคเชฐเซ เช เชจเซ เชตเชฟเชตเชฟเชง เชธเซเชฐเซเชคเซเชฎเชพเชเชฅเซ เชกเซเชเชพเชจเชพ เชเชเซเชเชฐเชฃ เชเซเชตเชพ เชฎเชพเชณเชเชพเชจเซ เช เชฎเชฒเชฎเชพเช เชฎเซเชเชตเชพเชจเซ เชชเซเชฐเชฏเชพเชธ เชเชฐเซเชถเซเช.
เชเชชเชฐเชพเชเชค, เชเชพเชฒเซ เชเช เชเซเชฌเชฒ เชชเชฐ เชเชงเชพเชฐเชฟเชค ETL เชชเซเชฐเชเซเชฐเชฟเชฏเชพเชเชจเซเช เชธเชเชเชพเชฒเชจ เชเชฐเชตเชพ เชฎเชพเชเซเชจเชพ เชธเซเชฅเซ เชธเชฐเชณ เชธเชพเชงเชจ เชชเชฐ เชจเชเซเชเชฅเซ เชจเชเชฐ เชเชฐเซเช.
เชเชพเชฒเซ เชกเซเชเชพเชจเซ เชเซเชฃเชตเชคเซเชคเชพเชจเซ เชฎเชพเชชเชตเชพ เช เชจเซ เช เชชเซเชฐเชเซเชฐเชฟเชฏเชพเชจเซ เชธเซเชตเชเชพเชฒเชฟเชค เชเชฐเชตเชพเชจเชพ เชตเชฟเชทเชฏ เชชเชฐ เชชเชพเชเชพ เชซเชฐเซเช.
เช
เชฎเซ เชคเชเชจเซเชเซ เชตเชพเชคเชพเชตเชฐเชฃ เช
เชจเซ เชกเซเชเชพ เชธเซเชเซเชฐเซเชเชจเซ เชเชพเชณเชตเชฃเซเชจเซ เชธเชฎเชธเซเชฏเชพเชเชจเซ เช
เชญเซเชฏเชพเชธ เชเชฐเซเชถเซเช, เชเซเชจเชพ เชฎเชพเชเซ เช
เชฎเซ เชจเซเชฏเซเชจเชคเชฎ เชธเชเชธเชพเชงเชจเซ เชธเชพเชฅเซ เชธเซเชเซเชฐเซเช เชธเชฐเซเชตเชฐเชจเซ เช
เชฎเชฒเชฎเชพเช เชฎเซเชเซเชถเซเช, เชเชฆเชพเชนเชฐเชฃ เชคเชฐเซเชเซ, เชฐเชพเชธเซเชชเชฌเซเชฐเซ เชชเซ เชชเชฐ เชเชงเชพเชฐเชฟเชค.
เชธเซเชฐเซเชธ: www.habr.com