ສະຖິຕິເວັບໄຊ ແລະບ່ອນເກັບມ້ຽນຂະໜາດນ້ອຍຂອງເຈົ້າເອງ

Webalizer ແລະ Google Analytics ໄດ້ຊ່ວຍໃຫ້ຂ້ອຍມີຄວາມເຂົ້າໃຈກ່ຽວກັບສິ່ງທີ່ເກີດຂື້ນຢູ່ໃນເວັບໄຊທ໌ຕ່າງໆເປັນເວລາຫລາຍປີ. ຕອນນີ້ຂ້ອຍເຂົ້າໃຈວ່າພວກເຂົາໃຫ້ຂໍ້ມູນທີ່ເປັນປະໂຫຍດຫນ້ອຍຫຼາຍ. ມີການເຂົ້າເຖິງໄຟລ໌ access.log ຂອງທ່ານ, ມັນງ່າຍຫຼາຍທີ່ຈະເຂົ້າໃຈສະຖິຕິແລະປະຕິບັດເຄື່ອງມືພື້ນຖານທີ່ຂ້ອນຂ້າງ, ເຊັ່ນ: sqlite, html, ພາສາ sql ແລະພາສາການຂຽນໂປຼແກຼມໃດໆ.

ແຫຼ່ງຂໍ້ມູນສໍາລັບ Webalizer ແມ່ນໄຟລ໌ access.log ຂອງເຄື່ອງແມ່ຂ່າຍ. ນີ້ແມ່ນສິ່ງທີ່ແຖບແລະຕົວເລກຂອງມັນເບິ່ງຄືວ່າ, ເຊິ່ງມີພຽງແຕ່ປະລິມານການຈະລາຈອນທີ່ຊັດເຈນ:

ເຄື່ອງມືເຊັ່ນ Google Analytics ເກັບຂໍ້ມູນຈາກຫນ້າທີ່ໂຫລດດ້ວຍຕົນເອງ. ພວກເຂົາເຈົ້າສະແດງໃຫ້ພວກເຮົາຄູ່ຂອງແຜນວາດແລະເສັ້ນ, ໂດຍອີງໃສ່ທີ່ມັນມັກຈະເປັນການຍາກທີ່ຈະແຕ້ມບົດສະຫຼຸບທີ່ຖືກຕ້ອງ. ບາງທີຄວນມີຄວາມພະຍາຍາມຫຼາຍກວ່ານີ້ບໍ? ບໍ່ຮູ້.

ດັ່ງນັ້ນ, ຂ້ອຍຢາກເຫັນຫຍັງໃນສະຖິຕິຜູ້ເຂົ້າຊົມເວັບໄຊທ໌?

ການເຂົ້າຊົມຂອງຜູ້ໃຊ້ແລະ bot

ເລື້ອຍໆການຈາລະຈອນຂອງສະຖານທີ່ແມ່ນຈໍາກັດແລະມັນຈໍາເປັນຕ້ອງເບິ່ງວ່າການຈະລາຈອນທີ່ມີປະໂຫຍດຫຼາຍປານໃດແມ່ນຖືກນໍາໃຊ້. ຕົວຢ່າງເຊັ່ນນີ້:

ການສອບຖາມລາຍງານ SQL

SELECT
1 as 'StackedArea: Traffic generated by Users and Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Users, KB'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

ເສັ້ນສະແດງສະແດງກິດຈະກໍາຄົງທີ່ຂອງ bots. ມັນຈະເປັນຫນ້າສົນໃຈທີ່ຈະສຶກສາລາຍລະອຽດກ່ຽວກັບຜູ້ຕາງຫນ້າທີ່ມີການເຄື່ອນໄຫວຫຼາຍທີ່ສຸດ.

bots ທີ່ຫນ້າລໍາຄານ

ພວກເຮົາຈັດປະເພດ bots ໂດຍອີງໃສ່ຂໍ້ມູນຕົວແທນຜູ້ໃຊ້. ສະຖິຕິເພີ່ມເຕີມກ່ຽວກັບການຈະລາຈອນປະຈໍາວັນ, ຈໍານວນຄໍາຮ້ອງຂໍທີ່ປະສົບຜົນສໍາເລັດແລະບໍ່ປະສົບຜົນສໍາເລັດໃຫ້ຄວາມຄິດທີ່ດີຂອງກິດຈະກໍາ bot.

ການສອບຖາມລາຍງານ SQL

SELECT 
1 AS 'Table: Annoying Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Error Requests per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Success Requests per Day',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
     DIM_USER_AGENT USG,
     DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT != 'n.a.'
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10

ໃນກໍລະນີນີ້, ຜົນໄດ້ຮັບຂອງການວິເຄາະແມ່ນການຕັດສິນໃຈທີ່ຈະຈໍາກັດການເຂົ້າເຖິງເວັບໄຊທ໌ໂດຍການເພີ່ມມັນໃສ່ໄຟລ໌ robots.txt.

User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
ສອງ bots ທໍາອິດຫາຍໄປຈາກຕາຕະລາງ, ແລະຫຸ່ນຍົນ MS ໄດ້ຍ້າຍລົງຈາກແຖວທໍາອິດ.

ມື້ແລະເວລາຂອງກິດຈະກໍາທີ່ຍິ່ງໃຫຍ່ທີ່ສຸດ

Upswings ແມ່ນເຫັນໄດ້ໃນການຈະລາຈອນ. ເພື່ອສຶກສາພວກມັນຢ່າງລະອຽດ, ມັນຈໍາເປັນຕ້ອງເນັ້ນເຖິງເວລາຂອງການປະກົດຕົວຂອງພວກເຂົາ, ແລະມັນບໍ່ຈໍາເປັນຕ້ອງສະແດງເວລາທັງຫມົດແລະມື້ຂອງການວັດແທກເວລາ. ນີ້ຈະເຮັດໃຫ້ມັນງ່າຍຕໍ່ການຊອກຫາຄໍາຮ້ອງຂໍສ່ວນບຸກຄົນໃນໄຟລ໌ບັນທຶກຖ້າຕ້ອງການການວິເຄາະລາຍລະອຽດ.

ການສອບຖາມລາຍງານ SQL

SELECT
1 AS 'Line: Day and Hour of Hits from Users and Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Date Time',
HIB AS 'Bots, Hits',
HIU AS 'Users, Hits'
FROM (
	SELECT
	EVENT_DT,
	SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
	SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
	FROM FCT_ACCESS_REQUEST_REF_HH
	WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
	GROUP BY EVENT_DT
	ORDER BY SUM(LINE_CNT) DESC
	LIMIT 10
) ORDER BY EVENT_DT

ພວກເຮົາສັງເກດເຫັນຊົ່ວໂມງທີ່ມີການເຄື່ອນໄຫວຫຼາຍທີ່ສຸດ 11, 14 ແລະ 20 ຂອງມື້ທໍາອິດໃນຕາຕະລາງ. ແຕ່ໃນມື້ຕໍ່ມາໃນເວລາ 13:XNUMX bots ໄດ້ເຄື່ອນໄຫວ.

ການເຄື່ອນໄຫວຂອງຜູ້ໃຊ້ປະຈໍາວັນໂດຍສະເລ່ຍຕໍ່ອາທິດ

ພວກເຮົາໄດ້ຈັດຮຽງສິ່ງຕ່າງໆອອກເລັກນ້ອຍກັບກິດຈະກໍາແລະການຈະລາຈອນ. ຄໍາຖາມຕໍ່ໄປແມ່ນກິດຈະກໍາຂອງຜູ້ໃຊ້ເອງ. ສໍາລັບສະຖິຕິດັ່ງກ່າວ, ໄລຍະເວລາການລວບລວມຍາວ, ເຊັ່ນຫນຶ່ງອາທິດ, ແມ່ນຄວາມປາຖະຫນາ.

ການສອບຖາມລາຍງານ SQL

SELECT
1 as 'Line: Average Daily User Activity by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Pages per IP per Day',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Files per IP per Day'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG,
  DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT='n.a.' /* users only */
  AND HST.STATUS_GROUP IN ('Successful') /* good pages */
  AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

ສະຖິຕິປະຈໍາອາທິດສະແດງໃຫ້ເຫັນວ່າໂດຍສະເລ່ຍຫນຶ່ງຜູ້ໃຊ້ເປີດ 1,6 ຫນ້າຕໍ່ມື້. ຈໍານວນໄຟລ໌ທີ່ຮ້ອງຂໍຕໍ່ຜູ້ໃຊ້ໃນກໍລະນີນີ້ແມ່ນຂຶ້ນກັບການເພີ່ມໄຟລ໌ໃຫມ່ໃນເວັບໄຊທ໌.

ການຮ້ອງຂໍທັງຫມົດແລະສະຖານະພາບຂອງພວກເຂົາ

Webalizer ສະ​ແດງ​ໃຫ້​ເຫັນ​ລະ​ຫັດ​ຫນ້າ​ສະ​ເພາະ​ສະ​ເຫມີ​ແລະ​ຂ້າ​ພະ​ເຈົ້າ​ສະ​ເຫມີ​ຕ້ອງ​ການ​ທີ່​ຈະ​ເບິ່ງ​ພຽງ​ແຕ່​ຈໍາ​ນວນ​ຂອງ​ຄໍາ​ຮ້ອງ​ສະ​ຫມັກ​ສົບ​ຜົນ​ສໍາ​ເລັດ​ແລະ​ຄວາມ​ຜິດ​ພາດ​.

ການສອບຖາມລາຍງານ SQL

SELECT
1 as 'Line: All Requests by Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN STS.STATUS_GROUP='Successful' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Success',
SUM(CASE WHEN STS.STATUS_GROUP='Redirection' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirect',
SUM(CASE WHEN STS.STATUS_GROUP='Client Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Customer Error',
SUM(CASE WHEN STS.STATUS_GROUP='Server Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Server Error'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

ບົດລາຍງານສະແດງຄໍາຮ້ອງຂໍ, ບໍ່ແມ່ນການຄລິກ ( hits), ບໍ່ເຫມືອນກັບ LINE_CNT, metric REQUEST_CNT ຖືກຄິດໄລ່ເປັນ COUNT(DISTINCT STG.REQUEST_NK). ເປົ້າຫມາຍແມ່ນການສະແດງເຫດການທີ່ມີປະສິດທິພາບ, ຕົວຢ່າງ, MS bots ການສໍາຫຼວດໄຟລ໌ robots.txt ຫຼາຍຮ້ອຍຄັ້ງຕໍ່ມື້ແລະ, ໃນກໍລະນີນີ້, ແບບສໍາຫຼວດດັ່ງກ່າວຈະຖືກນັບຫນຶ່ງຄັ້ງ. ນີ້ອະນຸຍາດໃຫ້ທ່ານສາມາດເລື່ອນອອກໃນເສັ້ນສະແດງ.

ຈາກກາຟທ່ານສາມາດເບິ່ງຂໍ້ຜິດພາດຫຼາຍຢ່າງ - ເຫຼົ່ານີ້ແມ່ນຫນ້າທີ່ບໍ່ມີຢູ່ແລ້ວ. ຜົນໄດ້ຮັບຂອງການວິເຄາະແມ່ນການເພີ່ມການປ່ຽນເສັ້ນທາງຈາກຫນ້າຫ່າງໄກສອກຫຼີກ.

ການຮ້ອງຂໍທີ່ບໍ່ດີ

ເພື່ອກວດສອບການຮ້ອງຂໍຢ່າງລະອຽດ, ທ່ານສາມາດສະແດງສະຖິຕິລາຍລະອຽດ.

ການສອບຖາມລາຍງານ SQL

SELECT
  1 AS 'Table: Top Error Requests',
  REQ.REQUEST_NK AS 'Request',
  'Error' AS 'Request Status',
  ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hits per Day',
  ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
  ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day'
FROM
  FCT_ACCESS_REQUEST_REF_HH FCT,
  DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
  AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20

ບັນຊີລາຍຊື່ນີ້ຍັງຈະປະກອບດ້ວຍການໂທທັງຫມົດ, ຕົວຢ່າງ, ການຮ້ອງຂໍກັບ /wp-login.php ໂດຍການປັບກົດລະບຽບສໍາລັບການຂຽນຄືນຄໍາຮ້ອງຂໍໂດຍເຄື່ອງແມ່ຂ່າຍ, ທ່ານສາມາດປັບປະຕິກິລິຍາຂອງເຄື່ອງແມ່ຂ່າຍຕໍ່ການຮ້ອງຂໍດັ່ງກ່າວແລະສົ່ງພວກເຂົາໄປຫາຫນ້າເລີ່ມຕົ້ນ.

ດັ່ງນັ້ນ, ບົດລາຍງານງ່າຍໆຈໍານວນຫນ້ອຍໂດຍອີງໃສ່ໄຟລ໌ບັນທຶກຂອງເຄື່ອງແມ່ຂ່າຍໃຫ້ຮູບພາບທີ່ສົມບູນຂອງສິ່ງທີ່ເກີດຂຶ້ນຢູ່ໃນເວັບໄຊທ໌.

ວິທີການໄດ້ຮັບຂໍ້ມູນ?

ຖານຂໍ້ມູນ sqlite ແມ່ນພຽງພໍ. ໃຫ້ພວກເຮົາສ້າງຕາຕະລາງ: ຜູ້ຊ່ວຍສໍາລັບການບັນທຶກຂະບວນການ ETL.

ຂັ້ນຕອນຕາຕະລາງທີ່ພວກເຮົາຈະຂຽນບັນທຶກໄຟລ໌ໂດຍໃຊ້ PHP. ສອງຕາຕະລາງລວມ. ໃຫ້ສ້າງຕາຕະລາງປະຈໍາວັນທີ່ມີສະຖິຕິກ່ຽວກັບຕົວແທນຜູ້ໃຊ້ແລະສະຖານະການຮ້ອງຂໍ. ທຸກໆຊົ່ວໂມງດ້ວຍສະຖິຕິກ່ຽວກັບການຮ້ອງຂໍ, ກຸ່ມສະຖານະພາບແລະຕົວແທນ. ສີ່ຕາຕະລາງຂອງການວັດແທກທີ່ກ່ຽວຂ້ອງ.

ຜົນໄດ້ຮັບແມ່ນຮູບແບບການພົວພັນດັ່ງຕໍ່ໄປນີ້:

ຮູບແບບຂໍ້ມູນ

Script ເພື່ອສ້າງວັດຖຸໃນຖານຂໍ້ມູນ sqlite:

ການສ້າງວັດຖຸ DDL

DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
  DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
  USER_AGENT_NK     TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_OS          TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_ENGINE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_DEVICE      TEXT NOT NULL DEFAULT 'n.a.',
  AGENT_BOT         TEXT NOT NULL DEFAULT 'n.a.',
  UPDATE_DT         INTEGER NOT NULL DEFAULT 0,
  UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);

ເວທີ

ໃນກໍລະນີຂອງໄຟລ໌ access.log, ມັນຈໍາເປັນຕ້ອງອ່ານ, parse ແລະຂຽນຄໍາຮ້ອງຂໍທັງຫມົດໃນຖານຂໍ້ມູນ. ນີ້ສາມາດເຮັດໄດ້ໂດຍກົງໂດຍໃຊ້ພາສາ scripting ຫຼືໃຊ້ເຄື່ອງມື sqlite.

ຮູບແບບໄຟລ໌ບັນທຶກ:

//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';

ການຂະຫຍາຍພັນທີ່ສໍາຄັນ

ເມື່ອຂໍ້ມູນດິບຢູ່ໃນຖານຂໍ້ມູນ, ທ່ານຈໍາເປັນຕ້ອງຂຽນຄີທີ່ບໍ່ມີຢູ່ໃນຕາຕະລາງການວັດແທກ. ຫຼັງຈາກນັ້ນ, ມັນຈະເປັນໄປໄດ້ທີ່ຈະສ້າງເອກະສານອ້າງອີງການວັດແທກ. ຕົວຢ່າງ, ໃນຕາຕະລາງ DIM_REFERRER, ລະຫັດແມ່ນການປະສົມປະສານຂອງສາມຊ່ອງຂໍ້ມູນ.

SQL key propagation query

/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
	CLS.HOST_NK,
	CLS.PATH_NK,
	CLS.QUERY_NK,
	STRFTIME('%s','now') AS UPDATE_DT
FROM (
	SELECT DISTINCT
	REFERRER_HOST AS HOST_NK,
	REFERRER_PATH AS PATH_NK,
	CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
	ELSE REFERRER_QUERY END AS QUERY_NK
	FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULL

ການຂະຫຍາຍພັນໃນຕາຕະລາງຕົວແທນຜູ້ໃຊ້ອາດມີ bot logic, ສໍາລັບຕົວຢ່າງ sql snippet:

CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
	THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
	THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
	THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
	THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
	THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
	OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
	OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
	OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
	OR INSTR(LOWER(CLS.BROWSER),'wget')>0
	THEN 'other'
ELSE 'n.a.' END AS AGENT_BOT

ຕາຕະລາງລວມ

ສຸດທ້າຍ, ພວກເຮົາຈະໂຫລດຕາຕະລາງລວມ; ຕົວຢ່າງ, ຕາຕະລາງປະຈໍາວັນສາມາດໂຫລດໄດ້ດັ່ງຕໍ່ໄປນີ້:

SQL query ສໍາລັບການໂຫຼດລວມ

/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
	STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
	CASE SUBSTR(TIME_NK,5,3)
	WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
	WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
	ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
	BROWSER AS USER_AGENT_NK,
	REQUEST_NK,
	IP_NR,
	STATUS,
	LINE_NK,
	BYTES
FROM STG_ACCESS_LOG
)
SELECT
	CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
	USG.DIM_USER_AGENT_ID,
	HST.DIM_HTTP_STATUS_ID,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
	COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
	COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
	COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
	COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
	SUM(BYTES) AS BYTES
FROM STG,
	DIM_HTTP_STATUS HST,
	DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
  AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
  AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
  AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_ID

ຖານຂໍ້ມູນ sqlite ຊ່ວຍໃຫ້ທ່ານຂຽນຄໍາຖາມທີ່ສັບສົນ. WITH ປະກອບດ້ວຍການກະກຽມຂໍ້ມູນແລະລະຫັດ. ຄໍາຖາມຕົ້ນຕໍເກັບກໍາຂໍ້ມູນອ້າງອີງທັງຫມົດກ່ຽວກັບຂະຫນາດ.

ເງື່ອນໄຂຈະບໍ່ອະນຸຍາດໃຫ້ໂຫຼດປະຫວັດອີກຄັ້ງ: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, ເຊິ່ງພາຣາມິເຕີເປັນຜົນມາຈາກການຮ້ອງຂໍ.
'ເລືອກ COALESCE(MAX(EVENT_DT), '3600') AS LAST_EVENT_EPOCH ຈາກ FCT_ACCESS_USER_AGENT_DD'

ເງື່ອນໄຂຈະໂຫຼດເຕັມມື້ເທົ່ານັ້ນ: CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))

ການນັບຫນ້າຫຼືໄຟລ໌ແມ່ນດໍາເນີນໃນລັກສະນະເບື້ອງຕົ້ນ, ໂດຍການຊອກຫາຈຸດໃດຫນຶ່ງ.

ບົດລາຍງານ

ໃນລະບົບການເບິ່ງເຫັນທີ່ສັບສົນ, ມັນເປັນໄປໄດ້ທີ່ຈະສ້າງຮູບແບບ meta ໂດຍອີງໃສ່ວັດຖຸຖານຂໍ້ມູນ, ການຄຸ້ມຄອງຕົວກອງແບບເຄື່ອນໄຫວແລະກົດລະບຽບການລວບລວມ. ໃນທີ່ສຸດ, ເຄື່ອງມືທີ່ເຫມາະສົມທັງຫມົດສ້າງຄໍາຖາມ SQL.

ໃນຕົວຢ່າງນີ້, ພວກເຮົາຈະສ້າງແບບສອບຖາມ SQL ທີ່ກຽມພ້ອມແລະບັນທຶກພວກມັນເປັນມຸມເບິ່ງໃນຖານຂໍ້ມູນ - ເຫຼົ່ານີ້ແມ່ນບົດລາຍງານ.

ການເບິ່ງເຫັນ

Bluff: ກຣາຟທີ່ສວຍງາມໃນ JavaScript ໄດ້ຖືກນໍາໃຊ້ເປັນເຄື່ອງມືການເບິ່ງເຫັນ

ເພື່ອເຮັດສິ່ງນີ້, ມັນຈໍາເປັນຕ້ອງຜ່ານບົດລາຍງານທັງຫມົດໂດຍໃຊ້ PHP ແລະສ້າງໄຟລ໌ html ກັບຕາຕະລາງ.

$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);

ເຄື່ອງມືພຽງແຕ່ເບິ່ງເຫັນຕາຕະລາງຜົນໄດ້ຮັບ.

ສະຫລຸບ

ການນໍາໃຊ້ການວິເຄາະເວັບເປັນຕົວຢ່າງ, ບົດຄວາມອະທິບາຍກົນໄກທີ່ຈໍາເປັນເພື່ອສ້າງຄັງຂໍ້ມູນ. ດັ່ງທີ່ເຫັນໄດ້ຈາກຜົນໄດ້ຮັບ, ເຄື່ອງມືທີ່ງ່າຍດາຍທີ່ສຸດແມ່ນພຽງພໍສໍາລັບການວິເຄາະເລິກແລະການເບິ່ງເຫັນຂໍ້ມູນ.

ໃນອະນາຄົດ, ການນໍາໃຊ້ repository ນີ້ເປັນຕົວຢ່າງ, ພວກເຮົາຈະພະຍາຍາມປະຕິບັດໂຄງສ້າງດັ່ງກ່າວເປັນການປ່ຽນແປງຊ້າໆຂະຫນາດ, metadata, ລະດັບການລວບລວມແລະການລວມເອົາຂໍ້ມູນຈາກແຫຼ່ງຕ່າງໆ.

ນອກຈາກນັ້ນ, ໃຫ້ເບິ່ງທີ່ໃກ້ຊິດກ່ຽວກັບເຄື່ອງມືທີ່ງ່າຍດາຍທີ່ສຸດສໍາລັບການຄຸ້ມຄອງຂະບວນການ ETL ໂດຍອີງໃສ່ຕາຕະລາງດຽວ.

ໃຫ້ກັບຄືນໄປຫາຫົວຂໍ້ຂອງການວັດແທກຄຸນນະພາບຂໍ້ມູນແລະອັດຕະໂນມັດຂະບວນການນີ້.

ພວກເຮົາຈະສຶກສາບັນຫາຂອງສະພາບແວດລ້ອມດ້ານວິຊາການແລະການຮັກສາການເກັບຮັກສາຂໍ້ມູນ, ສໍາລັບການທີ່ພວກເຮົາຈະປະຕິບັດເຄື່ອງແມ່ຂ່າຍການເກັບຮັກສາທີ່ມີຊັບພະຍາກອນຫນ້ອຍ, ສໍາລັບການຍົກຕົວຢ່າງ, ອີງໃສ່ Raspberry Pi.

ແຫຼ່ງຂໍ້ມູນ: www.habr.com