Webalizer మరియు Google Analytics చాలా సంవత్సరాలుగా వెబ్‌సైట్‌లలో ఏమి జరుగుతుందో అంతర్దృష్టిని పొందడంలో నాకు సహాయపడింది. అవి చాలా తక్కువ ఉపయోగకరమైన సమాచారాన్ని అందిస్తున్నాయని ఇప్పుడు నేను అర్థం చేసుకున్నాను. మీ access.log ఫైల్‌కి ప్రాప్యత కలిగి ఉండటం వలన, గణాంకాలను అర్థం చేసుకోవడం మరియు sqlite, html, sql భాష మరియు ఏదైనా స్క్రిప్టింగ్ ప్రోగ్రామింగ్ లాంగ్వేజ్ వంటి చాలా ప్రాథమిక సాధనాలను అమలు చేయడం చాలా సులభం.
వెబ్‌లైజర్ కోసం డేటా మూలం సర్వర్ యాక్సెస్.లాగ్ ఫైల్. దీని బార్‌లు మరియు సంఖ్యలు ఎలా కనిపిస్తాయి, దీని నుండి ట్రాఫిక్ మొత్తం పరిమాణం మాత్రమే స్పష్టంగా ఉంటుంది:
Google Analytics వంటి సాధనాలు లోడ్ చేయబడిన పేజీ నుండి డేటాను సేకరిస్తాయి. వారు మాకు కొన్ని రేఖాచిత్రాలు మరియు పంక్తులను చూపుతారు, దీని ఆధారంగా సరైన తీర్మానాలు చేయడం చాలా కష్టం. బహుశా మరింత ప్రయత్నం చేసి ఉండాలా? తెలియదు.
కాబట్టి, వెబ్‌సైట్ సందర్శకుల గణాంకాలలో నేను ఏమి చూడాలనుకుంటున్నాను?
వినియోగదారు మరియు బోట్ ట్రాఫిక్
తరచుగా సైట్ ట్రాఫిక్ పరిమితంగా ఉంటుంది మరియు ఎంత ఉపయోగకరమైన ట్రాఫిక్ ఉపయోగించబడుతుందో చూడటం అవసరం. ఉదాహరణకు, ఇలా:
SQL ప్రశ్న నివేదిక
SELECT
1 as 'StackedArea: Traffic generated by Users and Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Users, KB'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTగ్రాఫ్ బాట్‌ల స్థిరమైన కార్యాచరణను చూపుతుంది. అత్యంత చురుకైన ప్రతినిధులను వివరంగా అధ్యయనం చేయడం ఆసక్తికరంగా ఉంటుంది.
బాధించే బాట్‌లు
మేము వినియోగదారు ఏజెంట్ సమాచారం ఆధారంగా బాట్‌లను వర్గీకరిస్తాము. రోజువారీ ట్రాఫిక్‌పై అదనపు గణాంకాలు, విజయవంతమైన మరియు విఫలమైన అభ్యర్థనల సంఖ్య బాట్ కార్యాచరణ గురించి మంచి ఆలోచనను అందిస్తాయి.
SQL ప్రశ్న నివేదిక
SELECT
1 AS 'Table: Annoying Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Error Requests per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Success Requests per Day',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT != 'n.a.'
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10ఈ సందర్భంలో, విశ్లేషణ యొక్క ఫలితం robots.txt ఫైల్‌కు జోడించడం ద్వారా సైట్‌కు ప్రాప్యతను పరిమితం చేయాలనే నిర్ణయం.
User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
మొదటి రెండు బాట్‌లు టేబుల్ నుండి అదృశ్యమయ్యాయి మరియు MS రోబోట్‌లు మొదటి పంక్తుల నుండి క్రిందికి మారాయి.
గొప్ప కార్యాచరణ యొక్క రోజు మరియు సమయం
ట్రాఫిక్‌లో హెచ్చుతగ్గులు కనిపిస్తున్నాయి. వాటిని వివరంగా అధ్యయనం చేయడానికి, వారి సంభవించిన సమయాన్ని హైలైట్ చేయడం అవసరం, మరియు సమయ కొలత యొక్క అన్ని గంటలు మరియు రోజులను ప్రదర్శించడం అవసరం లేదు. వివరణాత్మక విశ్లేషణ అవసరమైతే లాగ్ ఫైల్‌లో వ్యక్తిగత అభ్యర్థనలను కనుగొనడం ఇది సులభతరం చేస్తుంది.
SQL ప్రశ్న నివేదిక
SELECT
1 AS 'Line: Day and Hour of Hits from Users and Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Date Time',
HIB AS 'Bots, Hits',
HIU AS 'Users, Hits'
FROM (
SELECT
EVENT_DT,
SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
FROM FCT_ACCESS_REQUEST_REF_HH
WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY EVENT_DT
ORDER BY SUM(LINE_CNT) DESC
LIMIT 10
) ORDER BY EVENT_DTమేము చార్ట్‌లో మొదటి రోజు అత్యంత చురుకైన 11, 14 మరియు 20 గంటలను గమనిస్తాము. కానీ మరుసటి రోజు 13:XNUMX గంటలకు బాట్‌లు చురుకుగా ఉన్నాయి.
వారం వారీగా సగటు రోజువారీ వినియోగదారు కార్యాచరణ
మేము కార్యాచరణ మరియు ట్రాఫిక్‌తో విషయాలను కొంచెం క్రమబద్ధీకరించాము. తదుపరి ప్రశ్న వినియోగదారుల యొక్క కార్యాచరణ. అటువంటి గణాంకాల కోసం, ఒక వారం వంటి సుదీర్ఘ సమీకరణ కాలాలు కావాల్సినవి.
SQL ప్రశ్న నివేదిక
SELECT
1 as 'Line: Average Daily User Activity by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Pages per IP per Day',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Files per IP per Day'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT='n.a.' /* users only */
AND HST.STATUS_GROUP IN ('Successful') /* good pages */
AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTసగటున ఒక వినియోగదారు రోజుకు 1,6 పేజీలను తెరుస్తారని వారపు గణాంకాలు చూపిస్తున్నాయి. ఈ సందర్భంలో ఒక్కో వినియోగదారుకు అభ్యర్థించిన ఫైల్‌ల సంఖ్య సైట్‌కు కొత్త ఫైల్‌ల జోడింపుపై ఆధారపడి ఉంటుంది.
అన్ని అభ్యర్థనలు మరియు వాటి స్థితిగతులు
Webalizer ఎల్లప్పుడూ నిర్దిష్ట పేజీ కోడ్‌లను చూపుతుంది మరియు నేను ఎల్లప్పుడూ విజయవంతమైన అభ్యర్థనలు మరియు ఎర్రర్‌ల సంఖ్యను మాత్రమే చూడాలనుకుంటున్నాను.
SQL ప్రశ్న నివేదిక
SELECT
1 as 'Line: All Requests by Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN STS.STATUS_GROUP='Successful' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Success',
SUM(CASE WHEN STS.STATUS_GROUP='Redirection' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirect',
SUM(CASE WHEN STS.STATUS_GROUP='Client Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Customer Error',
SUM(CASE WHEN STS.STATUS_GROUP='Server Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Server Error'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTనివేదిక అభ్యర్థనలను ప్రదర్శిస్తుంది, క్లిక్‌లు కాదు (హిట్‌లు), LINE_CNT వలె కాకుండా, REQUEST_CNT మెట్రిక్ COUNT(DISTINCT STG.REQUEST_NK)గా లెక్కించబడుతుంది. సమర్థవంతమైన ఈవెంట్‌లను చూపించడమే లక్ష్యం, ఉదాహరణకు, MS బాట్‌లు robots.txt ఫైల్‌ను రోజుకు వందల సార్లు పోల్ చేస్తాయి మరియు ఈ సందర్భంలో, అటువంటి పోల్‌లు ఒకసారి లెక్కించబడతాయి. ఇది గ్రాఫ్‌లో జంప్‌లను సున్నితంగా చేయడానికి మిమ్మల్ని అనుమతిస్తుంది.
గ్రాఫ్ నుండి మీరు చాలా లోపాలను చూడవచ్చు - ఇవి ఉనికిలో లేని పేజీలు. విశ్లేషణ యొక్క ఫలితం రిమోట్ పేజీల నుండి దారిమార్పులను జోడించడం.
తప్పుడు అభ్యర్థనలు
అభ్యర్థనలను వివరంగా పరిశీలించడానికి, మీరు వివరణాత్మక గణాంకాలను ప్రదర్శించవచ్చు.
SQL ప్రశ్న నివేదిక
SELECT
1 AS 'Table: Top Error Requests',
REQ.REQUEST_NK AS 'Request',
'Error' AS 'Request Status',
ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hits per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day'
FROM
FCT_ACCESS_REQUEST_REF_HH FCT,
DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20ఈ జాబితా అన్ని కాల్‌లను కూడా కలిగి ఉంటుంది, ఉదాహరణకు, /wp-login.phpకి అభ్యర్థనను సర్వర్ ద్వారా తిరిగి వ్రాయడం కోసం నియమాలను సర్దుబాటు చేయడం ద్వారా, మీరు అటువంటి అభ్యర్థనలకు సర్వర్ ప్రతిస్పందనను సర్దుబాటు చేయవచ్చు మరియు వాటిని ప్రారంభ పేజీకి పంపవచ్చు.
కాబట్టి, సర్వర్ లాగ్ ఫైల్ ఆధారంగా కొన్ని సాధారణ నివేదికలు సైట్‌లో ఏమి జరుగుతుందో పూర్తిగా పూర్తి చిత్రాన్ని అందిస్తాయి.
సమాచారాన్ని ఎలా పొందాలి?
ఒక sqlite డేటాబేస్ సరిపోతుంది. పట్టికలను క్రియేట్ చేద్దాం: ETL ప్రక్రియలను లాగింగ్ చేయడానికి సహాయకం.
మేము PHP ఉపయోగించి లాగ్ ఫైల్‌లను వ్రాసే టేబుల్ దశ. రెండు మొత్తం పట్టికలు. వినియోగదారు ఏజెంట్‌లు మరియు అభ్యర్థన స్థితిగతులపై గణాంకాలతో రోజువారీ పట్టికను రూపొందిద్దాం. అభ్యర్థనలు, స్థితి సమూహాలు మరియు ఏజెంట్లపై గణాంకాలతో గంటకు. సంబంధిత కొలతల నాలుగు పట్టికలు.
ఫలితం క్రింది రిలేషనల్ మోడల్:
డేటా మోడల్
sqlite డేటాబేస్లో వస్తువును సృష్టించడానికి స్క్రిప్ట్:
DDL వస్తువు సృష్టి
DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
USER_AGENT_NK TEXT NOT NULL DEFAULT 'n.a.',
AGENT_OS TEXT NOT NULL DEFAULT 'n.a.',
AGENT_ENGINE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_DEVICE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_BOT TEXT NOT NULL DEFAULT 'n.a.',
UPDATE_DT INTEGER NOT NULL DEFAULT 0,
UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);వేదిక
యాక్సెస్.లాగ్ ఫైల్ విషయంలో, డేటాబేస్కు అన్ని అభ్యర్థనలను చదవడం, అన్వయించడం మరియు వ్రాయడం అవసరం. ఇది నేరుగా స్క్రిప్టింగ్ భాషను ఉపయోగించి లేదా sqlite సాధనాలను ఉపయోగించి చేయవచ్చు.
లాగ్ ఫైల్ ఫార్మాట్:
//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';
కీ ప్రచారం
ముడి డేటా డేటాబేస్లో ఉన్నప్పుడు, మీరు కొలత పట్టికలలో లేని కీలను వ్రాయాలి. అప్పుడు కొలతలకు సూచనను నిర్మించడం సాధ్యమవుతుంది. ఉదాహరణకు, DIM_REFERRER పట్టికలో, కీ మూడు ఫీల్డ్‌ల కలయిక.
SQL కీ ప్రచారం ప్రశ్న
/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
CLS.HOST_NK,
CLS.PATH_NK,
CLS.QUERY_NK,
STRFTIME('%s','now') AS UPDATE_DT
FROM (
SELECT DISTINCT
REFERRER_HOST AS HOST_NK,
REFERRER_PATH AS PATH_NK,
CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
ELSE REFERRER_QUERY END AS QUERY_NK
FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULLవినియోగదారు ఏజెంట్ పట్టికకు ప్రచారంలో బాట్ లాజిక్ ఉండవచ్చు, ఉదాహరణకు sql స్నిప్పెట్:
CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
OR INSTR(LOWER(CLS.BROWSER),'wget')>0
THEN 'other'
ELSE 'n.a.' END AS AGENT_BOTమొత్తం పట్టికలు
చివరగా, మేము మొత్తం పట్టికలను లోడ్ చేస్తాము; ఉదాహరణకు, రోజువారీ పట్టికను ఈ క్రింది విధంగా లోడ్ చేయవచ్చు:
మొత్తం లోడ్ చేయడానికి SQL ప్రశ్న
/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
CASE SUBSTR(TIME_NK,5,3)
WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
BROWSER AS USER_AGENT_NK,
REQUEST_NK,
IP_NR,
STATUS,
LINE_NK,
BYTES
FROM STG_ACCESS_LOG
)
SELECT
CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
USG.DIM_USER_AGENT_ID,
HST.DIM_HTTP_STATUS_ID,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
SUM(BYTES) AS BYTES
FROM STG,
DIM_HTTP_STATUS HST,
DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_IDSqlite డేటాబేస్ సంక్లిష్ట ప్రశ్నలను వ్రాయడానికి మిమ్మల్ని అనుమతిస్తుంది. డేటా మరియు కీల తయారీని కలిగి ఉంటుంది. ప్రధాన ప్రశ్న కొలతలకు సంబంధించిన అన్ని సూచనలను సేకరిస్తుంది.
చరిత్రను మళ్లీ లోడ్ చేయడానికి షరతు అనుమతించదు: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, ఇక్కడ పరామితి అభ్యర్థన ఫలితంగా ఉంటుంది
FCT_ACCESS_USER_AGENT_DD నుండి చివరి_EVENT_EPOCH నాటికి COALESCE(MAX(EVENT_DT), '3600') ఎంచుకోండి'
షరతు పూర్తి రోజు మాత్రమే లోడ్ అవుతుంది: CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', తేదీ('ఇప్పుడు', 'రోజు ప్రారంభం'))
పాయింట్ కోసం శోధించడం ద్వారా పేజీలు లేదా ఫైల్‌లను లెక్కించడం ఆదిమ పద్ధతిలో నిర్వహించబడుతుంది.
నివేదికలు
సంక్లిష్ట విజువలైజేషన్ సిస్టమ్‌లలో, డేటాబేస్ ఆబ్జెక్ట్‌ల ఆధారంగా మెటా-మోడల్‌ను సృష్టించడం, ఫిల్టర్‌లు మరియు అగ్రిగేషన్ నియమాలను డైనమిక్‌గా నిర్వహించడం సాధ్యమవుతుంది. అంతిమంగా, అన్ని మంచి సాధనాలు SQL ప్రశ్నను ఉత్పత్తి చేస్తాయి.
ఈ ఉదాహరణలో, మేము రెడీమేడ్ SQL ప్రశ్నలను సృష్టిస్తాము మరియు వాటిని డేటాబేస్లో వీక్షణలుగా సేవ్ చేస్తాము - ఇవి నివేదికలు.
విజువలైజేషన్
బ్లఫ్: జావాస్క్రిప్ట్‌లోని అందమైన గ్రాఫ్‌లు విజువలైజేషన్ సాధనంగా ఉపయోగించబడ్డాయి
దీన్ని చేయడానికి, PHPని ఉపయోగించి అన్ని నివేదికల ద్వారా వెళ్లి పట్టికలతో html ఫైల్‌ను రూపొందించడం అవసరం.
$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);సాధనం ఫలితాల పట్టికలను కేవలం దృశ్యమానం చేస్తుంది.
తీర్మానం
వెబ్ విశ్లేషణను ఉదాహరణగా ఉపయోగించి, డేటా గిడ్డంగులను నిర్మించడానికి అవసరమైన యంత్రాంగాలను వ్యాసం వివరిస్తుంది. ఫలితాల నుండి చూడగలిగినట్లుగా, డేటా యొక్క లోతైన విశ్లేషణ మరియు విజువలైజేషన్ కోసం సరళమైన సాధనాలు సరిపోతాయి.
భవిష్యత్తులో, ఈ రిపోజిటరీని ఉదాహరణగా ఉపయోగించి, మేము నెమ్మదిగా మారుతున్న కొలతలు, మెటాడేటా, అగ్రిగేషన్ స్థాయిలు మరియు వివిధ మూలాల నుండి డేటా యొక్క ఏకీకరణ వంటి నిర్మాణాలను అమలు చేయడానికి ప్రయత్నిస్తాము.
అలాగే, ఒకే పట్టిక ఆధారంగా ETL ప్రక్రియలను నిర్వహించడానికి సరళమైన సాధనాన్ని నిశితంగా పరిశీలిద్దాం.
డేటా నాణ్యతను కొలవడం మరియు ఈ ప్రక్రియను ఆటోమేట్ చేయడం అనే అంశానికి తిరిగి వద్దాం.
మేము సాంకేతిక వాతావరణం మరియు డేటా నిల్వల నిర్వహణ యొక్క సమస్యలను అధ్యయనం చేస్తాము, దీని కోసం మేము తక్కువ వనరులతో నిల్వ సర్వర్‌ను అమలు చేస్తాము, ఉదాహరణకు, రాస్ప్బెర్రీ పై ఆధారంగా.
మూలం: www.habr.com