ستاسو په کوچني ذخیره کې نور سایټ احصایې

د سایټ احصایې تحلیل کولو سره، موږ یو نظر ترلاسه کوو چې د دې سره څه پیښیږي. موږ پایلې د محصول یا خدمت په اړه د نورو پوهې سره پرتله کوو او پدې توګه زموږ تجربه ښه کوو.

کله چې د لومړنیو پایلو تحلیل بشپړ شي، معلومات درک شوي او پایلې یې ترلاسه شوي، بل پړاو پیل کیږي. نظرونه راپورته کیږي: که تاسو د بل اړخ څخه ډاټا وګورئ څه به پیښ شي؟

پدې مرحله کې د تحلیلي وسیلو محدودیتونه شتون لري. دا یو له هغو دلیلونو څخه دی چې ولې د ګوګل انلاینز زما لپاره کافي نه و، یعنې زما د معلوماتو د لیدلو او سمبالولو محدود وړتیا له امله.

ما تل غوښتل چې ژر تر ژره لومړني معلومات (ماسټر ډیټا) پورته کړم، د راټولولو بله کچه اضافه کړم، یا موجوده ارزښتونه په مختلف ډول تشریح کړم.

دا په اسانۍ سره ترسره کیږي ستاسو په کوچنۍ ذخیره خونه کې د access.log فایل پر بنسټ او د SQL ژبه د دې لپاره کافي ده.

نو، د کومې پوښتنې ځواب غواړم؟

په سایټ کې څه او کله بدل شوي

په لاندې معلوماتو کې د بدلون تاریخ (ماسټر ډیټا) تل د علاقې وړ وي.

ستاسو په کوچني ذخیره کې نور سایټ احصایې

د SQL راپور پوښتنه

SELECT
	1 as 'SideStackedBar: Content Updates by Months',
	strftime('%m/%Y', datetime(UPDATE_DT, 'unixepoch')) AS 'Day',
	COUNT(CASE WHEN PAGE_TITLE != 'n.a.' THEN DIM_REQUEST_ID END) AS 'Web page updates',
	COUNT(CASE WHEN PAGE_DESCR = 'IMAGES' THEN DIM_REQUEST_ID END) AS 'Image uploads',
	COUNT(CASE WHEN PAGE_DESCR = 'VIDEO' THEN DIM_REQUEST_ID END) AS 'Video uploads',
	COUNT(CASE WHEN PAGE_DESCR = 'AUDIO' THEN DIM_REQUEST_ID END) AS 'Audio uploads'
FROM DIM_REQUEST
WHERE PAGE_TITLE != 'n.a.' OR PAGE_DESCR != 'n.a.'
GROUP BY strftime('%m/%Y', datetime(UPDATE_DT, 'unixepoch'))
ORDER BY UPDATE_DT

د مثال په توګه، په ځینو وختونو کې، د لټون انجن اصلاح کول ترسره شوي یا سایټ ته نوي مواد اضافه شوي، او له همدې امله د ټرافیک زیاتوالی تمه کیږي.

د کاروونکو ډله

د یوې ډلې ساده مثال د کارونکي اجنټ یا د عملیاتي سیسټم نوم دی.

د کارونکي اجنټ ابعاد شاوخوا زر ریکارډونه راټول کړي او زه په ګروپ کې د اجنټانو توزیع متحرکاتو لیدو سره علاقه لرم.

ستاسو په کوچني ذخیره کې نور سایټ احصایې

د SQL راپور پوښتنه

SELECT
	1 AS 'SideStackedBar: User Agents',
	AGENT_OS AS 'OS',
	SUM(CASE WHEN AGENT_BOT = 'n.a.' THEN 1 ELSE 0 END ) AS 'User Agent of Users',
	SUM(CASE WHEN AGENT_BOT != 'n.a.' THEN 1 ELSE 0 END ) AS 'User Agent of Bots'
FROM DIM_USER_AGENT
WHERE DIM_USER_AGENT_ID != -1
GROUP BY AGENT_OS
ORDER BY 3 DESC

د اجنټانو ډیری مختلف ترکیبونه د وینډوز نړۍ څخه سایټ ته راځي. د نامعلومو کسانو په منځ کې وټس اپ، پاکټ امیج کیچ، پلی سټیشن، سمارټ تلویزیون، او نور شامل وو.

د کارونکي ګروپ فعالیت په اونۍ کې

د ځینو ډلو په یوځای کولو سره، یو څوک کولی شي د دوی د فعالیت ویش وګوري.

د مثال په توګه، د لینکس کلستر کاروونکي د هرچا په پرتله د ویب پاڼې ډیر ټرافيکي مصرفوي.

ستاسو په کوچني ذخیره کې نور سایټ احصایې

د SQL راپور پوښتنه

SELECT
1 as 'StackedBar: Traffic Volume by User OS and by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
SUM(CASE WHEN USG.AGENT_OS IN ('Android', 'Linux') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Android/Linux Users',
SUM(CASE WHEN USG.AGENT_OS IN ('Windows') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Windows Users',
SUM(CASE WHEN USG.AGENT_OS IN ('Macintosh', 'iOS') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Mac/iOS Users',
SUM(CASE WHEN USG.AGENT_OS IN ('n.a.', 'BlackBerry') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Other'
FROM
  FCT_ACCESS_USER_AGENT_DD FCT,
  DIM_USER_AGENT USG,
  DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
  AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
  AND USG.AGENT_BOT = 'n.a.' /* users only */
  AND HST.STATUS_GROUP IN ('Successful') /* good pages */
  AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DT

د ټرافیک سخت مصرف

جدول د کاروونکو خورا فعال ګروپونه او د دوی د فعالیت ورځ ښیې.
ترټولو فعال د لینکس کلستر پورې اړه لري.

ستاسو په کوچني ذخیره کې نور سایټ احصایې

د SQL راپور پوښتنه

SELECT
1 AS 'Table: User Agent with Havy Usage',
strftime('%d.%m.%Y', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
ROUND(1.0*SUM(FCT.BYTES)/1000000, 1) AS 'Traffic MB',
ROUND(1.0*SUM(FCT.IP_CNT)/SUM(1), 1) AS 'IPs',
ROUND(1.0*SUM(FCT.REQUEST_CNT)/SUM(1), 1) AS 'Requests',
USA.DIM_USER_AGENT_ID AS 'ID',
MAX(USA.USER_AGENT_NK) AS 'User Agent',
MAX(USA.AGENT_BOT) AS 'Bot'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USA
WHERE FCT.DIM_USER_AGENT_ID = USA.DIM_USER_AGENT_ID
  AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-30 day')
GROUP BY USA.DIM_USER_AGENT_ID, strftime('%d.%m.%Y', datetime(FCT.EVENT_DT, 'unixepoch')) 
ORDER BY SUM(FCT.BYTES) DESC, FCT.EVENT_DT
LIMIT 10

د ورځې او د اجنټ ID ځانګړتیاو په کارولو سره، دا ممکنه ده چې د انفرادي کاروونکو ګروپونو ورځو کې احصایې په چټکۍ سره ومومئ او تعقیب کړئ. که اړتیا وي، تاسو کولی شئ په چټکۍ سره د مرحلې میز کې تفصيلي معلومات ومومئ.

څنګه معلومات ترلاسه کړو؟

د access.log فایل څخه معلومات د اضافي معلوماتو سرچینو یوځای کولو او د راټولولو او ګروپ کولو نوي کچې معرفي کولو سره حتی ډیر اغیزمن کیدی شي.

بنسټیز معلومات او ادارې

په بنسټیزو معلوماتو کې د ادارو په اړه معلومات شامل دي: ویب پاڼې، انځورونه، ویډیو او آډیو منځپانګې، د پلورنځي په صورت کې - محصولات.

ادارې پخپله د اندازه کولو په توګه عمل کوي، او په ځانګړتیاو کې د بدلونونو ذخیره کولو پروسې ته تاریخي کول ویل کیږي. په ډیټابیس کې، دا پروسه ډیری وختونه د ورو ورو مختلف ابعادو (SCD) په بڼه پلي کیږي.

د سرچینې ډاټا کولی شي د مختلف سیسټمونو څخه راشي، نو دوی تقریبا تل باید یوځای شي.

په تدریج سره ابعاد بدلوي

د DIM_REQUEST ابعاد به په تاریخي بڼه په سایټ کې د غوښتنو په اړه معلومات ولري.

جدول SCD2

CREATE TABLE DIM_REQUEST ( /* scd table for user requests */
  DIM_REQUEST_ID      INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
  DIM_REQUEST_ID_HIST INTEGER NOT NULL DEFAULT -1,
  REQUEST_NK          TEXT NOT NULL DEFAULT 'n.a.', /* request without ?parameters */
  PAGE_TITLE          TEXT NOT NULL DEFAULT 'n.a.',
  PAGE_DESCR          TEXT NOT NULL DEFAULT 'n.a.',
  PAGE_KEYWORDS       TEXT NOT NULL DEFAULT 'n.a.',
  DELETE_FLAG         INTEGER NOT NULL DEFAULT 0,
  UPDATE_DT           INTEGER NOT NULL DEFAULT 0,
  UNIQUE (REQUEST_NK, DIM_REQUEST_ID_HIST)
);
INSERT INTO DIM_REQUEST (DIM_REQUEST_ID) VALUES (-1);

سربیره پردې ، موږ به یو لید رامینځته کړو چې تل په وروستي حالت کې ټول ریکارډونه ښیې. پخپله د اندازه کولو بارولو لپاره اړین دی.

ستاسو په کوچني ذخیره کې نور سایټ احصایې

د SCD2 اوسنی استازیتوب

/* Content: actual view on scd table */
SELECT HI.DIM_REQUEST_ID,
  HI.DIM_REQUEST_ID_HIST,
  HI.REQUEST_NK,
  HI.PAGE_TITLE,
  HI.PAGE_DESCR,
  HI.PAGE_KEYWORDS,
  NK.CNT AS HIST_CNT,
  HI.DELETE_FLAG,
  strftime('%d.%m.%Y %H:%M', datetime(HI.UPDATE_DT, 'unixepoch')) AS UPDATE_DT
FROM
  ( SELECT REQUEST_NK, MAX(DIM_REQUEST_ID) AS DIM_REQUEST_ID, SUM(1) AS CNT
    FROM DIM_REQUEST
    GROUP BY REQUEST_NK
  ) NK,
  DIM_REQUEST HI
WHERE 1 = 1
  AND NK.REQUEST_NK = HI.REQUEST_NK
  AND NK.DIM_REQUEST_ID = HI.DIM_REQUEST_ID;

او یو لید چیرې چې تاریخي معلومات د هرې ننوتلو لپاره راټول شوي. دا اړینه ده چې د حقایقو سره تاریخي سمه اړیکه جوړه کړئ.

ستاسو په کوچني ذخیره کې نور سایټ احصایې

د SCD2 تاریخي پریزنټشن

/* Content: actual view on scd table */
SELECT SCD.DIM_REQUEST_ID,
  SCD.DIM_REQUEST_ID_HIST,
  SCD.REQUEST_NK,
  SCD.PAGE_TITLE,
  SCD.PAGE_DESCR,
  SCD.PAGE_KEYWORDS,
  SCD.DELETE_FLAG,
  CASE
    WHEN HIS.UPDATE_DT IS NULL
    THEN 1
    ELSE 0 END ACTIVE_FLAG,
  SCD.DIM_REQUEST_ID_HIST AS ID_FROM,
  SCD.DIM_REQUEST_ID AS ID_TO,
  CASE
    WHEN SCD.DIM_REQUEST_ID_HIST=-1
    THEN 3600
    ELSE IFNULL(SCD.UPDATE_DT,3600)
  END AS TIME_FROM,
  CASE
    WHEN HIS.UPDATE_DT IS NULL
    THEN 253370764800
    ELSE HIS.UPDATE_DT
  END AS TIME_TO,
  CASE
    WHEN SCD.DIM_REQUEST_ID_HIST=-1
    THEN STRFTIME('%d.%m.%Y %H:%M', DATETIME(3600, 'unixepoch'))
    ELSE STRFTIME('%d.%m.%Y %H:%M', DATETIME(IFNULL(SCD.UPDATE_DT,3600), 'unixepoch'))
  END AS ACTIVE_FROM,
  CASE
    WHEN HIS.UPDATE_DT IS NULL
    THEN STRFTIME('%d.%m.%Y %H:%M', DATETIME(253370764800, 'unixepoch'))
    ELSE STRFTIME('%d.%m.%Y %H:%M', DATETIME(HIS.UPDATE_DT, 'unixepoch'))
  END AS ACTIVE_TO
FROM
  DIM_REQUEST SCD
  LEFT OUTER JOIN DIM_REQUEST HIS
  ON SCD.REQUEST_NK = HIS.REQUEST_NK AND SCD.DIM_REQUEST_ID = HIS.DIM_REQUEST_ID_HIST;

د معلوماتو راټولول

کمپریشن (مجموعه) تاسو ته اجازه درکوي په لوړه کچه ډاټا ارزونه وکړئ او بې نظمۍ او رجحانات کشف کړئ چې په تفصيلي راپورونو کې نه لیدل کیږي.

د مثال په توګه، د غوښتنې حالت کوډونو سره ابعاد ته یوه ډله اضافه کړئ DIM_HTTP_STATUS:

حالت/ ګروپ
0xx/na
1xx/معلومات
2xx/بریالی
3xx/بیا لارښوونې
4xx/د مراجعینو تېروتنه
5xx/د سرور تېروتنه

د کارونکي اجنټ طول DIM_USER_AGENT به د AGENT_OS او AGENT_BOT ځانګړتیاوې ولري چې د ډلو لپاره مسؤل دي. دا د ETL پروسې په جریان کې آباد کیدی شي:

DIM_USER_AGENT بار کول

/* Propagate the user agent from access log */
INSERT INTO DIM_USER_AGENT (USER_AGENT_NK, AGENT_OS, AGENT_ENGINE, AGENT_DEVICE, AGENT_BOT, UPDATE_DT)
WITH CLS AS (
	SELECT BROWSER
	FROM STG_ACCESS_LOG WHERE LENGTH(BROWSER)>1
	GROUP BY BROWSER
)
SELECT
	CLS.BROWSER AS USER_AGENT_NK,
	CASE
	WHEN INSTR(CLS.BROWSER,'Macintosh')>0
		THEN 'Macintosh'
	WHEN INSTR(CLS.BROWSER,'iPhone')>0
			 OR INSTR(CLS.BROWSER,'iPad')>0
			 OR INSTR(CLS.BROWSER,'iPod')>0
			 OR INSTR(CLS.BROWSER,'Apple TV')>0
			 OR INSTR(CLS.BROWSER,'Darwin')>0
		THEN 'iOS'
	WHEN INSTR(CLS.BROWSER,'Android')>0
		THEN 'Android'
	WHEN INSTR(CLS.BROWSER,'X11;')>0 OR INSTR(CLS.BROWSER,'Wayland;')>0 OR INSTR(CLS.BROWSER,'linux-gnu')>0
		THEN 'Linux'
	WHEN INSTR(CLS.BROWSER,'BB10;')>0 OR INSTR(CLS.BROWSER,'BlackBerry')>0
		THEN 'BlackBerry'
	WHEN INSTR(CLS.BROWSER,'Windows')>0
		THEN 'Windows'
	ELSE 'n.a.' END AS AGENT_OS, -- OS
	CASE
	WHEN INSTR(CLS.BROWSER,'AppleCoreMedia')>0
		THEN 'AppleWebKit'
	WHEN INSTR(CLS.BROWSER,') ')>1 AND LENGTH(CLS.BROWSER)>INSTR(CLS.BROWSER,') ')
		THEN COALESCE(SUBSTR(CLS.BROWSER, INSTR(CLS.BROWSER,') ')+2, LENGTH(CLS.BROWSER) - INSTR(CLS.BROWSER,') ')-1), 'N/A')
	ELSE 'n.a.' END AS AGENT_ENGINE, -- Engine
	CASE
	WHEN INSTR(CLS.BROWSER,'iPhone')>0
		THEN 'iPhone'
	WHEN INSTR(CLS.BROWSER,'iPad')>0
		THEN 'iPad'
	WHEN INSTR(CLS.BROWSER,'iPod')>0
		THEN 'iPod'
	WHEN INSTR(CLS.BROWSER,'Apple TV')>0
		THEN 'Apple TV'
	WHEN INSTR(CLS.BROWSER,'Android ')>0 AND INSTR(CLS.BROWSER,'Build')>0
		THEN COALESCE(SUBSTR(CLS.BROWSER, INSTR(CLS.BROWSER,'Android '), INSTR(CLS.BROWSER,'Build')-INSTR(CLS.BROWSER,'Android ')), 'n.a.')
	WHEN INSTR(CLS.BROWSER,'Android ')>0 AND INSTR(CLS.BROWSER,'MIUI')>0
		THEN COALESCE(SUBSTR(CLS.BROWSER, INSTR(CLS.BROWSER,'Android '), INSTR(CLS.BROWSER,'MIUI')-INSTR(CLS.BROWSER,'Android ')), 'n.a.')
	ELSE 'n.a.' END AS AGENT_DEVICE, -- Device
	CASE
	WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
		THEN 'yandex'
	WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
		THEN 'google'
	WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
		THEN 'microsoft'
	WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
		THEN 'ahrefs'
	WHEN INSTR(LOWER(CLS.BROWSER),'jobboersebot')>0 OR INSTR(LOWER(CLS.BROWSER),'jobkicks')>0
		THEN 'job.de'
	WHEN INSTR(LOWER(CLS.BROWSER),'mail.ru')>0
		THEN 'mail.ru'
	WHEN INSTR(LOWER(CLS.BROWSER),'baiduspider')>0
		THEN 'baidu'
	WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
		THEN 'majestic-12'
	WHEN INSTR(LOWER(CLS.BROWSER),'duckduckgo')>0
		THEN 'duckduckgo'
	WHEN INSTR(LOWER(CLS.BROWSER),'bytespider')>0
		THEN 'bytespider'
	WHEN INSTR(LOWER(CLS.BROWSER),'360spider')>0
		THEN 'so.360.cn'
	WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
		OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
		OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
		OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0 OR INSTR(LOWER(CLS.BROWSER),'wget')>0
		THEN 'other'
	ELSE 'n.a.' END AS AGENT_BOT, -- Bot
	STRFTIME('%s','now') AS UPDATE_DT
FROM CLS
LEFT OUTER JOIN DIM_USER_AGENT TRG
ON CLS.BROWSER = TRG.USER_AGENT_NK
WHERE TRG.DIM_USER_AGENT_ID IS NULL

د معلوماتو ادغام

د عملیاتي سیسټم څخه د راپور ورکولو سیسټم ته د معلوماتو لیږد تنظیم کول شامل دي. د دې کولو لپاره، تاسو اړتیا لرئ چې د سرچینې سره ورته جوړښت سره د مرحلې میز جوړ کړئ.

د ویب پاڼو په اړه معلومات د CMS بیک اپ څخه مرحلې ته د ننوتلو غوښتنو په بڼه رسیږي.

د لومړني ډیټا سره د DIM_REQUEST تاریخي جدول پورته کول په دریو مرحلو کې پیښیږي: د نوي کیلي او ځانګړتیاو بارول ، د موجودو تازه کول ، او د حذف شوي ریکارډونو ترسره کول.

د نوي SCD2 ریکارډونه پورته کول

/* Load request table SCD from master data */
INSERT INTO DIM_REQUEST (DIM_REQUEST_ID_HIST, REQUEST_NK, PAGE_TITLE, PAGE_DESCR, PAGE_KEYWORDS, DELETE_FLAG, UPDATE_DT)
WITH CLS  AS ( -- prepare keys
	SELECT
	'/' || NAME AS REQUEST_NK,
	TITLE       AS PAGE_TITLE,
	CASE WHEN DESCRIPTION = '' OR DESCRIPTION IS NULL
	     THEN 'n.a.' ELSE DESCRIPTION
	END AS PAGE_DESCR,
	CASE WHEN KEYWORDS = '' OR KEYWORDS IS NULL
	     THEN 'n.a.' ELSE KEYWORDS
	END AS PAGE_KEYWORDS
	FROM STG_CMS_MENU
	WHERE CONTENT_TYPE != 'folder' -- only web pages
	  AND PAGE_TITLE != 'n.a.' -- master data which make sense
)
/* new records from stage: CLS */
SELECT
	-1 AS DIM_REQUEST_ID_HIST,
	CLS.REQUEST_NK,
	CLS.PAGE_TITLE,
	CLS.PAGE_DESCR,
	CLS.PAGE_KEYWORDS,
	0 AS DELETE_FLAG,
	STRFTIME('%s','now') AS UPDATE_DT
FROM CLS
LEFT OUTER JOIN
 (
	SELECT
	DIM_REQUEST_ID,
	REQUEST_NK,
	PAGE_TITLE,
	PAGE_DESCR,
	PAGE_KEYWORDS
	FROM DIM_REQUEST_V_ACT
) TRG ON CLS.REQUEST_NK = TRG.REQUEST_NK
WHERE TRG.REQUEST_NK IS NULL -- no such record in data mart

د SCD2 ځانګړتیاوې تازه کول

/* Load request table SCD from master data */
INSERT INTO DIM_REQUEST (DIM_REQUEST_ID_HIST, REQUEST_NK, PAGE_TITLE, PAGE_DESCR, PAGE_KEYWORDS, DELETE_FLAG, UPDATE_DT)
WITH CLS  AS ( -- prepare keys
	SELECT
	'/' || NAME AS REQUEST_NK,
	TITLE       AS PAGE_TITLE,
	CASE WHEN DESCRIPTION = '' OR DESCRIPTION IS NULL
	     THEN 'n.a.' ELSE DESCRIPTION
	END AS PAGE_DESCR,
	CASE WHEN KEYWORDS = '' OR KEYWORDS IS NULL
	     THEN 'n.a.' ELSE KEYWORDS
	END AS PAGE_KEYWORDS
	FROM STG_CMS_MENU
	WHERE CONTENT_TYPE != 'folder' -- only web pages
	  AND PAGE_TITLE != 'n.a.' -- master data which make sense
)
/* updated records from stage: CLS and build reference to history: HIST */
SELECT
	HIST.DIM_REQUEST_ID AS DIM_REQUEST_ID_HIST,
	HIST.REQUEST_NK,
	CLS.PAGE_TITLE,
	CLS.PAGE_DESCR,
	CLS.PAGE_KEYWORDS,
	0 AS DELETE_FLAG,
	STRFTIME('%s','now') AS UPDATE_DT
FROM CLS,
     DIM_REQUEST_V_ACT TRG,
     DIM_REQUEST HIST
WHERE CLS.REQUEST_NK = TRG.REQUEST_NK
  AND TRG.DIM_REQUEST_ID = HIST.DIM_REQUEST_ID
  AND ( CLS.PAGE_TITLE != HIST.PAGE_TITLE /* changes only */
     OR CLS.PAGE_DESCR != HIST.PAGE_DESCR
     OR CLS.PAGE_KEYWORDS != HIST.PAGE_KEYWORDS )

د SCD2 ریکارډونه حذف شوي

/* Load request table SCD from master data */
INSERT INTO DIM_REQUEST (DIM_REQUEST_ID_HIST, REQUEST_NK, PAGE_TITLE, PAGE_DESCR, PAGE_KEYWORDS, DELETE_FLAG, UPDATE_DT)
WITH CLS  AS ( -- prepare keys
	SELECT
	'/' || NAME AS REQUEST_NK,
	TITLE       AS PAGE_TITLE
	FROM STG_CMS_MENU
	WHERE CONTENT_TYPE != 'folder' -- only web pages
	  AND PAGE_TITLE != 'n.a.' -- master data which make sense
)
/*  deleted records in data mart: TRG */
SELECT
	TRG.DIM_REQUEST_ID AS DIM_REQUEST_ID_HIST,
	TRG.REQUEST_NK,
	TRG.PAGE_TITLE,
	TRG.PAGE_DESCR,
	TRG.PAGE_KEYWORDS,
	1 AS DELETE_FLAG,
	STRFTIME('%s','now') AS UPDATE_DT
FROM (
	SELECT
	DIM_REQUEST_ID,
	REQUEST_NK,
	PAGE_TITLE,
	PAGE_DESCR,
	PAGE_KEYWORDS
	FROM DIM_REQUEST_V_ACT
	WHERE PAGE_TITLE != 'n.a.' -- track master data only
	  AND DELETE_FLAG = 0 -- not already deleted
) TRG
LEFT OUTER JOIN CLS ON TRG.REQUEST_NK = CLS.REQUEST_NK
WHERE CLS.REQUEST_NK IS NULL -- no such record in stage

د معلوماتو هره سرچینه باید د رسمي توضیحاتو سره وي، د بیلګې په توګه، په readme.txt فایل کې:

په رسمي / تخنیکي ډول د معلوماتو ترلاسه کونکی: نوم، بریښنالیک پته
د معلوماتو چمتو کونکی په رسمي / تخنیکي ډول: نوم، بریښنالیک پته
د معلوماتو سرچینه: د فایل لاره، د خدماتو نومونه
ډیټا ته لاسرسی معلومات: کارونکي او پاسورډونه

د ډیټا جریان ډیاګرام به د ساتنې او تازه کولو پروسې کې مرسته وکړي ، د مثال په توګه ، د متن په بڼه:

د فایل حرکت کول. سرچینه: ftp.domain.net: /logs/access.log هدف: /var/www/access.log
په سټیج کې لوستل. هدف: STG_ACCESS_LOG
بار کول او بدلون. هدف: FCT_ACCESS_REQUEST_REF_HH
بار کول او بدلون. هدف: FCT_ACCESS_USER_AGENT_DD
راپور. هدف: /var/www/report.html

پایلې

په دې توګه، مقاله میکانیزمونه بیانوي لکه د اصلي معلوماتو ادغام او د راټولولو نوي کچو معرفي کول. دوی ته اړتیا لیدل کیږي کله چې د معلوماتو ګودامونه جوړ کړي ترڅو اضافي پوهه ترلاسه کړي او د معلوماتو کیفیت ښه کړي.

سرچینه: www.habr.com

Add a comment