Die Webalizer-Utility und Google Analytics haben mir über viele Jahre geholfen, einen Überblick über die Aktivitäten auf meinen Websites zu bekommen. Heute sehe ich, dass sie nur sehr wenig nützliche Informationen liefern. Mit Zugang zu meiner Datei access.log ist es ganz einfach, die Statistiken zu verstehen, und dafür braucht man nur grundlegende Werkzeuge wie SQLite, HTML, SQL und eine beliebige Programmiersprache.
Die Datenquelle für Webalizer ist die Datei access.log Server. So sehen seine Spalten und Zahlen aus, aus denen lediglich das Gesamtvolumen des Traffics ersichtlich ist:
Werkzeuge wie Google Analytics sammeln Daten von der geladenen Seite automatisch. Sie zeigen uns ein paar Diagramme und Linien an, auf deren Basis es oft schwierig ist, richtige Schlussfolgerungen zu ziehen. Vielleicht hätte ich mehr Aufwand betreiben sollen? Ich weiß es nicht.
Also, was hätte ich in den Besuchsstatistiken sehen wollen?
Traffic von Nutzern und Bots
Oft hat der Traffic von Websites Begrenzungen, und man muss sehen, wie viel nützlicher Traffic tatsächlich verwendet wird. Zum Beispiel so:
SQL-Abfragebericht
SELECT
1 as 'StackedArea: Verkehr, erzeugt von Nutzern und Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Tag',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Nutzer, KB'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTAus dem Diagramm ist eine kontinuierliche Aktivität von Bots zu erkennen. Es wäre interessant, die aktivsten Vertreter genauer zu analysieren.
Aufdringliche Bots
Wir klassifizieren Bots basierend auf den Informationen des Benutzeragenten. Zusätzliche Statistiken über den täglichen Verkehr, die Anzahl der erfolgreichen und fehlgeschlagenen Anfragen geben einen guten Überblick über die Aktivität der Bots.
SQL-Abfragebericht
SELECT
1 AS 'Tabelle: Nervige Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB pro Tag',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs pro Tag',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client-Fehler', 'Server-Fehler') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Fehleranfragen pro Tag',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Erfolgreich', 'Umleitung') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Erfolgreiche Anfragen pro Tag',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT != 'n.a.'
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10In diesem Fall führte die Analyse zu der Entscheidung, den Zugang zur Website durch Hinzufügen zur robots.txt-Datei zu beschränken.
User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
Die ersten beiden Bots verschwanden aus der Tabelle, während die MS-Bots von den oberen Positionen nach unten verschoben wurden.
Tag und Uhrzeit der höchsten Aktivität
Im Traffic sind Spitzen zu erkennen. Um diese detailliert zu untersuchen, ist es notwendig, den Zeitpunkt ihres Auftretens zu isolieren, wobei es nicht erforderlich ist, alle Stunden und Tage der Zeitmessung anzuzeigen. So wird es einfacher, bei Bedarf einzelne Anfragen im Logfile für eine detaillierte Analyse zu finden.
SQL-Abfragebericht
WÄHLEN
1 ALS 'Linie: Tag und Stunde der Zugriffe von Nutzern und Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) ALS 'Datum Uhrzeit',
HIB ALS 'Bots, Zugriffe',
HIU ALS 'Nutzer, Zugriffe'
VON (
WÄHLEN
EVENT_DT,
SUMME(CASE WENN AGENT_BOT!='n.a.' DANN LINE_CNT SONST 0 ENDE) ALS HIB,
SUMME(CASE WENN AGENT_BOT='n.a.' DANN LINE_CNT SONST 0 ENDE) ALS HIU
VON FCT_ACCESS_REQUEST_REF_HH
WO datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY EVENT_DT
ORDER BY SUM(LINE_CNT) DESC
LIMIT 10
) ORDER BY EVENT_DTWir beobachten die aktivsten Stunden 11, 14 und 20 am ersten Tag im Diagramm. Am nächsten Tag waren die Bots um 13 Uhr aktiv.
Durchschnittliche tägliche Nutzeraktivität pro Woche
Wir haben etwas Klarheit über die Aktivität und den Traffic gewonnen. Die nächste Frage war die Aktivität der Nutzer selbst. Für solche Statistiken sind längere Aggregationszeiträume wünschenswert, zum Beispiel eine Woche.
SQL-Abfragebericht
WÄHLEN
1 als 'Linie: Durchschnittliche tägliche Nutzeraktivität nach Woche',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) ALS 'Woche',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) ALS 'Seiten pro IP pro Tag',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) ALS 'Dateien pro IP pro Tag'
VON
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
UND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
UND USG.AGENT_BOT='n.a.' /* nur Nutzer */
UND HST.STATUS_GROUP IN ('Erfolgreich') /* gute Seiten */
UND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTDie Statistik der letzten Woche zeigt, dass ein durchschnittlicher Benutzer 1,6 Seiten pro Tag aufruft. Die Anzahl der für jeden Benutzer angeforderten Dateien hängt dabei von der Anzahl der neuen Dateien auf der Website ab.
Alle Anfragen und deren Status
Webalizer hat immer konkrete Seitenstatuscodes angezeigt, und es wäre hilfreich zu sehen, wie viele erfolgreiche Anfragen und Fehler insgesamt vorliegen.
SQL-Abfragebericht
SELECT
1 as 'Zeile: Alle Anfragen nach Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Tag',
SUM(CASE WHEN STS.STATUS_GROUP='Erfolgreich' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Erfolg',
SUM(CASE WHEN STS.STATUS_GROUP='Umleitung' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Umleitung',
SUM(CASE WHEN STS.STATUS_GROUP='Kundenfehler' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Kundenfehler',
SUM(CASE WHEN STS.STATUS_GROUP='Serverfehler' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Serverfehler'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTDer Bericht zeigt Anfragen und nicht Klicks (Hits). Im Gegensatz zu LINE_CNT wird die Metrik REQUEST_CNT als COUNT(DISTINCT STG.REQUEST_NK) betrachtet. Ziel ist es, effektive Ereignisse darzustellen; beispielsweise rufen Bots von MS hunderte Male am Tag die Datei robots.txt ab, und in diesem Fall wird eine solche Abfrage nur einmal gezählt. Dies hilft, Spitzen im Diagramm zu glätten.
Aus dem Diagramm sind viele Fehler zu erkennen – es handelt sich um nicht existierende Seiten. Das Ergebnis der Analyse führte zur Implementierung von Weiterleitungen für die entfernten Seiten.
Fehlerhafte Anfragen
Für eine detaillierte Analyse der Anfragen können Sie eine ausführliche Statistik abrufen.
SQL-Abfragebericht
SELECT
1 AS 'Tabelle: Häufigste Fehleranfragen',
REQ.REQUEST_NK AS 'Anfrage',
'Fehler' AS 'Anfragenstatus',
ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Treffer pro Tag',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs pro Tag',
ROUND(SUM(FCT.BYTES) / 1000 / 14.0, 1) AS 'KB pro Tag'
FROM
FCT_ACCESS_REQUEST_REF_HH FCT,
DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20In dieser Liste sind auch alle Anfragen enthalten, z.B. eine Anfrage an /wp-login.php. Durch Anpassung der Rewrite-Regeln dem Server durch kann die Serverreaktion auf solche Anfragen optimiert werden, indem sie auf die Startseite umgeleitet werden.
So bieten einige einfache Berichte basierend auf der Server-Logdatei ein umfassendes Bild von dem, was auf der Website passiert.
Wie erhält man Informationen?
Die SQLite-Datenbanken sind vollkommen ausreichend. Wir erstellen Tabellen: eine Hilfstabelle für das Logging von ETL-Prozessen.
Staging-Tabelle, in die wir Protokolldateien mit PHP schreiben werden. Zwei Aggregattabellen. Wir erstellen eine tägliche Tabelle mit Statistiken zu User-Agents und Anfrage-Status. Eine stündliche Tabelle mit Statistiken zu Anfragen, Statusgruppen und Agenten. Vier Tabellen mit entsprechenden Messungen.
Das Ergebnis ist das folgende relationale Modell:
Datenmodell
Skript zum Erstellen eines Objekts in der SQLite-Datenbank:
DDL zur Objekterstellung
DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
USER_AGENT_NK TEXT NOT NULL DEFAULT 'n.a.',
AGENT_OS TEXT NOT NULL DEFAULT 'n.a.',
AGENT_ENGINE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_DEVICE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_BOT TEXT NOT NULL DEFAULT 'n.a.',
UPDATE_DT INTEGER NOT NULL DEFAULT 0,
UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);Staging
Im Fall der access.log-Datei müssen alle Anfragen gelesen, geparst und in die Datenbank geschrieben werden. Das kann entweder direkt mit einem Skriptsprache-Tool oder mithilfe von SQLite gemacht werden.
Format der Protokolldatei:
//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';
Schlüsselpropagation
Sobald rohe Daten in der Datenbank vorhanden sind, müssen die Schlüssel, die dort fehlen, in die Messtabelle eingetragen werden. Dadurch wird es möglich, die Verknüpfung zu den Messdaten herzustellen. Zum Beispiel ist in der Tabelle DIM_REFERRER der Schlüssel eine Kombination aus drei Feldern.
SQL-Abfrage zur Propagierung von Schlüsseln
/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
CLS.HOST_NK,
CLS.PATH_NK,
CLS.QUERY_NK,
STRFTIME('%s','now') AS UPDATE_DT
FROM (
SELECT DISTINCT
REFERRER_HOST AS HOST_NK,
REFERRER_PATH AS PATH_NK,
CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
ELSE REFERRER_QUERY END AS QUERY_NK
FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULLDie Propagierung in die Tabelle der Benutzeragenten kann Logik für Bots enthalten. Zum Beispiel ein SQL-Ausschnitt:
CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
OR INSTR(LOWER(CLS.BROWSER),'wget')>0
THEN 'other'
ELSE 'n.a.' END AS AGENT_BOTAggregatstabellen
Zuletzt laden wir die Aggregatstabellen, zum Beispiel könnte die tägliche Tabelle wie folgt geladen werden:
SQL-Abfrage zum Laden des Aggregats
/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
CASE SUBSTR(TIME_NK,5,3)
WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
BROWSER AS USER_AGENT_NK,
REQUEST_NK,
IP_NR,
STATUS,
LINE_NK,
BYTES
FROM STG_ACCESS_LOG
)
SELECT
CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
USG.DIM_USER_AGENT_ID,
HST.DIM_HTTP_STATUS_ID,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
SUM(BYTES) AS BYTES
FROM STG,
DIM_HTTP_STATUS HST,
DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_IDDie SQLite-Datenbank ermöglicht komplexe Abfragen. WITH enthält die Vorbereitung von Daten und Schlüsseln. Die Hauptabfrage sammelt alle Verknüpfungen zu den Messdaten.
Die Bedingung ermöglicht es nicht, den Verlauf erneut zu laden: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, wobei der Parameter das Ergebnis einer Abfrage ist.
‘SELECT COALESCE(MAX(EVENT_DT), ‘3600’) AS LAST_EVENT_EPOCH FROM FCT_ACCESS_USER_AGENT_DD’
Die Bedingung lädt nur einen vollständigen Tag: CAST(STG.EVENT_DT AS INTEGER) < strftime(‘%s’, date(‘now’, ‘start of day’))
Die Zählung von Seiten oder Dateien erfolgt auf einfache Weise durch das Suchen nach einem Punkt.
Berichte
In komplexen Visualisierungssystemen besteht die Möglichkeit, ein Meta-Modell auf der Grundlage von Datenbankobjekten zu erstellen, Filter und Aggregationsregeln dynamisch zu verwalten. Letztendlich generieren alle anständigen Werkzeuge SQL-Abfragen.
In diesem Beispiel werden bereits fertige SQL-Abfragen erstellt und als Views in der Datenbank gespeichert – das sind die Berichte.
Visualisierung
Als Visualisierungstool wurde Bluff verwendet: Schöne Grafiken in JavaScript.
Dazu war es notwendig, mithilfe von PHP alle Berichte durchzugehen und eine HTML-Datei mit Tabellen zu generieren.
$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);Dieses Tool visualisiert einfach die Ergebnistabellen.
Fazit
Anhand der Webanalyse beschreibt der Artikel die Mechanismen, die zum Aufbau von Data Warehouses notwendig sind. Wie aus den Ergebnissen ersichtlich ist, sind für eine tiefgehende Analyse und Visualisierung der Daten die einfachsten Werkzeuge ausreichend.
Im Folgenden werden wir anhand dieses Data Warehouses versuchen, Strukturen wie langsam veränderliche Dimensionen, Metadaten, Aggregationsebenen und die Integration von Daten aus verschiedenen Quellen zu realisieren.
Zudem betrachten wir detaillierter ein einfaches Werkzeug zur Verwaltung von ETL-Prozessen, basierend auf einer einzelnen Tabelle.
Kehren wir zum Thema der Datenqualität und der Automatisierung dieses Prozesses zurück.
Untersuchen wir die Herausforderungen der technischen Umgebung und der Wartung von Data Warehouses, für die wir einen Speicherserver mit minimalen Ressourcen realisieren werden, beispielsweise auf Basis eines Raspberry Pi.
Quelle: habr.com
