Webalizer y Google Analytics me han ayudado a comprender mejor lo que sucede en los sitios web durante muchos años. Ahora entiendo que aportan muy poca información útil. Al tener acceso a su archivo access.log, es muy fácil comprender las estadísticas e implementar herramientas bastante básicas, como sqlite, html, el lenguaje sql y cualquier lenguaje de programación scripting.
La fuente de datos de Webalizer es el archivo access.log del servidor. Así lucen sus barras y números, de los que sólo se desprende el volumen total de tráfico:
Herramientas como Google Analytics recopilan datos de la página cargada. Nos muestran un par de diagramas y líneas, a partir de los cuales muchas veces es difícil sacar conclusiones correctas. ¿Quizás debería haberse hecho más esfuerzo? No lo sé.
Entonces, ¿qué quería ver en las estadísticas de visitantes del sitio web?
Tráfico de usuarios y bots
A menudo, el tráfico del sitio es limitado y es necesario ver cuánto tráfico útil se utiliza. Por ejemplo, así:
consulta de informe SQL
SELECT
1 as 'StackedArea: Traffic generated by Users and Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END)/1000 AS 'Users, KB'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTEl gráfico muestra la actividad constante de los bots. Sería interesante estudiar en detalle a los representantes más activos.
robots molestos
Clasificamos los bots según la información del agente de usuario. Las estadísticas adicionales sobre el tráfico diario y la cantidad de solicitudes exitosas y no exitosas dan una buena idea de la actividad del bot.
consulta de informe SQL
SELECT
1 AS 'Table: Annoying Bots',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Client Error', 'Server Error') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Error Requests per Day',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Successful', 'Redirection') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Success Requests per Day',
USG.USER_AGENT_NK AS 'Agent'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT != 'n.a.'
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10En este caso, el resultado del análisis fue la decisión de restringir el acceso al sitio agregándolo al archivo robots.txt.
User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
Los dos primeros robots desaparecieron de la mesa y los robots de MS descendieron desde las primeras líneas.
Día y hora de mayor actividad.
Los repuntes son visibles en el tráfico. Para estudiarlos en detalle, es necesario resaltar el momento en que ocurrieron, y no es necesario mostrar todas las horas y días de la medición del tiempo. Esto hará que sea más fácil encontrar solicitudes individuales en el archivo de registro si se necesita un análisis detallado.
consulta de informe SQL
SELECT
1 AS 'Line: Day and Hour of Hits from Users and Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Date Time',
HIB AS 'Bots, Hits',
HIU AS 'Users, Hits'
FROM (
SELECT
EVENT_DT,
SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
FROM FCT_ACCESS_REQUEST_REF_HH
WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY EVENT_DT
ORDER BY SUM(LINE_CNT) DESC
LIMIT 10
) ORDER BY EVENT_DTObservamos las horas más activas 11, 14 y 20 del primer día en el gráfico. Pero al día siguiente a las 13:XNUMX los bots estaban activos.
Actividad promedio diaria del usuario por semana
Arreglamos un poco las cosas con la actividad y el tráfico. La siguiente pregunta fue la actividad de los propios usuarios. Para tales estadísticas, son deseables períodos de agregación prolongados, como una semana.
consulta de informe SQL
SELECT
1 as 'Line: Average Daily User Activity by Week',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Pages per IP per Day',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Files per IP per Day'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT='n.a.' /* users only */
AND HST.STATUS_GROUP IN ('Successful') /* good pages */
AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTLas estadísticas semanales muestran que, de media, un usuario abre 1,6 páginas al día. La cantidad de archivos solicitados por usuario en este caso depende de la adición de nuevos archivos al sitio.
Todas las solicitudes y sus estados.
Webalizer siempre mostró códigos de página específicos y siempre quise ver solo la cantidad de solicitudes exitosas y errores.
consulta de informe SQL
SELECT
1 as 'Line: All Requests by Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day',
SUM(CASE WHEN STS.STATUS_GROUP='Successful' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Success',
SUM(CASE WHEN STS.STATUS_GROUP='Redirection' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirect',
SUM(CASE WHEN STS.STATUS_GROUP='Client Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Customer Error',
SUM(CASE WHEN STS.STATUS_GROUP='Server Error' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Server Error'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTEl informe muestra solicitudes, no clics (accesos); a diferencia de LINE_CNT, la métrica REQUEST_CNT se calcula como COUNT(DISTINCT STG.REQUEST_NK). El objetivo es mostrar eventos efectivos, por ejemplo, los robots de MS sondean el archivo robots.txt cientos de veces al día y, en este caso, dichas encuestas se contarán una vez. Esto le permite suavizar los saltos en el gráfico.
En el gráfico se pueden ver muchos errores: estas son páginas inexistentes. El resultado del análisis fue la adición de redireccionamientos desde páginas remotas.
Malas solicitudes
Para examinar las solicitudes en detalle, puede mostrar estadísticas detalladas.
consulta de informe SQL
SELECT
1 AS 'Table: Top Error Requests',
REQ.REQUEST_NK AS 'Request',
'Error' AS 'Request Status',
ROUND(SUM(FCT.LINE_CNT) / 14.0, 1) AS 'Hits per Day',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs per Day',
ROUND(SUM(FCT.BYTES)/1000 / 14.0, 1) AS 'KB per Day'
FROM
FCT_ACCESS_REQUEST_REF_HH FCT,
DIM_REQUEST_V_ACT REQ
WHERE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
AND FCT.STATUS_GROUP IN ('Client Error', 'Server Error')
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY REQ.REQUEST_NK
ORDER BY 4 DESC
LIMIT 20Esta lista también contendrá todas las llamadas, por ejemplo, una solicitud a /wp-login.php. Al ajustar las reglas para reescribir solicitudes por parte del servidor, puede ajustar la reacción del servidor a dichas solicitudes y enviarlas a la página de inicio.
Entonces, unos pocos informes simples basados en el archivo de registro del servidor brindan una imagen bastante completa de lo que está sucediendo en el sitio.
¿Cómo obtener información?
Una base de datos sqlite es suficiente. Creemos tablas: auxiliares para el registro de procesos ETL.
Etapa de tabla donde escribiremos archivos de registro usando PHP. Dos tablas agregadas. Creemos una tabla diaria con estadísticas sobre agentes de usuario y estados de solicitud. Cada hora con estadísticas sobre solicitudes, grupos de estado y agentes. Cuatro tablas de medidas relevantes.
El resultado es el siguiente modelo relacional:
Modelo de datos
Script para crear un objeto en una base de datos sqlite:
Creación de objetos DDL
DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
USER_AGENT_NK TEXT NOT NULL DEFAULT 'n.a.',
AGENT_OS TEXT NOT NULL DEFAULT 'n.a.',
AGENT_ENGINE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_DEVICE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_BOT TEXT NOT NULL DEFAULT 'n.a.',
UPDATE_DT INTEGER NOT NULL DEFAULT 0,
UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);Escenario
En el caso del archivo access.log, es necesario leer, analizar y escribir todas las solicitudes en la base de datos. Esto se puede hacer directamente usando un lenguaje de secuencias de comandos o usando herramientas sqlite.
Formato de archivo de registro:
//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';
Propagación de claves
Cuando los datos sin procesar están en la base de datos, debe escribir las claves que no están allí en las tablas de medidas. Entonces será posible construir una referencia a las medidas. Por ejemplo, en la tabla DIM_REFERRER, la clave es una combinación de tres campos.
Consulta de propagación de clave SQL
/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
CLS.HOST_NK,
CLS.PATH_NK,
CLS.QUERY_NK,
STRFTIME('%s','now') AS UPDATE_DT
FROM (
SELECT DISTINCT
REFERRER_HOST AS HOST_NK,
REFERRER_PATH AS PATH_NK,
CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
ELSE REFERRER_QUERY END AS QUERY_NK
FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULLLa propagación a la tabla del agente de usuario puede contener lógica de bot, por ejemplo, el fragmento de SQL:
CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
OR INSTR(LOWER(CLS.BROWSER),'wget')>0
THEN 'other'
ELSE 'n.a.' END AS AGENT_BOTTablas agregadas
Por último, cargaremos las tablas agregadas; por ejemplo, la tabla diaria se puede cargar de la siguiente manera:
Consulta SQL para cargar agregado
/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
CASE SUBSTR(TIME_NK,5,3)
WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
BROWSER AS USER_AGENT_NK,
REQUEST_NK,
IP_NR,
STATUS,
LINE_NK,
BYTES
FROM STG_ACCESS_LOG
)
SELECT
CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
USG.DIM_USER_AGENT_ID,
HST.DIM_HTTP_STATUS_ID,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
SUM(BYTES) AS BYTES
FROM STG,
DIM_HTTP_STATUS HST,
DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_IDLa base de datos sqlite le permite escribir consultas complejas. CON contiene la preparación de datos y claves. La consulta principal recopila todas las referencias a dimensiones.
La condición no permitirá volver a cargar el historial: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, donde el parámetro es el resultado de la solicitud
'SELECCIONAR COALESCE(MAX(EVENT_DT), '3600') COMO LAST_EVENT_EPOCH DE FCT_ACCESS_USER_AGENT_DD'
La condición cargará solo el día completo: CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
El conteo de páginas o archivos se realiza de forma primitiva, buscando un punto.
Informes
En sistemas de visualización complejos, es posible crear un metamodelo basado en objetos de bases de datos, gestionar dinámicamente filtros y reglas de agregación. En última instancia, todas las herramientas decentes generan una consulta SQL.
En este ejemplo, crearemos consultas SQL listas para usar y las guardaremos como vistas en la base de datos; estos son informes.
Visualización
Bluff: Se utilizaron hermosos gráficos en JavaScript como herramienta de visualización
Para ello, fue necesario revisar todos los informes usando PHP y generar un archivo html con tablas.
$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);La herramienta simplemente visualiza tablas de resultados.
conclusión
Utilizando el análisis web como ejemplo, el artículo describe los mecanismos necesarios para construir almacenes de datos. Como puede verse en los resultados, las herramientas más simples son suficientes para un análisis y visualización profundos de los datos.
En el futuro, utilizando este repositorio como ejemplo, intentaremos implementar estructuras como dimensiones, metadatos, niveles de agregación e integración de datos de diferentes fuentes que cambian lentamente.
Además, echemos un vistazo más de cerca a la herramienta más sencilla para gestionar procesos ETL basados en una única tabla.
Volvamos al tema de medir la calidad de los datos y automatizar este proceso.
Estudiaremos la problemática del entorno técnico y mantenimiento de los almacenamientos de datos, para lo que implementaremos un servidor de almacenamiento con recursos mínimos, basado por ejemplo en una Raspberry Pi.
Fuente: habr.com