As ferramentas Webalizer e Google Analytics me ajudaram por muitos anos a entender o que acontece nos sites. Agora, percebo que elas fornecem muito pouco informação útil. Com acesso ao meu arquivo access.log, é muito fácil entender as estatísticas, e para isso são necessários apenas ferramentas elementares, como sqlite, html, linguagem SQL e qualquer linguagem de script de programação.
A fonte de dados para o Webalizer é o arquivo access.log servidor. Assim são suas colunas e números, dos quais só se pode entender o volume geral de tráfego:
Ferramentas como o Google Analytics coletam dados a partir da página carregada por conta própria. Exibem alguns gráficos e linhas, baseados nos quais, muitas vezes, é difícil chegar a conclusões corretas. Talvez fosse necessário se esforçar mais? Não sei.
Então, o que eu gostaria de ver nas estatísticas de visitas ao site?
O tráfego de usuários e bots
Frequentemente, o tráfego dos sites tem limitações e é necessário ver quão útil é o tráfego utilizado. Por exemplo, assim:
SQL consulta de relatório
SELECT
1 as 'StackedArea: Tráfego gerado por Usuários e Bots',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Dia',
SUM(CASE WHEN USG.AGENT_BOT!='n.a.' THEN FCT.BYTES ELSE 0 END) / 1000 AS 'Bots, KB',
SUM(CASE WHEN USG.AGENT_BOT='n.a.' THEN FCT.BYTES ELSE 0 END) / 1000 AS 'Usuários, KB'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTO gráfico mostra uma atividade constante de bots. Seria interessante estudar em detalhe os representantes mais ativos.
Bots irritantes
Classificamos os bots com base nas informações do agente do usuário. Estatísticas adicionais sobre o tráfego diário, quantidade de requisições bem-sucedidas e sem sucesso fornecem uma boa visão da atividade dos bots.
SQL consulta de relatório
SELECT
1 AS 'Tabela: Bots Irritantes',
MAX(USG.AGENT_BOT) AS 'Bot',
ROUND(SUM(FCT.BYTES) / 1000 / 14.0, 1) AS 'KB por Dia',
ROUND(SUM(FCT.IP_CNT) / 14.0, 1) AS 'IPs por Dia',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Erro do Cliente', 'Erro do Servidor') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Requisições com Erro por Dia',
ROUND(SUM(CASE WHEN STS.STATUS_GROUP IN ('Bem-sucedido', 'Redirecionamento') THEN FCT.REQUEST_CNT / 14.0 ELSE 0 END), 1) AS 'Requisições Bem-sucedidas por Dia',
USG.USER_AGENT_NK AS 'Agente'
FROM FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS STS
WHERE FCT.DIM_USER_AGENT_ID = USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = STS.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT != 'n.a.'
AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY USG.USER_AGENT_NK
ORDER BY 3 DESC
LIMIT 10Neste caso, o resultado da análise foi a decisão de restringir o acesso ao site adicionando uma entrada no arquivo robots.txt
User-agent: AhrefsBot
Disallow: /
User-agent: dotbot
Disallow: /
User-agent: bingbot
Crawl-delay: 5
Os dois primeiros bots desapareceram da tabela, enquanto os robôs da MS foram deslocados para posições inferiores.
Dia e hora de maior atividade
Os picos de tráfego são visíveis. Para investigá-los em detalhe, é necessário destacar o momento em que ocorreram, sem precisar exibir todas as horas e dias de medição de tempo. Isso facilitará a localização de consultas individuais no arquivo de log, caso uma análise detalhada seja necessária.
SQL consulta de relatório
SELECT
1 AS 'Linha: Dia e Hora de Acessos de Usuários e Bots',
strftime('%d.%m-%H', datetime(EVENT_DT, 'unixepoch')) AS 'Data Hora',
HIB AS 'Bots, Acessos',
HIU AS 'Usuários, Acessos'
FROM (
SELECT
EVENT_DT,
SUM(CASE WHEN AGENT_BOT!='n.a.' THEN LINE_CNT ELSE 0 END) AS HIB,
SUM(CASE WHEN AGENT_BOT='n.a.' THEN LINE_CNT ELSE 0 END) AS HIU
FROM FCT_ACCESS_REQUEST_REF_HH
WHERE datetime(EVENT_DT, 'unixepoch') >= date('now', '-14 day')
GROUP BY EVENT_DT
ORDER BY SUM(LINE_CNT) DESC
LIMIT 10
) ORDER BY EVENT_DTObservamos as horas mais ativas 11, 14 e 20 do primeiro dia no gráfico. Já no dia seguinte, às 13 horas, os bots estavam ativos.
Atividade média diária dos usuários por semanas
Já entendemos a atividade e o tráfego. A próxima questão era a atividade dos próprios usuários. Para essa estatística, períodos longos de agregação são desejáveis, como, por exemplo, uma semana.
SQL consulta de relatório
SELECT
1 as 'Linha: Atividade Média Diária dos Usuários por Semana',
strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Semana',
ROUND(1.0*SUM(FCT.PAGE_CNT)/SUM(FCT.IP_CNT),1) AS 'Páginas por IP por Dia',
ROUND(1.0*SUM(FCT.FILE_CNT)/SUM(FCT.IP_CNT),1) AS 'Arquivos por IP por Dia'
FROM
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_USER_AGENT USG,
DIM_HTTP_STATUS HST
WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID
AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID
AND USG.AGENT_BOT='n.a.' /* apenas usuários */
AND HST.STATUS_GROUP IN ('Successful') /* páginas boas */
AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month')
GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDER BY FCT.EVENT_DTAs estatísticas da semana mostram que, em média, um usuário abre 1,6 páginas por dia. O número de arquivos solicitados por usuário depende, neste caso, da adição de novos arquivos ao site.
Todos os pedidos e seus status
O Webalizer sempre mostrou códigos específicos das páginas e sempre quis ver apenas o número de solicitações bem-sucedidas e erros.
SQL consulta de relatório
SELECIONE
1 como 'Linha: Todos os Pedidos por Status',
strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Dia',
SOMA(CASE WHEN STS.STATUS_GROUP='Bem-sucedido' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Sucesso',
SOMA(CASE WHEN STS.STATUS_GROUP='Redirecionamento' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Redirecionar',
SOMA(CASE WHEN STS.STATUS_GROUP='Erro do Cliente' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Erro do Cliente',
SOMA(CASE WHEN STS.STATUS_GROUP='Erro do Servidor' THEN FCT.REQUEST_CNT ELSE 0 END) AS 'Erro do Servidor'
DE
FCT_ACCESS_USER_AGENT_DD FCT,
DIM_HTTP_STATUS STS
ONDE FCT.DIM_HTTP_STATUS_ID=STS.DIM_HTTP_STATUS_ID
E datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
AGRUPAR POR strftime('%d.%m', datetime(FCT.EVENT_DT, 'unixepoch'))
ORDENAR POR FCT.EVENT_DTO relatório exibe solicitações, e não cliques (hits). Enquanto a métrica LINE_CNT é contada como COUNT(DISTINCT STG.REQUEST_NK), a REQUEST_CNT é contabilizada. O objetivo é mostrar eventos efetivos; por exemplo, os bots da MS consultam o arquivo robots.txt centenas de vezes ao dia e, neste caso, essas consultas serão contadas apenas uma vez. Isso ajuda a suavizar picos no gráfico.
O gráfico revela muitos erros — são páginas inexistentes. Como resultado da análise, foram adicionados redirecionamentos para as páginas removidas.
Solicitações com Erros
Para uma análise detalhada das solicitações, é possível gerar estatísticas detalhadas.
SQL consulta de relatório
SELECIONE
1 AS 'Tabela: Principais Solicitações com Erros',
REQ.REQUEST_NK AS 'Solicitação',
'Erro' AS 'Status da Solicitação',
ARREDONDAR(SOMA(FCT.LINE_CNT) / 14.0, 1) AS 'Hits por Dia',
ARREDONDAR(SOMA(FCT.IP_CNT) / 14.0, 1) AS 'IPs por Dia',
ARREDONDAR(SOMA(FCT.BYTES) / 1000 / 14.0, 1) AS 'KB por Dia'
DE
FCT_ACCESS_REQUEST_REF_HH FCT,
DIM_REQUEST_V_ACT REQ
ONDE FCT.DIM_REQUEST_ID = REQ.DIM_REQUEST_ID
E FCT.STATUS_GROUP IN ('Erro do Cliente', 'Erro do Servidor')
E datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-14 day')
AGRUPAR POR REQ.REQUEST_NK
ORDENAR POR 4 DESC
LIMITAR 20Esta lista incluirá todas as chamadas, como a solicitação para /wp-login.php. Através da correção das regras de reescrita das solicitações, servidor pode-se ajustar a resposta do servidor a tais solicitações e redirecioná-las para a página inicial.
Portanto, alguns relatórios simples com base no arquivo de log do servidor fornecem uma imagem bastante completa do que ocorre no site.
Como obter informações?
Os bancos de dados sqlite são suficientes. Vamos criar tabelas: uma auxiliar para registrar processos ETL.
Tabela de estágio, onde escreveremos arquivos de log utilizando PHP. Duas tabelas de agregados. Vamos criar uma tabela diária com estatísticas de agentes de usuário e status das solicitações. E uma por hora com estatísticas de solicitações, grupos de status e agentes. Quatro tabelas correspondentes às dimensões.
Como resultado, obtenha o seguinte modelo relacional:
Modelo de dados
Script para criar o objeto no banco de dados sqlite:
DDL para a criação do objeto
DROP TABLE IF EXISTS DIM_USER_AGENT;
CREATE TABLE DIM_USER_AGENT (
DIM_USER_AGENT_ID INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,
USER_AGENT_NK TEXT NOT NULL DEFAULT 'n.a.',
AGENT_OS TEXT NOT NULL DEFAULT 'n.a.',
AGENT_ENGINE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_DEVICE TEXT NOT NULL DEFAULT 'n.a.',
AGENT_BOT TEXT NOT NULL DEFAULT 'n.a.',
UPDATE_DT INTEGER NOT NULL DEFAULT 0,
UNIQUE (USER_AGENT_NK)
);
INSERT INTO DIM_USER_AGENT (DIM_USER_AGENT_ID) VALUES (-1);Stage
No caso do arquivo access.log, é necessário ler, analisar e registrar todos os pedidos no banco de dados. Isso pode ser feito diretamente por meio de uma linguagem de script ou utilizando os recursos do sqlite.
Formato do arquivo de log:
//67.221.59.195 - - [28/Dec/2012:01:47:47 +0100] "GET /files/default.css HTTP/1.1" 200 1512 "https://project.edu/" "Mozilla/4.0"
//host ident auth time method request_nk protocol status bytes ref browser
$log_pattern = '/^([^ ]+) ([^ ]+) ([^ ]+) ([[^]]+]) "(.*) (.*) (.*)" ([0-9-]+) ([0-9-]+) "(.*)" "(.*)"$/';
Propagação de chaves
Quando os dados brutos estão no banco, é necessário registrar nas tabelas de medidas as chaves que não estão lá. Assim, será possível construir um link para as medidas. Por exemplo, na tabela DIM_REFERRER, a chave é uma combinação de três campos.
Consulta SQL de propagação de chaves
/* Propagate the referrer from access log */
INSERT INTO DIM_REFERRER (HOST_NK, PATH_NK, QUERY_NK, UPDATE_DT)
SELECT
CLS.HOST_NK,
CLS.PATH_NK,
CLS.QUERY_NK,
STRFTIME('%s','now') AS UPDATE_DT
FROM (
SELECT DISTINCT
REFERRER_HOST AS HOST_NK,
REFERRER_PATH AS PATH_NK,
CASE WHEN INSTR(REFERRER_QUERY,'&sid')>0 THEN SUBSTR(REFERRER_QUERY, 1, INSTR(REFERRER_QUERY,'&sid')-1) /* отрезаем sid - специфика цмс */
ELSE REFERRER_QUERY END AS QUERY_NK
FROM STG_ACCESS_LOG
) CLS
LEFT OUTER JOIN DIM_REFERRER TRG
ON (CLS.HOST_NK = TRG.HOST_NK AND CLS.PATH_NK = TRG.PATH_NK AND CLS.QUERY_NK = TRG.QUERY_NK)
WHERE TRG.DIM_REFERRER_ID IS NULLA propagação na tabela de agentes de usuário pode conter a lógica dos bots, por exemplo, um trecho sql:
CASE
WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0
THEN 'yandex'
WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0
THEN 'google'
WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0
THEN 'microsoft'
WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0
THEN 'ahrefs'
WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0
THEN 'majestic-12'
WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0
OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0
OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0
OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0
OR INSTR(LOWER(CLS.BROWSER),'wget')>0
THEN 'other'
ELSE 'n.a.' END AS AGENT_BOTTabelas de agregados
Por último, vamos carregar as tabelas de agregados, por exemplo, a tabela diária pode ser carregada da seguinte forma:
Consulta SQL para carregar o agregado
/* Load fact from access log */
INSERT INTO FCT_ACCESS_USER_AGENT_DD (EVENT_DT, DIM_USER_AGENT_ID, DIM_HTTP_STATUS_ID, PAGE_CNT, FILE_CNT, REQUEST_CNT, LINE_CNT, IP_CNT, BYTES)
WITH STG AS (
SELECT
STRFTIME( '%s', SUBSTR(TIME_NK,9,4) || '-' ||
CASE SUBSTR(TIME_NK,5,3)
WHEN 'Jan' THEN '01' WHEN 'Feb' THEN '02' WHEN 'Mar' THEN '03' WHEN 'Apr' THEN '04' WHEN 'May' THEN '05' WHEN 'Jun' THEN '06'
WHEN 'Jul' THEN '07' WHEN 'Aug' THEN '08' WHEN 'Sep' THEN '09' WHEN 'Oct' THEN '10' WHEN 'Nov' THEN '11'
ELSE '12' END || '-' || SUBSTR(TIME_NK,2,2) || ' 00:00:00' ) AS EVENT_DT,
BROWSER AS USER_AGENT_NK,
REQUEST_NK,
IP_NR,
STATUS,
LINE_NK,
BYTES
FROM STG_ACCESS_LOG
)
SELECT
CAST(STG.EVENT_DT AS INTEGER) AS EVENT_DT,
USG.DIM_USER_AGENT_ID,
HST.DIM_HTTP_STATUS_ID,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')=0 THEN STG.REQUEST_NK END) ) AS PAGE_CNT,
COUNT(DISTINCT (CASE WHEN INSTR(STG.REQUEST_NK,'.')>0 THEN STG.REQUEST_NK END) ) AS FILE_CNT,
COUNT(DISTINCT STG.REQUEST_NK) AS REQUEST_CNT,
COUNT(DISTINCT STG.LINE_NK) AS LINE_CNT,
COUNT(DISTINCT STG.IP_NR) AS IP_CNT,
SUM(BYTES) AS BYTES
FROM STG,
DIM_HTTP_STATUS HST,
DIM_USER_AGENT USG
WHERE STG.STATUS = HST.STATUS_NK
AND STG.USER_AGENT_NK = USG.USER_AGENT_NK
AND CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from /* load epoch date */
AND CAST(STG.EVENT_DT AS INTEGER) < strftime('%s', date('now', 'start of day'))
GROUP BY STG.EVENT_DT, HST.DIM_HTTP_STATUS_ID, USG.DIM_USER_AGENT_IDO banco de dados sqlite permite escrever consultas complexas. WITH contém a preparação de dados e chaves. A consulta principal coleta todos os links para as medidas.
A condição não permitirá carregar novamente o histórico: CAST(STG.EVENT_DT AS INTEGER) > $param_epoch_from, onde o parâmetro é o resultado da consulta.
‘SELECT COALESCE(MAX(EVENT_DT), ‘3600’) AS LAST_EVENT_EPOCH FROM FCT_ACCESS_USER_AGENT_DD’
A condição carregará apenas um dia completo: CAST(STG.EVENT_DT AS INTEGER) < strftime(‘%s’, date(‘now’, ‘start of day’))
A contagem de páginas ou arquivos é feita de forma primitiva, buscando o ponto.
Relatórios
Em sistemas complexos de visualização, há a possibilidade de criar uma meta-modelo com base em objetos do banco de dados, gerenciar dinamicamente filtros e regras de agregação. No final, todas as boas ferramentas geram consultas SQL.
Neste exemplo, criaremos consultas SQL pré-definidas e as salvaremos na forma de views no banco de dados — estes são os relatórios.
Visualização
O Bluff foi utilizado como ferramenta de visualização: gráficos impressionantes em JavaScript
Para isso, foi necessário usar PHP para percorrer todos os relatórios e gerar um arquivo HTML com tabelas.
$sqls = array(
'SELECT * FROM RPT_ACCESS_USER_VS_BOT',
'SELECT * FROM RPT_ACCESS_ANNOYING_BOT',
'SELECT * FROM RPT_ACCESS_TOP_HOUR_HIT',
'SELECT * FROM RPT_ACCESS_USER_ACTIVE',
'SELECT * FROM RPT_ACCESS_REQUEST_STATUS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_PAGE',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_REFERRER',
'SELECT * FROM RPT_ACCESS_NEW_REQUEST',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_SUCCESS',
'SELECT * FROM RPT_ACCESS_TOP_REQUEST_ERROR'
);A ferramenta simplesmente visualiza as tabelas de resultados.
Saída
Com o exemplo da análise da web, o artigo descreve os mecanismos necessários para construir repositórios de dados. Como pode ser visto nos resultados, para uma análise e visualização profunda de dados, as ferramentas mais simples são suficientes.
Mais adiante, com base neste repositório, tentaremos implementar estruturas como dimensões de lenta mudança, metadados, níveis de agregação e integração de dados de diferentes fontes.
Além disso, analisaremos uma ferramenta básica de gerenciamento de processos ETL com base em uma única tabela.
Voltaremos ao tema da medição da qualidade dos dados e da automação desse processo.
Examinaremos os problemas do ambiente técnico e da manutenção dos repositórios de dados, para isso implementaremos um servidor de repositório com recursos mínimos, como o Raspberry Pi.
Fonte: habr.com
