Больше статистики сайта в своём маленьком хранилище

Анализируя статистику сайта, мы получаем представление о том, что происходит с ним. Результаты мы сопоставляем с другими знаниями о продукте или сервисе и этим улучшаем наш опыт.

Когда анализ первых результатов завершён, прошло осмысление иформации и сделаны выводы, начинается следующий этап. Возникают идеи: а что будет, если посмотреть на данные с другой стороны?

На этом этапе есть ограничения инструментов анализа. Это одна из причин, почему мне было недостаточно инструмента Google Analytics, а именно, из-за ограниченной возможности видеть свои данные и манипулировать ими.

Всегда хотелось быстро загрузить базовые данные (мастер-данные), добавить другой уровень агрегации или иначе интерпретировать имеющиеся значения.

Это легко сделать в своём маленьком хранилище на основе файла access.log и для этого достаточно языка SQL.

Итак, на какие вопросы мне хотелось найти ответ?

Что и когда изменялось на сайте

История изменений базовых данных (мастер-данных) всегда представляет собой интерес.

image

SQL запрос отчёта

SELECT 	1 as 'SideStackedBar: Content Updates by Months', 	strftime('%m/%Y', datetime(UPDATE_DT, 'unixepoch')) AS 'Day', 	COUNT(CASE WHEN PAGE_TITLE != 'n.a.' THEN DIM_REQUEST_ID END) AS 'Web page updates', 	COUNT(CASE WHEN PAGE_DESCR = 'IMAGES' THEN DIM_REQUEST_ID END) AS 'Image uploads', 	COUNT(CASE WHEN PAGE_DESCR = 'VIDEO' THEN DIM_REQUEST_ID END) AS 'Video uploads', 	COUNT(CASE WHEN PAGE_DESCR = 'AUDIO' THEN DIM_REQUEST_ID END) AS 'Audio uploads' FROM DIM_REQUEST WHERE PAGE_TITLE != 'n.a.' OR PAGE_DESCR != 'n.a.' GROUP BY strftime('%m/%Y', datetime(UPDATE_DT, 'unixepoch')) ORDER BY UPDATE_DT

Например, в какой-то момент была проведена поисковая оптимизация или добавлено новое содержимое на сайт, в связи с этим ожидается увеличение трафика.

Группы пользователей

Самым простым примером группы может служить пользовательский агент или название оперативной системы.

Измерение пользовательских агентов накопило в себе около тысячи записей и мне интересно было увидеть динамику распределения агентов в пределах группы.

image

SQL запрос отчёта

SELECT 	1 AS 'SideStackedBar: User Agents', 	AGENT_OS AS 'OS', 	SUM(CASE WHEN AGENT_BOT = 'n.a.' THEN 1 ELSE 0 END ) AS 'User Agent of Users', 	SUM(CASE WHEN AGENT_BOT != 'n.a.' THEN 1 ELSE 0 END ) AS 'User Agent of Bots' FROM DIM_USER_AGENT WHERE DIM_USER_AGENT_ID != -1 GROUP BY AGENT_OS ORDER BY 3 DESC

Больше всего различных комбинаций агентов приходит на сайт из мира Windows. В числе неопределённых оказались такие, как WhatsApp, PocketImageCache, PlayStation, SmartTV и т.п.

Активность групп пользователей по неделям

Объединив некоторые группы, можно наблюдать распределение их активности.

Например, пользователи кластера Linux потребляют больше трафика на сайте, чем все остальные.

image

SQL запрос отчёта

SELECT 1 as 'StackedBar: Traffic Volume by User OS and by Week', strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Week', SUM(CASE WHEN USG.AGENT_OS IN ('Android', 'Linux') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Android/Linux Users', SUM(CASE WHEN USG.AGENT_OS IN ('Windows') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Windows Users', SUM(CASE WHEN USG.AGENT_OS IN ('Macintosh', 'iOS') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Mac/iOS Users', SUM(CASE WHEN USG.AGENT_OS IN ('n.a.', 'BlackBerry') THEN FCT.BYTES ELSE 0 END)/1000 AS 'Other' FROM   FCT_ACCESS_USER_AGENT_DD FCT,   DIM_USER_AGENT USG,   DIM_HTTP_STATUS HST WHERE FCT.DIM_USER_AGENT_ID=USG.DIM_USER_AGENT_ID   AND FCT.DIM_HTTP_STATUS_ID = HST.DIM_HTTP_STATUS_ID   AND USG.AGENT_BOT = 'n.a.' /* users only */   AND HST.STATUS_GROUP IN ('Successful') /* good pages */   AND datetime(FCT.EVENT_DT, 'unixepoch') > date('now', '-3 month') GROUP BY strftime('%W week', datetime(FCT.EVENT_DT, 'unixepoch')) ORDER BY FCT.EVENT_DT

Интенсивное потребление трафика

Из таблицы видны наиболее активные группы пользователей и день их активности.
Наиболее активные относятся к Linux кластеру.

image

SQL запрос отчёта

SELECT 1 AS 'Table: User Agent with Havy Usage', strftime('%d.%m.%Y', datetime(FCT.EVENT_DT, 'unixepoch')) AS 'Day', ROUND(1.0*SUM(FCT.BYTES)/1000000, 1) AS 'Traffic MB', ROUND(1.0*SUM(FCT.IP_CNT)/SUM(1), 1) AS 'IPs', ROUND(1.0*SUM(FCT.REQUEST_CNT)/SUM(1), 1) AS 'Requests', USA.DIM_USER_AGENT_ID AS 'ID', MAX(USA.USER_AGENT_NK) AS 'User Agent', MAX(USA.AGENT_BOT) AS 'Bot' FROM FCT_ACCESS_USER_AGENT_DD FCT, DIM_USER_AGENT USA WHERE FCT.DIM_USER_AGENT_ID = USA.DIM_USER_AGENT_ID   AND datetime(FCT.EVENT_DT, 'unixepoch') >= date('now', '-30 day') GROUP BY USA.DIM_USER_AGENT_ID, strftime('%d.%m.%Y', datetime(FCT.EVENT_DT, 'unixepoch'))  ORDER BY SUM(FCT.BYTES) DESC, FCT.EVENT_DT LIMIT 10

Как получить информацию?

Информацию из файла access.log можно сделать ещё эффективнее, если интегрировать дополнительные источники данных, ввести новые уровни агрегации и группировки.

Базовые данные и сущности

К базовым данным относится информация о сущностях: веб страницы, картинки, видео и аудио содержимое, в случае магазина — продукты.

Сами сущности выполняют роль измерений, а процесс сохранения изменений атрибутов называют историзацией. В базе данных этот процесс часто реализуют в форме медленно изменяющихся измерений (SCD).

Источником базовых данных могут быть самые разные системы, поэтому почти всегда их нужно интегрировать.

Медленно изменяющееся измерение

Измерение DIM_REQUEST будет содержать информацию о запросах на сайте в исторической форме.

Таблица SCD2

CREATE TABLE DIM_REQUEST ( /* scd table for user requests */   DIM_REQUEST_ID      INTEGER NOT NULL PRIMARY KEY AUTOINCREMENT,   DIM_REQUEST_ID_HIST INTEGER NOT NULL DEFAULT -1,   REQUEST_NK          TEXT NOT NULL DEFAULT 'n.a.', /* request without ?parameters */   PAGE_TITLE          TEXT NOT NULL DEFAULT 'n.a.',   PAGE_DESCR          TEXT NOT NULL DEFAULT 'n.a.',   PAGE_KEYWORDS       TEXT NOT NULL DEFAULT 'n.a.',   DELETE_FLAG         INTEGER NOT NULL DEFAULT 0,   UPDATE_DT           INTEGER NOT NULL DEFAULT 0,   UNIQUE (REQUEST_NK, DIM_REQUEST_ID_HIST) ); INSERT INTO DIM_REQUEST (DIM_REQUEST_ID) VALUES (-1);

Дополнительно к нему создадит одно представление, которое всегда отображает все записи в последнем состоянии. Необходимо для загрузки самого измерения.

image

Актуальное представление SCD2

/* Content: actual view on scd table */ SELECT HI.DIM_REQUEST_ID,   HI.DIM_REQUEST_ID_HIST,   HI.REQUEST_NK,   HI.PAGE_TITLE,   HI.PAGE_DESCR,   HI.PAGE_KEYWORDS,   NK.CNT AS HIST_CNT,   HI.DELETE_FLAG,   strftime('%d.%m.%Y %H:%M', datetime(HI.UPDATE_DT, 'unixepoch')) AS UPDATE_DT FROM   ( SELECT REQUEST_NK, MAX(DIM_REQUEST_ID) AS DIM_REQUEST_ID, SUM(1) AS CNT     FROM DIM_REQUEST     GROUP BY REQUEST_NK   ) NK,   DIM_REQUEST HI WHERE 1 = 1   AND NK.REQUEST_NK = HI.REQUEST_NK   AND NK.DIM_REQUEST_ID = HI.DIM_REQUEST_ID;

И представление, где для каждой записи собрана историческая информация. Необходимо для построения исторически верной связи с фактами.

image

Историческое представление SCD2

/* Content: actual view on scd table */ SELECT SCD.DIM_REQUEST_ID,   SCD.DIM_REQUEST_ID_HIST,   SCD.REQUEST_NK,   SCD.PAGE_TITLE,   SCD.PAGE_DESCR,   SCD.PAGE_KEYWORDS,   SCD.DELETE_FLAG,   CASE     WHEN HIS.UPDATE_DT IS NULL     THEN 1     ELSE 0 END ACTIVE_FLAG,   SCD.DIM_REQUEST_ID_HIST AS ID_FROM,   SCD.DIM_REQUEST_ID AS ID_TO,   CASE     WHEN SCD.DIM_REQUEST_ID_HIST=-1     THEN 3600     ELSE IFNULL(SCD.UPDATE_DT,3600)   END AS TIME_FROM,   CASE     WHEN HIS.UPDATE_DT IS NULL     THEN 253370764800     ELSE HIS.UPDATE_DT   END AS TIME_TO,   CASE     WHEN SCD.DIM_REQUEST_ID_HIST=-1     THEN STRFTIME('%d.%m.%Y %H:%M', DATETIME(3600, 'unixepoch'))     ELSE STRFTIME('%d.%m.%Y %H:%M', DATETIME(IFNULL(SCD.UPDATE_DT,3600), 'unixepoch'))   END AS ACTIVE_FROM,   CASE     WHEN HIS.UPDATE_DT IS NULL     THEN STRFTIME('%d.%m.%Y %H:%M', DATETIME(253370764800, 'unixepoch'))     ELSE STRFTIME('%d.%m.%Y %H:%M', DATETIME(HIS.UPDATE_DT, 'unixepoch'))   END AS ACTIVE_TO FROM   DIM_REQUEST SCD   LEFT OUTER JOIN DIM_REQUEST HIS   ON SCD.REQUEST_NK = HIS.REQUEST_NK AND SCD.DIM_REQUEST_ID = HIS.DIM_REQUEST_ID_HIST;

Агрегирование данных

Сжатие (агрегация) позволяет оценить данные на более высоком уровне и обнаружить аномалии и тенденции, которые не видны в детальных отчётах.

Например, в измерение с кодами статуса запросов DIM_HTTP_STATUS добавим группу:

STATUS / GROUP
0xx / n.a.
1xx / Informational
2xx / Successful
3xx / Redirection
4xx / Client Error
5xx / Server Error

Измерение пользовательских агентов DIM_USER_AGENT будет содержать атрибуты AGENT_OS и AGENT_BOT, отвечающие за группы. Их можно заполнять в процессе ETL:

Загрузка новых записей SCD2

/* Propagate the user agent from access log */ INSERT INTO DIM_USER_AGENT (USER_AGENT_NK, AGENT_OS, AGENT_ENGINE, AGENT_DEVICE, AGENT_BOT, UPDATE_DT) WITH CLS AS ( 	SELECT BROWSER 	FROM STG_ACCESS_LOG WHERE LENGTH(BROWSER)>1 	GROUP BY BROWSER ) SELECT 	CLS.BROWSER AS USER_AGENT_NK, 	CASE 	WHEN INSTR(CLS.BROWSER,'Macintosh')>0 		THEN 'Macintosh' 	WHEN INSTR(CLS.BROWSER,'iPhone')>0 			 OR INSTR(CLS.BROWSER,'iPad')>0 			 OR INSTR(CLS.BROWSER,'iPod')>0 			 OR INSTR(CLS.BROWSER,'Apple TV')>0 			 OR INSTR(CLS.BROWSER,'Darwin')>0 		THEN 'iOS' 	WHEN INSTR(CLS.BROWSER,'Android')>0 		THEN 'Android' 	WHEN INSTR(CLS.BROWSER,'X11;')>0 OR INSTR(CLS.BROWSER,'Wayland;')>0 OR INSTR(CLS.BROWSER,'linux-gnu')>0 		THEN 'Linux' 	WHEN INSTR(CLS.BROWSER,'BB10;')>0 OR INSTR(CLS.BROWSER,'BlackBerry')>0 		THEN 'BlackBerry' 	WHEN INSTR(CLS.BROWSER,'Windows')>0 		THEN 'Windows' 	ELSE 'n.a.' END AS AGENT_OS, -- OS 	CASE 	WHEN INSTR(CLS.BROWSER,'AppleCoreMedia')>0 		THEN 'AppleWebKit' 	WHEN INSTR(CLS.BROWSER,') ')>1 AND LENGTH(CLS.BROWSER)>INSTR(CLS.BROWSER,') ') 		THEN COALESCE(SUBSTR(CLS.BROWSER, INSTR(CLS.BROWSER,') ')+2, LENGTH(CLS.BROWSER) - INSTR(CLS.BROWSER,') ')-1), 'N/A') 	ELSE 'n.a.' END AS AGENT_ENGINE, -- Engine 	CASE 	WHEN INSTR(CLS.BROWSER,'iPhone')>0 		THEN 'iPhone' 	WHEN INSTR(CLS.BROWSER,'iPad')>0 		THEN 'iPad' 	WHEN INSTR(CLS.BROWSER,'iPod')>0 		THEN 'iPod' 	WHEN INSTR(CLS.BROWSER,'Apple TV')>0 		THEN 'Apple TV' 	WHEN INSTR(CLS.BROWSER,'Android ')>0 AND INSTR(CLS.BROWSER,'Build')>0 		THEN COALESCE(SUBSTR(CLS.BROWSER, INSTR(CLS.BROWSER,'Android '), INSTR(CLS.BROWSER,'Build')-INSTR(CLS.BROWSER,'Android ')), 'n.a.') 	WHEN INSTR(CLS.BROWSER,'Android ')>0 AND INSTR(CLS.BROWSER,'MIUI')>0 		THEN COALESCE(SUBSTR(CLS.BROWSER, INSTR(CLS.BROWSER,'Android '), INSTR(CLS.BROWSER,'MIUI')-INSTR(CLS.BROWSER,'Android ')), 'n.a.') 	ELSE 'n.a.' END AS AGENT_DEVICE, -- Device 	CASE 	WHEN INSTR(LOWER(CLS.BROWSER),'yandex.com')>0 		THEN 'yandex' 	WHEN INSTR(LOWER(CLS.BROWSER),'googlebot')>0 		THEN 'google' 	WHEN INSTR(LOWER(CLS.BROWSER),'bingbot')>0 		THEN 'microsoft' 	WHEN INSTR(LOWER(CLS.BROWSER),'ahrefsbot')>0 		THEN 'ahrefs' 	WHEN INSTR(LOWER(CLS.BROWSER),'jobboersebot')>0 OR INSTR(LOWER(CLS.BROWSER),'jobkicks')>0 		THEN 'job.de' 	WHEN INSTR(LOWER(CLS.BROWSER),'mail.ru')>0 		THEN 'mail.ru' 	WHEN INSTR(LOWER(CLS.BROWSER),'baiduspider')>0 		THEN 'baidu' 	WHEN INSTR(LOWER(CLS.BROWSER),'mj12bot')>0 		THEN 'majestic-12' 	WHEN INSTR(LOWER(CLS.BROWSER),'duckduckgo')>0 		THEN 'duckduckgo' 	WHEN INSTR(LOWER(CLS.BROWSER),'bytespider')>0 		THEN 'bytespider' 	WHEN INSTR(LOWER(CLS.BROWSER),'360spider')>0 		THEN 'so.360.cn' 	WHEN INSTR(LOWER(CLS.BROWSER),'compatible')>0 OR INSTR(LOWER(CLS.BROWSER),'http')>0 		OR INSTR(LOWER(CLS.BROWSER),'libwww')>0 OR INSTR(LOWER(CLS.BROWSER),'spider')>0 		OR INSTR(LOWER(CLS.BROWSER),'java')>0 OR INSTR(LOWER(CLS.BROWSER),'python')>0 		OR INSTR(LOWER(CLS.BROWSER),'robot')>0 OR INSTR(LOWER(CLS.BROWSER),'curl')>0 OR INSTR(LOWER(CLS.BROWSER),'wget')>0 		THEN 'other' 	ELSE 'n.a.' END AS AGENT_BOT, -- Bot 	STRFTIME('%s','now') AS UPDATE_DT FROM CLS LEFT OUTER JOIN DIM_USER_AGENT TRG ON CLS.BROWSER = TRG.USER_AGENT_NK WHERE TRG.DIM_USER_AGENT_ID IS NULL

Интеграция данных

Включает в себя организацию передачи данных из операционной системы в отчётную. Для этого необходимо создать стейдж таблицу со структурой, аналогичной источнику.

В стейдж информация о веб страницах попадает из бэкапа CMS в виде запросов вставки.

Загрузка исторической таблицы DIM_REQUEST базовыми данными происходит в три шага: загрузка новых ключей и атрибутов, обновление существующих и фиксирование удалённых записей.

Загрузка новых записей SCD2

/* Load request table SCD from master data */ INSERT INTO DIM_REQUEST (DIM_REQUEST_ID_HIST, REQUEST_NK, PAGE_TITLE, PAGE_DESCR, PAGE_KEYWORDS, DELETE_FLAG, UPDATE_DT) WITH CLS  AS ( -- prepare keys 	SELECT 	'/' || NAME AS REQUEST_NK, 	TITLE       AS PAGE_TITLE, 	CASE WHEN DESCRIPTION = '' OR DESCRIPTION IS NULL 	     THEN 'n.a.' ELSE DESCRIPTION 	END AS PAGE_DESCR, 	CASE WHEN KEYWORDS = '' OR KEYWORDS IS NULL 	     THEN 'n.a.' ELSE KEYWORDS 	END AS PAGE_KEYWORDS 	FROM STG_CMS_MENU 	WHERE CONTENT_TYPE != 'folder' -- only web pages 	  AND PAGE_TITLE != 'n.a.' -- master data which make sense ) /* new records from stage: CLS */ SELECT 	-1 AS DIM_REQUEST_ID_HIST, 	CLS.REQUEST_NK, 	CLS.PAGE_TITLE, 	CLS.PAGE_DESCR, 	CLS.PAGE_KEYWORDS, 	0 AS DELETE_FLAG, 	STRFTIME('%s','now') AS UPDATE_DT FROM CLS LEFT OUTER JOIN  ( 	SELECT 	DIM_REQUEST_ID, 	REQUEST_NK, 	PAGE_TITLE, 	PAGE_DESCR, 	PAGE_KEYWORDS 	FROM DIM_REQUEST_V_ACT ) TRG ON CLS.REQUEST_NK = TRG.REQUEST_NK WHERE TRG.REQUEST_NK IS NULL -- no such record in data mart

Обновление атрибутов SCD2

/* Load request table SCD from master data */ INSERT INTO DIM_REQUEST (DIM_REQUEST_ID_HIST, REQUEST_NK, PAGE_TITLE, PAGE_DESCR, PAGE_KEYWORDS, DELETE_FLAG, UPDATE_DT) WITH CLS  AS ( -- prepare keys 	SELECT 	'/' || NAME AS REQUEST_NK, 	TITLE       AS PAGE_TITLE, 	CASE WHEN DESCRIPTION = '' OR DESCRIPTION IS NULL 	     THEN 'n.a.' ELSE DESCRIPTION 	END AS PAGE_DESCR, 	CASE WHEN KEYWORDS = '' OR KEYWORDS IS NULL 	     THEN 'n.a.' ELSE KEYWORDS 	END AS PAGE_KEYWORDS 	FROM STG_CMS_MENU 	WHERE CONTENT_TYPE != 'folder' -- only web pages 	  AND PAGE_TITLE != 'n.a.' -- master data which make sense ) /* updated records from stage: CLS and build reference to history: HIST */ SELECT 	HIST.DIM_REQUEST_ID AS DIM_REQUEST_ID_HIST, 	HIST.REQUEST_NK, 	CLS.PAGE_TITLE, 	CLS.PAGE_DESCR, 	CLS.PAGE_KEYWORDS, 	0 AS DELETE_FLAG, 	STRFTIME('%s','now') AS UPDATE_DT FROM CLS,      DIM_REQUEST_V_ACT TRG,      DIM_REQUEST HIST WHERE CLS.REQUEST_NK = TRG.REQUEST_NK   AND TRG.DIM_REQUEST_ID = HIST.DIM_REQUEST_ID   AND ( CLS.PAGE_TITLE != HIST.PAGE_TITLE /* changes only */      OR CLS.PAGE_DESCR != HIST.PAGE_DESCR      OR CLS.PAGE_KEYWORDS != HIST.PAGE_KEYWORDS )

Удалённые записи SCD2

/* Load request table SCD from master data */ INSERT INTO DIM_REQUEST (DIM_REQUEST_ID_HIST, REQUEST_NK, PAGE_TITLE, PAGE_DESCR, PAGE_KEYWORDS, DELETE_FLAG, UPDATE_DT) WITH CLS  AS ( -- prepare keys 	SELECT 	'/' || NAME AS REQUEST_NK, 	TITLE       AS PAGE_TITLE 	FROM STG_CMS_MENU 	WHERE CONTENT_TYPE != 'folder' -- only web pages 	  AND PAGE_TITLE != 'n.a.' -- master data which make sense ) /*  deleted records in data mart: TRG */ SELECT 	TRG.DIM_REQUEST_ID AS DIM_REQUEST_ID_HIST, 	TRG.REQUEST_NK, 	TRG.PAGE_TITLE, 	TRG.PAGE_DESCR, 	TRG.PAGE_KEYWORDS, 	1 AS DELETE_FLAG, 	STRFTIME('%s','now') AS UPDATE_DT FROM ( 	SELECT 	DIM_REQUEST_ID, 	REQUEST_NK, 	PAGE_TITLE, 	PAGE_DESCR, 	PAGE_KEYWORDS 	FROM DIM_REQUEST_V_ACT 	WHERE PAGE_TITLE != 'n.a.' -- track master data only 	  AND DELETE_FLAG = 0 -- not already deleted ) TRG LEFT OUTER JOIN CLS ON TRG.REQUEST_NK = CLS.REQUEST_NK WHERE CLS.REQUEST_NK IS NULL -- no such record in stage

Каждый источник данных необходимо сопроводить формальным описанием, например, в файле readme.txt:

Получатель данных формально/технически: имя, электронный адрес
Поставщик данных формально/технически: имя, электронный адрес
Источник данных: путь к файлу, названия сервисов
Информация о доступе к данным: пользователи и пароли

Схема движения данных поможет в процессе сопровождения и обновления, например, в текстовом виде:

Перемещение файла. Источник: ftp.domain.net: /logs/access.log Цель: /var/www/access.log
Чтение в стейдж. Цель: STG_ACCESS_LOG
Загрузка и трансформация. Цель: FCT_ACCESS_REQUEST_REF_HH
Загрузка и трансформация. Цель: FCT_ACCESS_USER_AGENT_DD
Отчёт. Цель: /var/www/report.html

Вывод

Таким образом, статья описывает такие механизмы, как интеграция базовых данных и введение новых уровней агрегации. Они нужны при построении хранилищ данных с целью получения дополнительных знаний и улучшения качества информации.


ссылка на оригинал статьи https://habr.com/ru/post/463493/

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *