К содержимому
Все материалы

Что проверить в источнике перед сбором данных

Как проверить страницу перед настройкой сбора: уточнить адрес и нужные поля, сравнить ответ с ожиданиями и выбрать подходящий режим получения данных.

Редакция AkmeloО продукте и работе с данными
Окно страницы сайта и элементы проверки на светлом фонеИзображение недоступно

Страница открылась в браузере, значит, можно начинать сбор? Не совсем. Сначала стоит проверить, что источник действительно отдаёт нужные данные в тех условиях, в которых будет работать сценарий. Карточка может зависеть от региона, выбранного варианта товара или содержимого, которое появляется после загрузки.

Возьмите несколько знакомых карточек и запишите, какие значения ожидаете получить. С ними будет проще проверить настройки до обработки всего каталога.

Уточните, какую страницу проверяете

Начните с конкретного адреса: карточки, раздела каталога или страницы выдачи. Главная страница магазина не показывает, как устроены остальные страницы. Возьмите несколько разных примеров, особенно если товары относятся к разным категориям.

Запишите, что должно попасть в результат. Не «вся информация», а, например, артикул, название, текущая цена и ссылка. Если важны регион или размер, включите их в условия проверки.

Отдельно убедитесь, что у вас есть основания получать и использовать эти данные. Доступная в браузере страница сама по себе не определяет условия её дальнейшего использования. Учитывайте правила источника и допустимую нагрузку.

Посмотрите на полученный ответ

В Akmelo можно проверить отдельную страницу с сетевыми настройками источника. Это проверка содержимого, а не полный сбор каталога. Сопоставьте полученную страницу с тем, что видите при обычном открытии.

Код успешного ответа не гарантирует, что внутри есть товары. Источник может вернуть пустую выдачу, сообщение или другой экран. Найдите в содержимом хотя бы одну нужную карточку и её поля.

Если нужных значений нет в обычном ответе, но они появляются после выполнения JavaScript, проверьте страницу в браузерном режиме. Сравните содержимое двух ответов, прежде чем выбирать режим для сценария.

Проверьте границы задачи

Далее посмотрите, как перейти к следующей странице и как понять, что каталог закончился. Убедитесь, что сценарий не повторяет одну выдачу по кругу и не ограничивается первой страницей незаметно для вас.

Для первого теста достаточно небольшой выборки. Если в ней остался пропуск, найдите его причину до расширения списка товаров.

Если источник отвечает иначе, чем ожидалось, сохраните адрес и изучите причину до повторных запусков. Основные настройки описаны в документации по источникам. После этой проверки удобно перейти к первому сбору данных.