Все методы API
Примеры ниже сохраняют v1. Те же внешние методы доступны в /api/v2
с UUID по умолчанию; форматы и переход.
Выберите метод: у каждого есть назначение, параметры, пример запроса, ответ и готовый код для curl, серверного Node.js, Go, PHP и Python. Перед началом создайте API-ключ и прочитайте разницу между браузером и сервером.
Агенты
- Список агентов ·
GET /api/v1/agents. Возвращает состояние агентов текущего пространства. Метод ничего не разворачивает и не выдаёт секреты. - Состояние агента ·
GET /api/v1/agents/{agent}. Показывает карточку существующего агента, доступность, версию и время последнего контакта.
Баланс
- Баланс и лимиты ·
GET /api/v1/billing. Возвращает тариф, бюджеты, занятые ресурсы и срок периода текущего пространства. Метод не пополняет баланс.
Сайты и данные
- Посмотреть источник до создания ·
POST /api/v1/sites/preview. Получает предварительную информацию по URL. Выполняет реальный запрос к источнику. - Список сайтов ·
GET /api/v1/sites. Возвращает только сайты, доступные владельцу ключа в его пространстве. - Создать сайт ·
POST /api/v1/sites. Создаёт источник сбора. Не запускает парсинг автоматически. - Карточка сайта ·
GET /api/v1/sites/{site}. Показывает настройки источника и объявленные поля результата. - Изменить сайт ·
PATCH /api/v1/sites/{site}. Меняет только переданные настройки сайта. Сохранённые записи не пересобираются автоматически. - Удалить сайт ·
DELETE /api/v1/sites/{site}. Удаляет источник. Перед вызовом сохраните нужные результаты и проверьте связанные ресурсы. - Проверить страницу сайта ·
POST /api/v1/sites/{site}/fetch. Загружает одну страницу доступного сайта с его сетевыми настройками. Это проверка страницы, не полный прогон. - Получить снимок страницы ·
GET /api/v1/sites/{site}/artifacts/{uuid}. Возвращает содержимое снимка или изображения по UUID. Проверяет принадлежность артефакта сайту. - Схема полей сайта ·
GET /api/v1/sites/{site}/fields. Показывает поля результата и справочники допустимых типов и преобразований. - Заменить схему полей ·
PUT /api/v1/sites/{site}/fields. Сохраняет полный список полей. Всё, чего нет в items, удаляется из схемы. - Проверить преобразование значения ·
POST /api/v1/sites/{site}/fields/preview. Применяет к одному значению цепочку преобразований без изменения записей сайта. - Записи сайта ·
GET /api/v1/sites/{site}/records. Возвращает сохранённые записи с курсорной пагинацией. - Запись и история изменений ·
GET /api/v1/sites/{site}/records/{key}. Находит запись по её стабильному ключу и возвращает историю изменений.
Сценарии
- Список сценариев ·
GET /api/v1/scripts. Возвращает сценарии доступных сайтов. - Создать сценарий ·
POST /api/v1/scripts. Создаёт карточку сценария. Исходный код сохраняется отдельной версией. - Карточка сценария ·
GET /api/v1/scripts/{script}. Показывает сценарий, опубликованную версию и историю версий. - Изменить карточку сценария ·
PATCH /api/v1/scripts/{script}. Меняет название, описание и разрешённые параметры карточки. Для изменения исходника создайте новую версию. - Удалить сценарий ·
DELETE /api/v1/scripts/{script}. Удаляет сценарий в рамках разрешений владельца ключа. - Проверить исходный код ·
POST /api/v1/scripts/{script}/validate. Проверяет синтаксис, функции и ограничения песочницы, не создавая новую версию. - Версии сценария ·
GET /api/v1/scripts/{script}/versions. Возвращает сохранённые версии и результаты их проверки. - Сохранить новую версию ·
POST /api/v1/scripts/{script}/versions. Сохраняет исходник как черновик и возвращает отчёт проверки. - История публикаций ·
GET /api/v1/scripts/{script}/publications. Показывает кто, когда и почему переключал рабочую версию. - Опубликовать версию ·
POST /api/v1/scripts/{script}/publish. Делает проверенную версию рабочей для последующих запусков. - Вернуться к прежней версии ·
POST /api/v1/scripts/{script}/rollback. Переключает публикацию на выбранную версию этого сценария. - Снять сценарий с публикации ·
POST /api/v1/scripts/{script}/unpublish. Убирает рабочую версию из автоматического выбора, сохраняя код и историю.
SDK
- Каталог SDK ·
GET /api/v1/sandbox/sdk. Возвращает доступные классы, методы и функции среды PHP для редактора и интеграции.
Версии сценариев
- Исходник версии ·
GET /api/v1/script-versions/{version}. Возвращает сохранённый код версии, результат валидации и готовность к публикации. - Сравнить две версии ·
GET /api/v1/script-versions/{version}/diff. Показывает различия двух версий одного сценария. Без against сравнивает с опубликованной. - Создать черновик из версии ·
POST /api/v1/script-versions/{version}/branch. Создаёт новую версию на основе старого исходника, чтобы продолжить его редактирование. - Запустить пробный прогон ·
POST /api/v1/script-versions/{version}/trial-run. Ставит проверку версии в очередь. Пробный запуск не записывает товары в боевой каталог.
Прогоны
- Список прогонов ·
GET /api/v1/runs. Показывает запуски доступных сайтов и их состояния. - Запустить сбор ·
POST /api/v1/runs. Ставит обычный прогон в очередь. Ответ не содержит готовый результат. - Состояние прогона ·
GET /api/v1/runs/{run}. Возвращает текущий статус, счётчики, стадии, длительности и пользовательский прогресс. - Остановить прогон ·
POST /api/v1/runs/{run}/cancel. Запрашивает остановку. Воркер завершит работу в ближайшей безопасной точке. - Возобновить прогон ·
POST /api/v1/runs/{run}/resume. Создаёт продолжение завершённого прогона с сохранённым состоянием, если это поддерживается его состоянием. - Повторить по снимкам ·
POST /api/v1/runs/{run}/replay. Ставит пробный повтор по сохранённым HTTP-ответам без повторного чтения источника. - Отчёт повтора ·
GET /api/v1/runs/{run}/replay-report. Сравнивает результат повтора с исходными данными. - Журнал прогона ·
GET /api/v1/runs/{run}/log. Возвращает новые сообщения после указанного ID. - Журнал HTTP-запросов ·
GET /api/v1/runs/{run}/http-log. Показывает адреса, HTTP-статусы, длительность, кэш и UUID снимков страниц. - Ошибки записей ·
GET /api/v1/runs/{run}/item-errors. Возвращает причины отклонения отдельных значений и записей. - Результат пробного запуска ·
GET /api/v1/runs/{run}/preview. Возвращает пробные записи и результаты проверки полей.
Качество
- Справочник качества ·
GET /api/v1/quality/vocabulary. Возвращает допустимые виды правил, действия и уровни проблем. - Проблемы качества ·
GET /api/v1/quality/findings. Показывает находки по доступным прогонам. - Правила качества ·
GET /api/v1/quality/rules. Возвращает правила доступных сайтов и общие правила платформы. - Создать правило качества ·
POST /api/v1/quality/rules. Создаёт проверку результата конкретного сайта. - Изменить правило качества ·
PATCH /api/v1/quality/rules/{rule}. Меняет пороги и действие правила доступного сайта. - Удалить правило качества ·
DELETE /api/v1/quality/rules/{rule}. Удаляет правило своего сайта. Общие правила защищены от изменения внешним ключом.
Расписания
- Рассчитать ближайшие запуски ·
POST /api/v1/schedules/preview. Проверяет время и возвращает ближайшие срабатывания без сохранения расписания. - Список расписаний ·
GET /api/v1/schedules. Показывает расписания доступных сайтов. - Создать расписание ·
POST /api/v1/schedules. Настраивает регулярный запуск опубликованного сценария. - Карточка расписания ·
GET /api/v1/schedules/{schedule}. Возвращает правило времени, паузу, ближайший запуск и связь со сценарием. - Изменить расписание ·
PATCH /api/v1/schedules/{schedule}. Обновляет только переданные параметры и пересчитывает ближайший запуск. - Удалить расписание ·
DELETE /api/v1/schedules/{schedule}. Прекращает будущие запуски по этому расписанию. Для временной остановки удобнее pause. - Приостановить расписание ·
POST /api/v1/schedules/{schedule}/pause. Отключает расписание бессрочно либо приостанавливает до указанного момента. - Включить расписание ·
POST /api/v1/schedules/{schedule}/resume. Снимает паузу, включает расписание и пересчитывает время от текущего момента. - Запустить расписание сейчас ·
POST /api/v1/schedules/{schedule}/run-now. Ставит внеочередной прогон по сценарию и параметрам расписания. - История расписания ·
GET /api/v1/schedules/{schedule}/events. Показывает решения планировщика: запуск, пропуск и причины отказа.
Выгрузки
- Модули выгрузки ·
GET /api/v1/exports/modules. Возвращает каталог форматов и интеграций с признаком готовности. - Предложить поля выгрузки ·
GET /api/v1/exports/{export}/suggest-schema. Строит начальную схему для выбранного модуля по полям источника. - Список выгрузок ·
GET /api/v1/exports. Показывает профили выгрузки доступных сайтов. - Создать выгрузку ·
POST /api/v1/exports. Создаёт профиль формата и полей; файл готовится отдельной командой. - Карточка выгрузки ·
GET /api/v1/exports/{export}. Возвращает схему полей, формат, режим обработки, доставки и справочники параметров. - Изменить выгрузку ·
PATCH /api/v1/exports/{export}. Сохраняет переданные параметры профиля и проверяет схему. - Удалить выгрузку ·
DELETE /api/v1/exports/{export}. Удаляет профиль выгрузки. Перед вызовом отключите потребителей его endpoint. - Посмотреть пример результата ·
GET /api/v1/exports/{export}/preview. Формирует небольшую выборку в формате выгрузки, включая обработку кодом. - Настроить преобразование кодом ·
PUT /api/v1/exports/{export}/transformation. Переключает обычное сопоставление или сохраняет код обработки записей/набора. - Подготовить файл ·
POST /api/v1/exports/{export}/run. Создаёт файл из сохранённых записей. Не запускает новый сбор сайта. - История подготовки файлов ·
GET /api/v1/exports/{export}/runs. Возвращает последние подготовки выгрузки и ссылки на файлы. - Доставки выгрузки ·
GET /api/v1/exports/{export}/deliveries. Возвращает настроенные способы отправки результата. - Создать доставку ·
POST /api/v1/exports/{export}/deliveries. Настраивает автоматическую или ручную передачу результата. - Скачать файл выгрузки ·
GET /api/v1/exports/files/{uuid}. Возвращает подготовленный файл по UUID с проверкой доступа к его выгрузке.
Доставки
- Изменить доставку ·
PATCH /api/v1/deliveries/{delivery}. Меняет получателя, режим записи, запуск по времени и другие переданные поля. - Удалить доставку ·
DELETE /api/v1/deliveries/{delivery}. Удаляет правило отправки результата. - Запустить доставку ·
POST /api/v1/deliveries/{delivery}/run. Ставит отправку в очередь по сохранённому правилу. - Сбросить курсор доставки ·
POST /api/v1/deliveries/{delivery}/reset-cursor. Сбрасывает отметку отправленных изменений. Следующая доставка может повторить весь набор.
Подключения
- Список подключений ·
GET /api/v1/connections. Возвращает подключения активного пространства без открытых паролей. - Создать подключение ·
POST /api/v1/connections. Сохраняет параметры БД или S3 с шифрованием секрета. - Проверить параметры до сохранения ·
POST /api/v1/connections/probe. Проверяет указанный сервер без создания подключения. - Изменить подключение ·
PATCH /api/v1/connections/{connection}. Обновляет параметры доступного подключения. - Удалить подключение ·
DELETE /api/v1/connections/{connection}. Удаляет неиспользуемое подключение. - Проверить подключение ·
POST /api/v1/connections/{connection}/test. Обращается к сохранённому серверу и проверяет соединение. - Список объектов S3 ·
GET /api/v1/connections/{connection}/storage/objects. Показывает файлы и папки внутри разрешённого префикса хранилища. - Скачать объект S3 ·
GET /api/v1/connections/{connection}/storage/download. Читает файл из доступного подключения и возвращает его байты. - Найти объекты S3 ·
GET /api/v1/connections/{connection}/storage/search. Ищет файлы по ключу в индексе платформы. - Предпросмотр структуры БД ·
GET /api/v1/connections/{connection}/structure/{export}. Показывает SQL-команды и текущее состояние таблицы для выбранной выгрузки. - Применить структуру БД ·
POST /api/v1/connections/{connection}/structure/{export}. Создаёт необходимую структуру в базе получателя. Это изменение внешней БД.
Пулы прокси
- Список пулов прокси ·
GET /api/v1/proxy-pools. Показывает пулы текущего пространства и сводку состояния адресов. - Создать пул прокси ·
POST /api/v1/proxy-pools. Создаёт группу адресов для назначения сайтам. - Изменить пул ·
PATCH /api/v1/proxy-pools/{pool}. Меняет название, ротацию и активность пула. - Удалить пул ·
DELETE /api/v1/proxy-pools/{pool}. Удаляет пул прокси. Проверьте привязки сайтов перед удалением. - Проверить адреса пула ·
POST /api/v1/proxy-pools/{pool}/check. Выполняет сетевую проверку всех прокси в пуле. - Снять баны пула ·
POST /api/v1/proxy-pools/{pool}/unban. Обнуляет временные запреты использования адресов пула.
Прокси
- Список прокси ·
GET /api/v1/proxies. Возвращает адреса только из пулов текущего пространства. - Добавить прокси ·
POST /api/v1/proxies. Сохраняет адрес и необязательные учётные данные в своём пуле. - Импортировать список прокси ·
POST /api/v1/proxies/import. Добавляет несколько адресов, сообщает о дублях и некорректных строках. - Изменить прокси ·
PATCH /api/v1/proxies/{proxy}. Обновляет переданные поля адреса. Перенос разрешён только в свой пул. - Удалить прокси ·
DELETE /api/v1/proxies/{proxy}. Удаляет адрес из пула. - Проверить прокси ·
POST /api/v1/proxies/{proxy}/check. Выполняет сетевую проверку одного адреса. - Снять временный бан прокси ·
POST /api/v1/proxies/{proxy}/unban. Снимает запрет и сбрасывает серию ошибок.