Я.Расписания: Решение для информационного сервиса / Парсинг, ZennoPoster, API
Разработано автоматизированное решение по сбору информации о расписании рейсов любого вида транспорта с сайта Яндекс.Расписания, в том числе стоимость и возможность покупки билетов онлайн.
Парсер получает полные данные (отправление/прибытие, стоимость, стыковки, время в пути, старт/финиш) по нужным направлениям перелетов, автобусных и ж/д маршрутов. Дальше данные передаются в API сервиса стыковок и используются там для просчета маршрутов, стыковок и цен.
В случае ошибки, парсер снимает скриншот и отправляет всю информацию об ошибке в систему обработки ошибок сервиса.
Парсер полностью эмулирует работу реального пользователя, что дает возможность получать результаты, которые недоступны другим парсерам, а также затрудняют задачу по идентификации парсера, поскольку он не отличим от работы реального человека.
Дополнительно возможна работа парсера через прокси-сервера с проверкой прозрачности.
При этом, данное решение не нарушает правил пользования сайтом, поскольку служит исключительно для проверки наличия услуг, необходимых для поездки пользователя.
Система масштабируется на неограниченное число серверов или виртуальных машин. Число параллельных потоков ограничивается только ресурсом системы, на которой запущен парсер.
Подробнее о разработке системы стыковки авиа- и наземного транспорта в моем портфолио: https://www.fl.ru/users/Boris_Kolupaev/portfolio/6269972/agru-unikalnaya-sistema-poiska-i-pokupki-biletov/