Цель: Существенно повысить скорость парсинга и минимизировать задержки (low latency) путем создания кастомных плагинов и оптимизации инфраструктуры для достижения максимально быстрого сбора данных.

Основные задачи:

  1. Модификация A-parser: Оптимизировать конфигурацию и при необходимости внутреннюю логику A-parser для работы с минимальными задержками.

  2. Разработка плагинов (JS/TS): Создать необходимые плагины для A-parser, которые будут способствовать ускорению парсинга.

  3. Оптимизация инфраструктуры:

    • Помочь определить стратегию выбора ближайшего сервера к целевым эндпоинтам.

    • Подобрать и настроить прокси-решения для эффективной многопоточности (рассмотреть варианты с поддержкой UDP).

  4. Адаптация логики: Использовать предоставленную Python-базу кода как референс для реализации аналогичной логики на JS/TS в рамках плагинов/модификаций A-parser.

    Требования к кандидату:

  • Глубокие знания JavaScript (JS) / TypeScript (TS).

  • Подтвержденный опыт работы с A-parser (или очень похожими инструментами для веб-скрейпинга/парсинга).

  • Опыт разработки плагинов/расширений для парсеров или подобных систем.

  • Понимание принципов сетевых задержек (latency), оптимизации скорости парсинга.

  • Опыт настройки прокси для многопоточных задач (включая понимание HTTPS/SOCKS и желательно прокси с поддержкой UDP).

  • Опыт работы с асинхронным программированием.

Идеально (будет решающим плюсом):

  • Наличие конкретного, успешного опыта модификации именно A-parser для достижения low-latency парсинга.

Мы предоставляем:

  • Доступ к текущей настройке A-parser.

  • Готовую базу на Python как пример необходимой логики.

В вашей заявке:

Пожалуйста, подробно опишите ваш соответствующий опыт, особенно в отношении:

  • Модификации A-parser или его аналогов.

  • Проектов, связанных с низкой задержкой (low latency).

  • Настройке сложных прокси-конфигураций (особенно UDP).

  • Разработки плагинов для парсеров.


Переведено с помощью DeepL.com (бесплатная версия)

2 месяца назад
mrradyk
Радик 
35 лет
2 года в сервисе
Был
месяц назад

Заявки фрилансеров

Давид
 
24 года
2 месяца в сервисе
Был
12 дней назад
1 отзыв(-1)
месяц назад
Джавид
 
25 лет
7 месяцев в сервисе
Был
2 дня назад
4 отзыва
2 месяца назад
Лучший веб-программист мая
Евгений
 
28 лет
2 года в сервисе
Был
2 дня назад
1 отзыв
2 месяца назад