Добавить новость
ru24.net
Работа
Ноябрь
2024

Настроить парсеры на Python (Apache Kafka + ClickHouse)

0
Есть несколько парсеров на Python.
3 самописных и 3 с rapidapi.com (по сути тоже готовые).

Нужно их доработать, а именно настроить запись в Apache Kafka, а из кафки разбор в ClickHouse.

Возможно, потребуются небольшие доработки по парсерам. Но в целом они простые - просто получаем гет запросами данные с веба и записываем куда нужно.

От исполнителя ожидаем:
1. Понимание и опыт работы с Apache Kafka и ClickHouse
2. Знания по настройке этих систем
3. Хорошие знания в Python
4. Свободное время для выполнения заказа

Подробное ТЗ по каждому парсеру пришлю исполнителю.

Потом нужно будет написать на FastApi API для работы с фронтом.
Если сработаемся и будет желание, отдам этот проект вам.



Moscow.media
Частные объявления сегодня





Rss.plus




Спорт в России и мире

Новости спорта


Новости тенниса
ATP

Рублёв обыграл де Минора на тай-брейке и вышел в полуфинал турнира ATP в Дохе






Горожанам рассказали, как изменились маршруты наземного транспорта в Троицке и Куркине

Пассажир скончался в аэропорту Манчестера. Перед этим его задержали за странное поведение

Захарова усомнилась в способности Германии влиять на США

Вспышку нового заболевания зафиксировали в Бурятии и на Алтае