logo Algoteque

Inżynier Big Data (Java/Spark/Python)

Algoteque • Warsaw (Poland) • Full Remote

Apply

About us

ALGOTEQUE to firma doradcza IT, która wspiera startupy, średnie i duże przedsiębiorstwa w tworzeniu i wdrażaniu innowacyjnych technologii. Nasz zespół ma udokumentowane sukcesy w projektowaniu, rozwijaniu, wdrażaniu i integracji rozwiązań programistycznych (AI, ML, BI, Web, Automatyzacja) dla branż takich jak telekomunikacja, energetyka, bankowość, ubezpieczenia, farmacja, motoryzacja, przemysł oraz e-commerce. Świadczymy nasze usługi zarówno w modelu fixed-price, jak i time-and-materials, pomagając naszym klientom w osiąganiu ich celów biznesowych i strategii IT.

Job Description

Opis projektu Budujemy nowoczesną platformę Big Data w oparciu o otwarte i nielicencjonowane technologie open-source, takie jak Apache Hadoop, Spark, Hive, Ranger oraz Airflow. W skład zespołu wchodzą doświadczeni inżynierowie danych, specjaliści DevOps oraz programiści, wspierani przez dwóch doświadczonych architektów rozwiązań. Twoim zadaniem będzie ścisła współpraca z całym zespołem: wspieranie procesu migracji, testowanie nowych komponentów oraz dokumentowanie wdrożonych rozwiązań. Zakres obowiązków - Współpraca z architektami, inżynierami danych i DevOps przy budowie i utrzymaniu platformy Big Data. - Tworzenie i optymalizacja zadań Apache Spark w języku Java oraz ich orkiestracja w Apache Airflow. - Pisanie skryptów migracyjnych i automatyzujących procesy w Pythonie. - Kompilacja i rozwój modułów Hadoop/Spark bezpośrednio ze źródeł. - Tworzenie dokumentacji technicznej i dzielenie się wiedzą w zespole.

Required qualifications

Wymagania - Minimum 3 lata doświadczenia w projektach Big Data. - Bardzo dobra znajomość Java, w tym kompilacja ze źródeł przy użyciu Maven/Gradle. - Biegłość w Pythonie 3.x – automatyzacja, skrypty migracyjne. - Praktyczne doświadczenie z Apache Spark oraz Apache Airflow. - Swoboda pracy w środowisku Linux, znajomość pip, virtualenv. - Znajomość narzędzi: Git, IntelliJ/VSCode/PyCharm, Jira, Confluence. - Umiejętność czytania dokumentacji technicznej w języku angielskim. Mile widziane - Doświadczenie z CI/CD, szczególnie z Ansible. - Znajomość narzędzi konteneryzacyjnych, np. Docker/Podman.

Job details

Company

Algoteque

Contract

Full-time

Job location

Full Remote • Warsaw (Poland)

Reference

2236690

Share

Twitter facebook linkedin
Inżynier Big Data (Java/Spark/Python)

Interested in this job ?
Apply

Are you legally authorized to work in Poland?

Yes No
💬 Personalize your message to the recruiter, Click here !


By clicking on Apply, I accept that the information entered will be used as part of the management of applications. In accordance with the law "Informatique et Libertés", you can exercise your right of access to the data concerning you and have them rectified by contacting us : jobposting.pro/contact
Learn more about our data protection policy.