AI Infrastructure Engineer / MLOps (k/m)
SoftBlue S.A.
SoftBlue (INTechHouse) to wyjątkowe miejsce, które tworzą osoby pełne pasji i chęci do działania. Posiadamy własne Centrum Badawczo-Rozwojowe i unikatowy zespół specjalistów z różnych dziedzin. Mamy silny zestaw wartości, który kształtuje nasze podejście do codziennych zadań oraz do wyboru projektów, które realizujemy. Specjalizujemy się w projektowaniu i rozwoju rozwiązań z zakresu elektroniki i software.
Twój zakres obowiązków:Twoim głównym celem będzie kompleksowe projektowanie i wdrażanie infrastruktury dla modeli sztucznej inteligencji (w tym LLM) na serwerach fizycznych u naszych klientów. Czeka Cię praca blisko "metalu" oraz najnowszych technologii GenAI.
Projektowanie architektury rozwiązań on-premise dla systemów AI/LLM oraz tworzenie dokumentacji technicznej.
Przygotowywanie środowiska od podstaw: instalacja i konfiguracja OS (Linux) , sterowników GPU (Nvidia/CUDA) , środowisk kontenerowych oraz narzędzi MLOps na dedykowanych serwerach fizycznych.
Uruchamianie i optymalizacja lokalnych środowisk do inferencji (serwowania) modeli językowych oraz ich douczania (fine-tuning).
Budowa pipeline'ów danych zasilających modele oraz ich integracja z bazami danych klientów.
Wdrażanie modeli na produkcję, stabilizacja środowiska, testy wydajnościowe oraz walidacja jakości.
Ścisła współpraca z zespołem Data Science przy procesach trenowania i dostrajania modeli na danych klienta.
Solidnego doświadczenia na stanowisku DevOps, MLOps, SysAdmin lub podobnym, ze szczególnym uwzględnieniem środowisk on-premise / bare-metal.
Biegłej znajomości systemów z rodziny Linux oraz zarządzania sieciami.
Praktycznego doświadczenia z ekosystemem GPU: instalacja i konfiguracja sterowników Nvidia, CUDA, cuDNN.
Doświadczenia z konteneryzacją i orkiestracją (Docker, Docker Compose, mile widziany Kubernetes).
Znajomości zagadnień z obszaru MLOps i narzędzi do zarządzania cyklem życia modeli (np. MLflow, DVC, Kubeflow).
Znajomości architektury i narzędzi związanych z LLM (np. vLLM, Ollama, Hugging Face Text Generation Inference, LangChain).
Zdolności analitycznych i architektonicznych oraz umiejętności tworzenia dokumentacji.
Mile widziane:
Umiejętność pisania skryptów w Pythonie oraz zrozumienie procesu fine-tuningu modeli językowych (np. LoRA, QLoRA).
Znajomość narzędzi do automatyzacji infrastruktury (Ansible, Terraform).
Doświadczenie w pracy z bazami wektorowymi (np. Milvus, Qdrant, Pinecone).
Pionierskie projekty: Wdrażanie prywatnych LLM-ów na fizycznym sprzęcie.
Duża autonomia: Masz realny wpływ na architekturę infrastruktury i wybór narzędzi MLOps.
- Forma współpracy dopasowana do swoich preferencji: umowę o pracę lub B2B.
Sprzęt: Dostęp do potężnych maszyn obliczeniowych.
- Benefity pozapłacowe, m.in. karta Multisport , pakiet medyczny Luxmed/PZU, ubezpieczenie grupowe oraz program poleceń pracowniczych,
- Elastyczność: elastyczne godziny pracy, praca zdalna.
Brzmi ciekawie? Aplikuj!
- customer engineer Bydgoszcz
- inżynier przygotowania i realizacji inwestycji Bydgoszcz
- inżynieria programów Bydgoszcz
- inżynier zakładu Bydgoszcz
- senior consulting engineer data center compute Bydgoszcz
- inżynier poligrafia Bydgoszcz
- inżynier ds. wsparcia produktu Bydgoszcz
- internship engineer Bydgoszcz
- inżynier systemu Bydgoszcz
- inżynier motoryzacji Bydgoszcz