Senior GenAI / LLMOps Engineer

Nasz Klient to duża organizacja rozwijająca rozwiązania z obszaru sztucznej inteligencji oraz budująca standardy bezpiecznego i skalowalnego wykorzystania Generative AI (GenAI) w środowisku enterprise.
Projekt koncentruje się na budowie i rozwoju technicznych fundamentów umożliwiających bezpieczne, kontrolowane i efektywne kosztowo wykorzystywanie modeli Large Language Models (LLM) przez aplikacje, agentów AI oraz zespoły developerskie. Zakres obejmuje obszary GenAI, LLMOps, AI Governance, Cloud, DevOps i Data, w tym rozwój centralnej warstwy dostępowej do modeli, observability oraz mechanizmów bezpieczeństwa i kontroli kosztów.
Do współpracy poszukujemy osoby o silnym, hands-on profilu technicznym, posiadającej praktyczne doświadczenie w projektach GenAI / LLM i gotowej samodzielnie analizować, testować, konfigurować oraz wdrażać rozwiązania związane z infrastrukturą GenAI.

📍 Tryb Współpracy: 100% zdalnie

⏱️ Dostępność: Poszukujemy osób dostępnych od zaraz lub z maksymalnie 1-miesięczną dostępnością

🧑‍💻 CZYM BĘDZIESZ SIĘ ZAJMOWAĆ?

• Projektowaniem i rozwojem bezpiecznej warstwy dostępu do modeli LLM, w tym rozwiązań klasy LLM Gateway / API Gateway, umożliwiających centralne zarządzanie modelami różnych dostawców

• Rozwojem integracji API z modelami LLM, obejmujących mechanizmy uwierzytelniania, autoryzacji, routingu, limitowania dostępu oraz kontroli wykorzystania modeli

• Budowaniem mechanizmów observability dla środowiska GenAI, obejmujących centralne logowanie oraz monitoring wykorzystania modeli, aplikacji, tokenów, błędów i kosztów

• Testowaniem i oceną modeli LLM, sposobów ich hostowania oraz technologii GenAI pod kątem jakości, bezpieczeństwa, wydajności, możliwości integracyjnych i kosztów, również dla rozwiązań on-premise i private cloud

• Realizacją technicznych Proof of Concept (PoC) oraz analiz dotyczących nowych modeli, narzędzi i możliwości GenAI, a następnie wsparciem w doprowadzaniu wybranych rozwiązań do standardu produkcyjnego

• Współpracą z zespołami DevOps, Cloud, Security, Data i Architecture przy przekładaniu zasad AI Governance oraz bezpieczeństwa na konkretne rozwiązania technologiczne

🔍 CZEGO OD CIEBIE OCZEKUJEMY?

Must have:

• Praktyczne doświadczenie projektowe z Generative AI / LLM oraz udział w budowie rzeczywistych rozwiązań wykorzystujących modele językowe

• Bardzo dobra znajomość integracji z modelami LLM poprzez API oraz architektury rozwiązań GenAI wykorzystywanych w środowiskach enterprise

• Doświadczenie lub bardzo dobra znajomość obszaru LLMOps / GenAIOps, w tym zagadnień związanych z udostępnianiem, monitoringiem i zarządzaniem modelami

• Znajomość mechanizmów API Gateway, uwierzytelniania, zarządzania dostępem, routingu, logowania, monitoringu i observability

• Dobra znajomość ekosystemu modeli LLM, w tym rozwiązań OpenAI, Anthropic, Google oraz modeli open-source

• Znajomość SQL oraz doświadczenie w samodzielnej realizacji technicznych analiz, eksperymentów i Proof of Concept

Nice to have:

• Doświadczenie z rozwiązaniami LiteLLM, AI Gateway, model router lub proxy dla modeli LLM

• Doświadczenie z Azure OpenAI, Google Vertex AI, Anthropic lub hostowaniem modeli open-source / on-premise

• Znajomość Snowflake oraz doświadczenie z platformami danych lub hurtowniami danych

• Znajomość Kubernetes, konteneryzacji, CI/CD oraz środowisk chmurowych

• Doświadczenie z observability, FinOps lub optymalizacją kosztów usług AI/cloud

• Znajomość RAG (Retrieval-Augmented Generation), agentów AI i narzędzi developerskich wykorzystujących LLM

🤝 DLACZEGO WARTO?

• Projekt obejmujący budowę technicznych fundamentów środowiska GenAI, w tym LLM Gateway, integracje API, observability, security oraz optymalizację kosztów

• Możliwość budowania technicznych fundamentów środowiska GenAI – od LLM Gateway i integracji API po observability, security i optymalizację kosztów

• Hands-on charakter współpracy z przestrzenią na samodzielne eksperymenty, Proof of Concept oraz wdrażanie nowych rozwiązań technologicznych

• Projekt z dynamicznie rozwijającym się ekosystemem LLM / GenAI oraz modelami komercyjnymi i open-source

• Współpraca z doświadczonymi zespołami DevOps, Cloud, Security, Data i Architecture

• 100% zdalny model współpracy

📍 Dziękujemy za wszystkie zgłoszenia! Skontaktujemy się z wybranymi osobami.

TQLO Sp. z o.o. – Agencja Zatrudnienia (nr KRAZ 33580)