LLM Systems Engineer

Vedi l’offerta su Go Lavoro: golavoro.it/annuncio-lavoro/7ihnjv

Stiamo sviluppando una piattaforma di Intelligenza Artificiale generativa basata su modelli LLM open-weight eseguiti su infrastruttura proprietaria.
Cerchiamo un LLM Systems Engineer che progetti e realizzi l’infrastruttura AI alla base della piattaforma.
Responsabilità
- Deploy e gestione di modelli LLM open-weight
- Progettazione dell’architettura di inferenza
- Sviluppo dell’infrastruttura di serving ad alte prestazioni
- Implementazione di sistemi di memoria e orchestrazione
- Ottimizzazione di latenza, throughput e utilizzo delle GPU
- Sviluppo di pipeline di valutazione e monitoraggio

Requisiti Esperienza concreta con la maggior parte delle seguenti tecnologie:
- Python
- FastAPI
- Docker
- Kubernetes
- PostgreSQL
- Redis
- vLLM,



SGLang o TensorRT-LLM
- llama.cpp
- Hugging Face Transformers
- CUDA
- Quantizzazione e ottimizzazione dell’inferenza su GPU

È richiesta esperienza nella messa in produzione di sistemi basati su LLM.
Costituiscono titolo preferenziale
- Inferenza multi-GPU
- Architetture ad agenti
- Sistemi di memoria persistente
- Contributi a progetti open source

Candidatura Inviare:
- CV
- Profilo GitHub
- Profilo LinkedIn
- Eventuali contributi open source rilevanti

Sede: remoto (full remote)

Vedi l’offerta su Go Lavoro: golavoro.it/annuncio-lavoro/7ihnjv