15 ott - Milano
GIELLE INFORMATICA
Gielle Informatica Srl, società di consulenza informatica da oltre 40 anni, che vanta una lunga esperienza nella ricerca e nella selezione di personale ICT, ricerca per proprio cliente un/una AI Infrastructure Engineer Full remote La risorsa sarà responsabile dell’ installazione, configurazione e gestione dell’infrastruttura Azure e on-premises per l’esecuzione di modelli Mistral e altri LLM, occupandosi di GPU server, Linux, Docker, Kubernetes, networking, security, Azure AI Foundry, model serving, vector database, monitoring, backup e automazione tramite Infrastructure as Code. Competenze richieste * Infrastructure Administration * Azure Infrastructure: subscriptions, resource groups, networking, subnets, NSGs, private endpoints, managed identities, RBAC e Azure Monitor; * Azure AI Foundry: configurazione di environments, endpoints, model connections, accessi, logging e monitoring; * GPU machines: selezione e configurazione di VM/server, gestione VRAM, NVIDIA drivers, CUDA, cuDNN e utilizzo GPU; * Linux: amministrazione avanzata, networking, storage, processi, permissions,
systemd, troubleshooting e hardening; * Docker: creazione e gestione di container per modelli, API, vector database e monitoring tools; * Kubernetes: preferibilmente AKS e Kubernetes on-premises; deployment, Helm, ingress, secrets, autoscaling, persistent volumes e GPU scheduling; * Serving LLMs: installazione e gestione di strumenti quali vLLM, Hugging Face TGI, Ollama o framework equivalenti; * Mistral on-premises: download e gestione dei modelli, quantisation, inference configuration, updates, rollbacks e resource management; * Vector storage e database: Azure AI Search, pgvector, Qdrant, Milvus o tecnologie simili; * Infrastructure as Code: Terraform, Bicep o Ansible; * CI/CD: Azure DevOps per il deployment di infrastruttura, repository e configurazioni; * Monitoring e logging: metriche GPU e CPU, memory, latency, throughput, errors, queues, token usage e service availability; * Backup e Dis
15 ott - Casier
Michael Page
15 ott - Milano
QuiCare
15 ott - Roma
Lvmh Group
15 ott - Chieti
VINCI Energies Italia