Azure Local: la potenza delle GPU in casa

Intelligenza Artificiale, Machine Learning fanno ormai parte della nostra quotidianità, ma se da una parte un utente ha a disposizione delle semplici interfacce, dall’altra, sotto al cofano, vi è necessità di infrastrutture estremamente performanti.
Spostandoci, poi, in contesti aziendali vi è un’altra tecnologia che sta prendendo sempre più piede: la Desktop Virtualization.

In alcune situazioni si può ricorrere all’utilizzo di soluzioni Cloud, ma non sempre è la scelta migliore. Dove c’è necessità di controllo sui dati, prestazioni di un certo tipo e basse latenze, si devono trovare delle alternative adeguate.

Microsoft ci viene in soccorso con Azure Local, una estensione dei servizi cloud all’interno dei propri Data Center (on-premises).
Di fatto parliamo di una soluzione HCI basata su Hyper-V che permette di sfruttare la potenza di GPU di fascia Enterprise per utilizzi di IA e VDI (Virtual Desktop Infrastructure).

Riassumendo, non tutte le realtà vogliono o possono spostare dati e carichi di lavoro in Public Cloud per ragioni quali, ad esempio:

  • Necessità di performance elevate
  • Latenza ultra-bassa
  • Requisiti stringenti di sicurezza e compliance
  • Vincoli architetturali che impongono l’operatività locale

In questi casi, serve un’infrastruttura capace di offrire la flessibilità del cloud… ma in casa.

Funzionamento delle GPU in Azure Local

Azure Local supporta due modalità operative:

  • GPU-P (GPU Partitioning)
  • DDA (Discrete Device Assignment)

Nel prima caso viene assegnata fisicamente una GPU a una singola VM. La soluzione è adatta per operazioni di Rendering o Deep Learning.
Nel caso del Partitioning la GPU viene divisa in più porzioni, ciascuna assegnata a una VM. Ideale per scenari VDI.

Attualmente le GPU supportate sono:

  • NVIDIA A2 e A16DDA e GPU‑P
  • NVIDIA A10, A40, L4, L40, L40SGPU‑P

Tramite i driver NVIDIA vi è supporto per CUDA, OpenGL, DirectX.

AI con Azure Local

Tramite le due tecnologie Azure Machine Learning con Azure Arc e Edge RAG (Edge Retrieval Augmented Generation), i sistemi di Intelligenza Artificiale possono “vivere” all’interno di ambienti on-premises:

  • Azure Machine Learning con Azure Arc: gestione dell ciclo di vita dei modelli AI (addestramento, deployment, ecc.) con gli stessi strumenti, ovunque si trovino (cloud, on-prem).
  • Edge RAG: ideale per ambienti come PA, sanità o, in generale, regolamentati. I modelli generativi possono accedere ai dati direttamente da storage locali, senza trasferirli nel cloud.

VDI con Azure Local

Non è una novità che Azure Virtual Desktop possa funzionare localmente, con performance impressionanti e con caratteristiche che possono essere così riassunte:

  • Dati locali (compliance, sicurezza)
  • Ingrazione completa con Entra ID e Active Directory
  • Supporto a Windows 10/11 multi-session
  • Latenza minima, perfetta per utenti in sede o con connessioni limitate
  • Provisioning direttamente da Azure Portal

Per concludere…

Se lavori in ambienti con problemi di connettivitàvincoli di sicurezza, hai bisogno di performance real-time e desideri una esperienza unificata tra cloud e on-prem allora Azure Local è la risposta.