Come l'ultima versione di Kubernetes ora gestisce i carichi di lavoro dell'intelligenza artificiale e altro ancora

Oltre ad affrontare i problemi del software container con i lavori di intelligenza artificiale e ML, Kubernetes 1.31 offre numerosi miglioramenti chiave della sicurezza.

Kubernetes, il sistema di orchestrazione della gestione dei contenitori, si è rivelato vitale per l'informatica moderna, ad eccezione di un'area: l'intelligenza artificiale (AI) e l'apprendimento automatico (ML). Il problema: AI/ML richiede notevoli risorse di CPU, memoria e GPU, che non sono facili da gestire su Kubernetes.

Ora, con l'ultima versione di Kubernetes, Kubernetes 1.31, Elli, - la Cloud Native Computing Foundation (CNCF) sta affrontando questi problemi.

Le funzionalità AI migliorate di Elli iniziano con il supporto alpha per immagini e artefatti Open Container Initiative (OCI) come origine di volume nativa. Potrebbe non sembrare molto, ma consente agli sviluppatori di cambiare modelli di linguaggio di grandi dimensioni (LLM) con la stessa facilità con cui fanno le normali immagini di contenitori.

Elli apporta inoltre a Kubernetes un'API e un design aggiornati per l'allocazione dinamica delle risorse. Questa funzionalità aiuterà a standardizzare l’accesso e la gestione degli acceleratori hardware, come le GPU, che sono essenziali per AI e ML. Semplifica inoltre l'implementazione di funzionalità come la scalabilità automatica del cluster, che, a sua volta, renderà più semplice l'esecuzione di lavori di intelligenza artificiale e ML su Kubernetes.

In passato, Kubernetes disponeva di diversi modi per accedere all'hardware sottostante di un host. L'allocazione dinamica delle risorse (DRA) aggiornata fornisce un modo più semplice per accedere alle risorse di sistema. Il vecchio stile, che utilizza un controller del driver DRA, è ancora supportato tramite il "DRA classico".

Lasciandosi alle spalle l'intelligenza artificiale, Kubernetes ora supporta completamente anche AppArmor, un modulo di sicurezza del kernel Linux che consente agli amministratori di sistema di limitare le capacità dei programmi con profili per programma. Questa funzionalità ha raggiunto la disponibilità generale, consentendo agli utenti di impostare i profili AppArmor per i contenitori direttamente tramite l'API Kubernetes. Se implementato correttamente, il supporto di AppArmor contribuirà a rendere i cluster e i carichi di lavoro Kubernetes più sicuri.

Altrove sul fronte della sicurezza, una nuova funzionalità opzionale consente agli amministratori di configurare gli endpoint in modo che le richieste anonime di accesso possano essere bloccate. Ciò contribuirà a proteggere i cluster da configurazioni errate del controllo degli accessi basato sui ruoli (RBAC) che potrebbero altrimenti fornire agli utenti anonimi un ampio accesso al cluster.

Essendo un programma open source in continua evoluzione, Kubernetes 1.31 continua anche a semplificare e modernizzare la sua base di codice eliminando funzionalità obsolete. Ciò include:

• Rimozione delle integrazioni del provider cloud nell'albero: completando un processo iniziato con la versione 1.26, Kubernetes 1.31 rimuove tutte le integrazioni del provider cloud nell'albero. Questa mossa fa parte di uno sforzo continuo per garantire che Kubernetes rimanga una piattaforma neutrale rispetto al fornitore. Puoi comunque integrare i tuoi cluster Kubernetes con un provider cloud specifico. Tuttavia, non potrai farlo dall'interno di Kubernetes. Dovrai utilizzare l'approccio consigliato tramite l'integrazione esterna.
• Deprecazione dei plug-in con limite di volume non CSI: la versione depreca tutti i plug-in di pianificazione del limite di volume non CSI, in linea con la strategia di Kubernetes di transizione alla Container Storage Interface (CSI) per tutte le funzionalità relative allo storage.
• Deprecazione di Cgroups v1: Cgroups è una funzionalità del kernel Linux che consente di allocare, dare priorità e gestire le risorse di sistema tra i processi. Da qui in poi, cgroups v2 è ciò che dovresti usare.

Metti tutto insieme e questa versione è molto più che rendere Kubernetes compatibile con l'intelligenza artificiale. Angelos Kolaitis, ingegnere software senior di Canonical e team leader per la versione Kubernetes 1.31, ha affermato che questa nuova versione mira a "eliminare la complessità e i dettagli specifici dell'implementazione dal codice di Kubernetes, fare in modo che Kubernetes si concentri sullo stato desiderato e lasci tutto delle implementazioni, tutta la fonte extra al di fuori di esso."

Al di là delle nuove funzionalità, Kolaitis ha affermato: "Non devi fare nulla, ma Kubernetes adotterà misure aggiuntive per garantire che i tuoi carichi di lavoro siano in esecuzione, siano affidabili e si possa contare sul fatto che i tuoi servizi di produzione non si interrompano". ."

Le nuove funzionalità sono interessanti, ma la stabilità è d'oro. Solo per questo motivo, consiglio di esplorare un aggiornamento a Kubernetes 1.31 il prima possibile.