Glossario della sicurezza Xygeni
Glossario sulla sicurezza dello sviluppo e della distribuzione del software

Che cos'è MLOps?

TL; DR #

MLOps (Machine Learning Operations) è l'insieme di pratiche che consentono di trasformare un modello di machine learning da un esperimento a un sistema di produzione affidabile, mantenendone poi l'affidabilità. Combina l'automazione DevOps con gli aspetti che DevOps non ha mai dovuto gestire: versioning dei dati, addestramento dei modelli, registro dei modelli e monitoraggio delle discrepanze. MLOps rende i modelli riproducibili e affidabili. La sicurezza MLOps garantisce che ciò che viene distribuito, e tutto ciò da cui dipende, sia affidabile.

Cos'è MLOps? #

Un modello che funziona in un nonebook Non è un prodotto. Lo diventa quando può essere riaddestrato su nuovi dati, implementato senza un passaggio di consegne manuale, ripristinato in caso di malfunzionamenti e spiegato quando un revisore chiede da dove proviene.

È proprio in quel divario che la maggior parte dei progetti di apprendimento automatico si blocca. Il documento di Google ampiamente citato Debito tecnico nascosto nei sistemi di apprendimento automatico È emerso che il codice del modello rappresenta solo una piccola parte di un vero sistema di apprendimento automatico. Il resto consiste nella raccolta dei dati, nell'estrazione delle caratteristiche, nella configurazione, nell'infrastruttura di servizio e nel monitoraggio, ed è proprio in queste fasi che si accumula il debito tecnico.

MLOps è la disciplina che gestisce il resto. Applica i principi di DevOps (automazione, controllo di versione, continuous delivery, proprietà condivisa) a un sistema in cui il comportamento dipende tanto dai dati quanto dal codice. Quindi, un team che chiede cos'è MLOps in realtà sta chiedendo come rendere i modelli qualcosa che l'organizzazione possa gestire, non solo costruire. → Che cos'è la sicurezza dell'IA?

La distinzione fondamentale è questa: nel software, lo stesso codice produce lo stesso comportamento. Nell'apprendimento automatico, lo stesso codice addestrato su dati diversi produce un modello diverso. MLOps esiste perché i dati rappresentano una seconda fonte di cambiamento.

Significato di MLOps: cosa comprende effettivamente il termine #

Il significato di MLOps varia a seconda del fornitore, quindi è utile definirne i confini. Il termine copre cinque aree:

  • Gestione dei dati. Gestione delle versioni dei set di dati, convalida della loro qualità e tracciamento di quali dati sono stati utilizzati per addestrare quale modello.
  • Sperimentazione e formazione. Tracciare esperimenti, parametri e risultati in modo che un modello possa essere riprodotto, e non solo ricordato.
  • Registro dei modelli. Un unico registro per ogni versione del modello, la sua genealogia, la sua valutazione e il suo stato di approvazione.
  • Consegna e servizio al tavolo. Automatizzata pipelineche si occupano di impacchettare, testare e distribuire i modelli agli endpoint di inferenza, compreso l'addestramento continuo all'arrivo di nuovi dati.
  • Monitoraggio. Monitorare i modelli di produzione per individuare eventuali derive nei dati, deviazioni concettuali e degrado delle prestazioni, e attivare il riaddestramento quando si verificano tali degradi.

Ciò che non copre da solo: la sicurezza dei componenti di un modello pipeline entra in gioco. È qui che la sicurezza MLOps e i termini correlati, descritti di seguito, assumono un ruolo centrale.

Perché MLOps è diventata una disciplina a sé stante #

Questo perché i modelli si deteriorano in un modo diverso rispetto al codice. Una funzione scritta correttamente rimane corretta. Un modello antifrode addestrato sulle transazioni dell'anno scorso smette gradualmente di corrispondere al comportamento di quest'anno, senza che venga modificata una singola riga di codice. Senza monitoraggio e riaddestramento, la precisione si erode silenziosamente.

La scala lo ha reso inevitabile. Un modello può essere gestito manualmente. Decine di modelli, ciascuno riaddestrato secondo la propria pianificazione, ciascuno dipendente dai propri set di dati, framework e pesi pre-addestrati, non possono. MLOps ha trasformato quel lavoro in pipelines.

Poi è arrivata la catena di fornitura. Il machine learning moderno raramente parte da zero. I team scaricano modelli pre-addestrati da piattaforme pubbliche, si affidano a grandi framework open source e li perfezionano utilizzando dati di terze parti. Ognuno di questi è un componente prodotto da qualcun altro. Alcuni formati di serializzazione dei modelli possono eseguire codice al caricamento di un file, il che significa che scaricare un modello può comportare lo stesso rischio dell'installazione di un pacchetto non attendibile. → Cos'è l'avvelenamento dei dati?

Come funziona MLOps: il ciclo di vita #

Comprendere cosa sia MLOps nella pratica significa sapere cosa produce ogni fase, perché ogni artefatto creato da una fase è qualcosa da cui dipende una fase successiva.

StageDomanda a cui rispondeManufatti tipici
DatiQuali dati vengono utilizzati per addestrare il modello e sono affidabili?Versioni dei dataset, report di convalida, feature store
TreniPossiamo riprodurre questo modello?Registri degli esperimenti, parametri, pesi pre-addestrati, framework
RegistratiQuale versione del modello è approvata e da dove proviene?voci del registro dei modelli, schede dei modelli, lignaggio
SchierareCome si fa a portare il modello in produzione in tutta sicurezza?CI/CD pipelines, contenitori, endpoint di inferenza
MonitorareIl modello si comporta ancora come previsto?Metriche di deriva, prestazioni dashboards, trigger di riaddestramento

Architettura di riferimento di Google Cloud, MLOps: Consegna continua e automazione pipelines nell'apprendimento automatico, descrive la maturità in tre livelli: processi manuali (livello 0), formazione automatizzata pipelines (livello 1) e automatizzato CI/CD di pipelinele organizzazioni stesse (livello 2). La maggior parte delle organizzazioni si colloca tra i primi due.

Una pratica MLOps matura risponde automaticamente a ogni domanda nella tabella. Una pratica attenta alla sicurezza aggiunge una sesta domanda in ogni fase: da cosa dipendeva questo passaggio e sapremmo se cambiasse? Rispondere a questa domanda richiede un inventario di IA che si trovi al di fuori di qualsiasi singolo pipeline.

Che cosa non è MLOps? Termini correlati #

Il progetto di sicurezza OWASP GenAI ha pubblicato la Top 10 per le applicazioni LLM 2026 nell'agosto 2026, e sono queste che vengono usate in modo intercambiabile, il che confonde sia le conversazioni sugli strumenti che quelle sulla proprietà.

  • Governance dell'IA definisce le politiche, le responsabilità e le regole di conformità che MLOps pipelines quindi applica. → Cos'è la governance dell'IA?
  • DevOps MLOps automatizza la distribuzione del software. MLOps la estende con dati, addestramento e monitoraggio del modello, anziché sostituirla.
  • DataOps si concentra sui dati pipelineGli aspetti fondamentali: qualità, freschezza e fornitura dei dati ai consumatori di analisi e apprendimento automatico.
  • ModelOps si tratta della governance più ampia di tutti i modelli analitici e di intelligenza artificiale in produzione, compresi i modelli basati su regole e di ottimizzazione, non solo l'apprendimento automatico.
  • LLMOps adatta MLOps a modelli linguistici di grandi dimensioni: gestione dei prompt, recupero pipelinevalutazione della produzione generata e controllo dei costi.
  • MLSecOps introduce la sicurezza nel ciclo di vita dell'apprendimento automatico: provenienza del modello, pipeline Integrità, rischio di dipendenza e minacce avversarie. È il livello di sicurezza di MLOps, non un processo concorrente.

Sono livelli, non concorrenti. Un'organizzazione che esegue MLOps senza sicurezza MLOps ha automatizzato la sua distribuzione pipeline senza controllare cosa vi scorre attraverso.

Framework che definiscono il significato di rischio nell'MLOps #

Valutare un framework in base al suo stato di pubblicazione, non in base a quanto sembri attuale.

ContestoStatoCome si usa
Quadro di gestione del rischio AI del NISTAI RMF 1.0, pubblicato a gennaio 2023Struttura di gestione del rischio IA a livello aziendale: governare, mappare, misurare, amministrare
ISO / IEC 42001Pubblicato 2023Sistema di gestione dell'intelligenza artificiale standard, certificabile
NISTSP800-218AVersione definitiva, luglio 2024Procedure di sviluppo sicure per l'intelligenza artificiale generativa e i modelli a duplice uso
ATLANTE MITREBase di conoscenza dinamica, costantemente aggiornataModellazione delle minacce dei sistemi di apprendimento automatico con studi di caso documentati
CycloneDX ML-BOMParte di CycloneDX, pubblicato da Ecma come ECMA-424Registrazione leggibile da una macchina di modelli, set di dati e della loro provenienza.

Sulla documentazione l'inquadramento onesto è ristretto. Gli obblighi di documentazione tecnica dell'EU AI Act per i sistemi ad alto rischio e del Cyber ​​Resilience Act SBOM Gli obblighi creano requisiti di prova concreti. Un inventario AI e una distinta base AI contribuiscono a soddisfarli. Nessuna delle due normative specifica una distinta base AI, né richiede uno strumento MLOps particolare.

Dalla definizione al programma #

Conoscere il significato di "lignaggio del modello" in MLOps non è la stessa cosa che sapere quali modelli, dataset e framework sono effettivamente integrati nei propri repository.

Quel divario si chiude in un ordine prevedibile. Scopri ogni risorsa di IA che pipelinedipendono da tutti, compresi quelli che nessuno ha registrato. Mappa come si connettono, in modo da sapere quale set di dati alimenta quale modello e quale endpoint lo serve. Quindi esporta quel record come una distinta base basata sull'IA che può essere utilizzata da revisori, clienti e dal tuo team di risposta agli incidenti.

Xygeni AI Security Crea quel record dal tuo codice. Mantiene un inventario AI continuo di modelli, framework AI, set di dati, endpoint di inferenza, agenti e il resto della tua impronta AI, con un punteggio di rischio, fornitore, tipo e posizione esatta nel codice per ogni risorsa. Il grafico AI mostra quale set di dati alimenta quale modello e dove si concentra il rischio, e da questa scoperta viene esportata una distinta base AI leggibile dalla macchina. Il tuo MLOps pipeline continua a fornire modelli; Xygeni ti dice di cosa sono fatti. Per i concetti di base, vedi Che cos'è una distinta base per l'intelligenza artificiale (AI BOM)? and Che cos'è un inventario di intelligenza artificiale?

Programma una demo per visualizzare il proprio inventario AI e la distinta base AI.

FAQ #

Cos'è MLOps in parole semplici?

Le pratiche e l'automazione che consentono a un team di addestrare, distribuire, monitorare e riaddestrare modelli di machine learning in modo affidabile, nello stesso modo in cui DevOps fa per il software.

Qual è la differenza tra MLOps e DevOps?

DevOps gestisce le modifiche al codice. MLOps gestisce le modifiche al codice e ai dati, perché il comportamento di un modello dipende dai dati su cui è stato addestrato. Ciò aggiunge il versioning dei dati, l'addestramento pipelines, un registro dei modelli e il monitoraggio della deriva.

Che cos'è la sicurezza MLOps?

Applicare la sicurezza al ciclo di vita del machine learning: verificare la provenienza di modelli e dataset, proteggere l'addestramento e la distribuzione. pipelinee il monitoraggio delle dipendenze su cui si basa un modello. Viene spesso chiamato MLSecOps.

MLOps include una distinta base basata sull'intelligenza artificiale (AI-BOM)?

Un sistema in grado di eseguire più azioni, con più permessi, in modo più autonomo di quanto richiesto dal compito. Non per impostazione predefinita. Un registro dei modelli registra le versioni e la provenienza dei modelli per il team ML. Un inventario AI e la distinta base AI esportata da esso sono un standardRegistrazione unificata e leggibile automaticamente dei componenti di intelligenza artificiale, destinata a revisori, clienti e team di sicurezza. Questi elementi si completano a vicenda.

Chi è responsabile delle MLOps all'interno di un'organizzazione?

Solitamente ingegneria ML o un team di piattaforma. Sicurezza del pipeline La responsabilità è condivisa: il team di machine learning si occupa della distribuzione, mentre la sicurezza dell'applicazione si occupa delle dipendenze e dei componenti da cui la distribuzione dipende.

Inizia gratis

Inizia gratuitamente.
Nessuna carta di credito richiesta.

Inizia con un clic:

Queste informazioni saranno salvate in modo sicuro secondo quanto previsto dal Termini di Servizio and Informativa privacy

Schermata dell'app