Fine tuning
Cos’è il fine tuning (AI)?
Nel machine learning, il fine tuning si riferisce alla modifica dei parametri di un modello pre-addestrato per una specifica attività o uno specifico set di dati. Il modello viene riaddestrato con i dati relativi all'attività di destinazione, mantenendo la sua precedente esperienza.
- Come funziona il fine tuning?
- Il processo di fine tuning
- Fine tuting con HPE
Come funziona il fine tuning?
Il fine tuning è simile al transfer learning, in cui il modello utilizza le sue conoscenze per ottenere risultati migliori in un’attività correlata. Il fine tuning di un modello pre-addestrato consente di ottenere risultati migliori con meno risorse di elaborazione e tempo di addestramento rispetto a quando si parte da zero. È fondamentale nei flussi di lavoro di machine learning contemporanei, poiché viene utilizzato nell'elaborazione del linguaggio naturale e nella visione artificiale per adattare i modelli a nuove attività o set di dati.
Il processo di fine tuning
Le fasi del fine tuning del machine learning prevedono quanto segue.
- Modelli pre-addestrati: scelta di un modello addestrato su un set di dati di grandi dimensioni che abbia ottenuto buoni risultati in un'attività o in un dominio pertinente. L'elaborazione del linguaggio naturale (per es. BERT, GPT), la visione artificiale (per es. ResNet, VGG) e altre discipline sono tutti esempi di modelli pre-addestrati.
- Definizione dell'attività di destinazione: indicazione dell’attività o del set di dati per cui si desidera mettere a punto il modello. Si considerano l'analisi del sentiment, la classificazione delle immagini o il riconoscimento di entità con nome.
- Preparazione dei dati: raccolta ed elaborazione del set di dati relativi alla nuova attività. I dati vengono suddivisi in set di addestramento, convalida e test e preparati in modo adeguato.
- Fine tuning del modello: inizializzazione/riaddestramento del modello pre-addestrato sul nuovo set di dati tramite la discesa del gradiente Gli iperparametri e il tasso di apprendimento vengono regolati per evitare l'overfitting o l'underfitting.
- Valutazione e convalida: monitoraggio delle prestazioni del modello messo a punto sul set di convalida per apportare modifiche. Potrebbero essere necessari diverse sessioni di addestramento e valutazione per mettere a punto le prestazioni.
- Test e distribuzione: test sul set di test per determinarne le capacità di generalizzazione. Infine, il modello di inferenza messo a punto viene applicato nelle situazioni pratiche.
- Attraverso queste fasi, il fine tuning adatta i modelli pre-addestrati alle nuove attività o ai nuovi set di dati, migliorandone le prestazioni e l'applicabilità in numerose applicazioni di machine learning.
Fine tuning con HPE
HPE (Hewlett Packard Enterprise) consente il fine tuning attraverso la sua piattaforma Machine Learning Data Fabric (MLDES), i servizi di Gen AI e le soluzioni di elaborazione aziendale per Gen AI. Ogni elemento facilita il fine tuning.
- HPE MLDES: gestisce ed elabora gli enormi set di dati di machine learning. Semplifica la preparazione dei dati, l'addestramento dei modelli e la distribuzione per il fine tuning dei modelli di ML. Le origini dati, il controllo delle versioni e la collaborazione sono integrati in modo trasparente , così da agevolare il fine tuning.
- HPE AI Services—Gen AI: le soluzioni di Gen AI di HPE consentono alle aziende di usufruire di analisi e AI avanzate. Questi servizi comprendono l'elaborazione del linguaggio naturale e la visione artificiale, nonché i tool e le tecniche di analisi predittiva. Le organizzazioni possono utilizzare i servizi di Gen AI per ottenere modelli pre-addestrati e framework con cui personalizzare le attività o i set di dati.
Enterprise Computing di HPE per Gen AI: le soluzioni di elaborazione enterprise di HPE consentono di gestire i carichi di lavoro di elaborazione AI, compreso il fine tuning. Queste soluzioni comprendono infrastruttura HPC, storage scalabile e servizi cloud ottimizzati per l'AI. Le funzionalità di elaborazione enterprise di HPE consentono alle aziende di ampliare il fine tuning per soddisfare le esigenze in continua evoluzione e ottimizzare le prestazioni dei modelli AI.
Confronto tra fine tuning e RAG
| Aspetto | Fine tuning | RAG (Retrieval Augmented Generation) |
|---|---|---|
| 1. Metodologia | Regola i parametri del modello pre-addestrato per attività o set di dati specifici. | Utilizza un meccanismo di reperimento per incrementare le attività di generazione, combinando modelli di reperimento e di generazione. |
| 2. Dati di addestramento | Richiede dati di addestramento specifici per le attività per il fine tuning. | Può sfruttare corpora di testo su vasta scala sia per il reperimento sia per la generazione. |
| 3. Adattabilità | Più adattabile a un'ampia gamma di attività e ambiti. | È adatto soprattutto per attività che prevedono la generazione con il reperimento di informazioni contestuali. |
| 4. Prestazioni | Può raggiungere prestazioni elevate con un fine tuning specifico per ogni attività. | Le prestazioni dipendono in larga misura dalla qualità e dalla pertinenza delle informazioni reperite. |
| 5. Casi d’uso | Ampiamente utilizzato in vari ambiti quali elaborazione del linguaggio naturale, visione artificiale ecc. | Particolarmente indicato per attività quali rispondere a domande, sistemi di dialogo e generazione di contenuti che richiedono informazioni contestuali. |
HPE Machine Learning Development Environment Software
Accelera il time to value per i carichi di lavoro e le applicazioni di intelligenza artificiale in qualsiasi fase del tuo percorso di adozione di AI/ML.
