course documentation
Affinamento, Fatto!
0. Installazione
1. Modelli Transformer
IntroduzioneNatural Language ProcessingCosa fanno i Transformer?Come funzionano i Transformer?Modelli encoderModelli decoderModelli sequence-to-sequenceBias e limitiRiassuntoQuiz di fine capitolo
2. Usare i 🤗 Transformers
IntroduzioneDietro la pipelineModelliTokenizersGestione di sequenze multipleMettiamo insieme i pezziUso di base completato!
3. Affinamento di un modello pre-addestrato
IntroduzioneProcessare i datiAffinare il modello con la Trainer APIUn addestramento completoAffinamento, Fatto!Quiz di fine capitolo
4. Condividere modelli e tokenizers
L'Hub di Hugging FaceUsare modelli pre-addestratiCondividere modelli pre-addestratiScrivere un cartellino del modelloFine della parte 1!Quiz di fine capitolo
5. La libreria 🤗 Datasets
IntroduzioneE se il mio dataset non è sull'Hub?È arrivato il momento di tagliuzzareBig data? Ci pensa 🤗 Datasets!Creare il proprio datasetRicerca semantica con FAISS🤗 Datasets, check!Quiz di fine capitolo
8. Come chiedere un aiuto
IntroduzioneCosa fare quando si riceve un erroreChiedere aiuto sui forumFare il debug della training pipelineCome scrivere un issue correttamenteParte 2 completata!Quiz di fine capitolo
9. Creare e condividere demo
Affinamento, Fatto!
Che divertimento. Nei primi due capitoli abbiamo scoperto i modelli e i tokenizzatori, e adesso sapete come affinarli per i vostri dati. Per riassumere, in questo capitolo avete:
- Scoperto i datasets nel Hub
- Imparato come caricare e preprocessare i datasets, usando anche padding dinamico e funzioni di raccolta
- Implementato il vostro affinamento e valutazione di un modello
- Implementato un ciclo di addestramento di basso livello
- Usato 🤗 Accelerate per adattare in maniera semplice il vostro ciclo di addestramento all’utilizzo di svariate GPU o TPU