course documentation
Fine-tune โมเดลสำเร็จแล้ว!
0. ติดตั้งโปรแกรม
1. โมเดล Transformer
บทนำการประมวลผลภาษาธรรมชาติTransformers ชื่อนี้มีดียังไง?Transformers ทำงานยังไง?โมเดล Encoderโมเดล Decoderโมเดล sequence-to-sequenceข้อจำกัดจากอคติของข้อมูลสรุปคำถามท้ายบท
2. การใช้งาน 🤗 Transformers
บทนำเบื้องหลังของ pipelineโมเดลTokenizersการจัดการกับหลายๆประโยค(multiple sequences)ประกอบทุกอย่างเข้าด้วยกันการใช้งานเบื้องต้นสำเร็จแล้ว!แบบทดสอบท้ายบท
3. การ fine-tune โมเดลที่ผ่านการเทรนมาแล้ว (pretrained model)
บทนำการประมวลผลข้อมูลการ Fine-tune โมเดลด้วย Trainer API หรือ Kerasการเทรนโมเดลฉบับสมบูรณ์Fine-tune โมเดลสำเร็จแล้ว!คำถามท้ายบท
4. การแบ่งปันโมเดลและ tokenizers
The Hugging Face Hubการใช้งานโมเดลที่ผ่านการเทรนมาแล้ว (pretrained models)การแบ่งปันโมเดลที่ผ่านการเทรนมาแล้ว (pretrained models)การสร้างการ์ดโมเดล (model card)จบพาร์ทที่ 1!คำถามท้ายบท
6. ตัวตัดคำจาก 🤗 Tokenizers library
บทนำการเทรน tokenizer จาก tokenizer ที่มีอยู่แล้วความสามารถพิเศษของตัวตัดคำแบบเร็ว (fast tokenizers)การใช้งานตัวตัดคำแบบเร็ว (Fast tokenizers) ใน QA pipelineNormalization และ pre-tokenizationByte-Pair Encoding tokenizationWordPiece tokenizationUnigram tokenizationการสร้าง tokenizer ทีละขั้นตอนเรียนจบเรื่อง tokenizer แล้ว!คำถามท้ายบท
Fine-tune โมเดลสำเร็จแล้ว!
สนุกจังเลย! ในสองบทแรกคุณได้เรียนรู้เกี่ยวกับโมเดลและ tokenizers และตอนนี้คุณก็รู้วิธีการ fine-tune โมเดลด้วยข้อมูลของคุณเองแล้ว มาทบทวนกันว่าคุณได้ทำอะไรไปบ้างในบทนี้:
- เรียนรู้การใช้งาน datasets ผ่าน Hub
- เรียนรู้วิธีการโหลดและประมวลผล datasets รวมถึงการใช้งาน dynamic padding และ collators
- เขียนโค้ดการ fine-tuning และการประเมินประสิทธิภาพของโมเดลในแบบของคุณเอง
- เขียนโค้ดลูปการเทรนโดยไม่ใช้ class Trainer
- ใช้ไลบรารี่ 🤗 Accelerate เพื่อปรับลูปการเทรนของคุณให้ใช้การได้กับการเทรนโดยใช้ GPUs หรือ TPUs หลายตัวได้อย่างง่ายดาย