🎯 เป้าหมาย
- อธิบายความแตกต่างระหว่างโมเดลเฉพาะทางกับโมเดลขนาดใหญ่ (foundation models)
- เข้าใจแนวคิด pretraining และ fine-tuning
- ระบุข้อดีและต้นทุนของ scaling
1. จากโมเดลเฉพาะทางสู่ Foundation Models
โมเดล ML แบบดั้งเดิมมักถูกฝึกสำหรับงานเดียว เช่น จำแนกสแปมหรือรู้จำตัวเลข โมเดลขนาดใหญ่ถูกฝึกบนข้อมูลมหาศาลด้วยวัตถุประสงค์ทั่วไป (เช่น ทำนายคำถัดไป) แล้วสามารถปรับใช้กับงานหลายอย่างได้
2. Pretraining และ Fine-tuning
Pretraining: เรียนรู้รูปแบบทั่วไปจากข้อมูลกว้าง (ข้อความ โค้ด ฯลฯ)
Fine-tuning: ปรับเพิ่มบนข้อมูลเฉพาะโดเมนหรือตามคำสั่งของมนุษย์ (เช่น instruction tuning)
3. Scaling และต้นทุน
การเพิ่มขนาดโมเดลและข้อมูลมักทำให้ความสามารถบางอย่างดีขึ้น แต่มีต้นทุนพลังงาน เงิน และความยากในการควบคุม/อธิบาย พฤติกรรมบางอย่างที่ดู “ฉลาดขึ้น” เมื่อขยายขนาดถูกเรียกในวรรณกรรมว่า emergent behaviors — ยังมีการถกเถียงว่าอะไรนับเป็น emergent จริง
โมเดลใหญ่ + prompt: อาจช่วยแยกสแปมได้โดยอธิบายกฎเป็นภาษาธรรมชาติ แต่ไม่การันตีแม่นเท่าโมเดลที่ออกแบบเฉพาะ และอาจผิดในเคสขอบ
กิจกรรม: หาบริการ AI 2 อย่าง ระบุว่าใกล้ “เฉพาะทาง” หรือ “foundation + การปรับใช้” พร้อมเหตุผล
✅ สรุป
- Foundation models เรียนรู้ทั่วไปแล้วปรับใช้หลายงาน
- Pretrain บนข้อมูลกว้าง · Fine-tune ตามงาน/คำสั่ง
- Scale มีประโยชน์และต้นทุน — ไม่ใช่ความเข้าใจแบบมนุษย์
📝 แบบฝึกหัดท้ายบท (5 ข้อ)
1. Foundation model แตกต่างจากโมเดลเฉพาะทางอย่างไร?
2. Pretraining หมายถึงอะไร?
3. Fine-tuning ใช้เพื่ออะไร?
4. ต้นทุนสำคัญของ scaling คืออะไร?
5. ข้อใดถูกต้องเกี่ยวกับโมเดลใหญ่?