ความรู้ทั่วไป
NPU คือ อะไร ทำหน้าที่อะไรในคอมพิวเตอร์ มีประโยชน์อย่างไร
Dec
เชื่อว่าในปี 2025 ไม่ว่าจะไปที่ไหนทุกคนต่างได้ยินคำว่า AI และในอุปกรณ์คอมพิวเตอร์ก็มีหลากหลายแบรนด์ที่ออก Line Product ใหม่โดยมีคำเคลมว่า Copilot+ PC หรือ AI PC จะเข้ามาช่วยงานของคุณให้มีประสิทธิภาพมากยิ่งขึ้น ซึ่งสิ่งที่จำเป็นสำหรับ AI PC คือ NPU แล้ว NPU คืออะไร แล้ว NPU มีความสำคัญอย่างไร
NPU คือ อะไร
NPU คือ อะไร
NPU ย่อมาจาก Neural Processing Unit ซึ่งแปลว่าหน่วยประมวลผลประสาท คือ ไมโครชิปที่ถูกออกแบบมาเพื่อทำงานด้วนปัญญาประดิษฐ์ (AI) และ Machine Learning โดยเฉพาะ ใช้การคำนวณแบบ Neural Network ซึ่งเลียนแบบมาจากการทำงานของสมองมนุษย์ เพื่อประมวลผลข้อมุลที่มีควมาซับซ้อนสูง
ยกตัวอย่างเช่น เทคโนโลยี Biometric (การจดจำรูปร่าง ใบหน้า เสียง ม่านตา ลายนิ้วมือ รวมถึงพฤติกรรมบางอย่าง), การเข้าใจ Natural Language
หลักการทำงานของ NPU
NPU ทำงานได้โดยการคำนวณแบบคู่ขนาน (Parallel Computing) เพื่อให้เหมาะกับการประมวลผล Neural Network ที่เป็นพื้นฐานของ AI และ Machine Learning ที่ต้องประมวลผลข้อมูลจำนวนมหาศาลพร้อมกัน จึงจำเป็นต้องมีหน่วยประมวลผลย่อยที่สามารถทำงานพร้อมกันได้ เช่น Matrix units, Vector units, Tensor cores และใช้คำสั่ง MAC (Multiply Accumulate) เป็นต้น
- Matrix units เกือบทั้งหมดของ AI ต้องใช้การคูณ Matrix ซึ่ง Matrix ถูกสร้างมาเพื่อเร่งการคำนวณที่อยู่ในรูปแบบเดียวกัน เช่น Neural Network, Convolution เพื่อประมวลผลภาพ, โมเดลภาษา LLMs การคำนวณ Vector และ Tensor เป็นต้น
- Vector units หน่วยที่คำนวณเลขหลายตัวพร้อมกันในหนึ่งคำสั่ง เพื่อใช้คำสั่งเดียว แต่ทำกับชุดข้อมูลจำนวนมากพร้อมกัน
- Tensor cores ถูกออกแบบมาเพื่อเร่งความเร็วข้อมูลหลายมิติ (Matrix) ที่ใช้ในงาน AI, Deep Learning และ Neural Network
หลักการทำงานของ NPU
CPU vs GPU vs NPU ต่างกันอย่างไร
ในยุคที่ไม่ว่างานไหน ๆ ต่างก็นำ AI มาใช้บนอุปกรณ์ แต่เพียง CPU หรือ GPU อาจจะไม่เพียงพอต่อความต้องการในปัจจุบัน จึงมีการนำ NPU เพื่อเข้ามาช่วยในการประมวลผล AI ได้อย่างมีประสิทธิภาพมากยิ่งขึ้น ซึ่งหลายคนคงเคยได้ยินว่า NPU จำลองโมเดลมาจากสมองของมนุษย์ แต่ไม่ว่าจะ CPU, GPU หรือ NPU ต่างก็ถูกเรียกว่าเป็นสมอง แล้วทั้ง CPU, GPU และ NPU ต่างกันอย่างไร
- CPU สามารถทำงานได้หลากหลายด้าน ไม่ได้เฉพาะเจาะจงไปที่ด้านใดด้านหนึ่ง เปรียบเสมือนสมองในส่วนของตรรกะ (Logical) และการตัดสินใจเป็นขั้นตอน (Sequential Decision)
- GPU เน้นด้านการประมวลผลกราฟิกเป็นหลัก ทำงานเรียบง่าย CPU มีความสามารถในการคำนวณขนานสูงเพื่อการเรนเดอร์ภาพ 3 มิติ และ Training โมเดล AI
- NPU ถูกออกแบบมาเพื่อประมวลผล AI และ Machine learning โดยเฉพาะ แม้ว่า CPU และ GPU จะสามารถประมวลผล AI ได้ แต่การประมวลผล AI โดยใช้ CPU และ GPU นั้น เป็นการเพิ่มภาระให้กับอุปกรณ์ ทำให้อุปกรณ์ทำงานหนักมากขึ้น
CPU vs GPU vs NPU
NPU ที่ในท้องตลาด
ตอนนี้มีหลายแบรนด์เริ่มออก Line Product ใหม่โดยนำเสนอเรื่องของ AI มากขึ้น แต่อุปกรณ์ที่คอมพิวเตอร์ที่ได้ชื่อว่า Copilot+ PC นั้นมีเงื่อนไขว่าต้องมีค่า TOPS (Int8) หรือ Trillion operations per second ตั้งแต่ 40 TOPS ขึ้นไป
ซึ่งจากเงื่อนไขข้อนี้ แม้อุปกรณ์นั้น ๆ จะใช้ CPU ที่ฝัง NPU แต่ก็ยังไม่สามารถเรียกได้ว่าเป็น Copilot+ PC แล้วในท้องตลาดมีชิปที่มี NPU โดยผู้ผลิตหน่วยประมวลผลรายใหญ่มีชิปรุ่นใหม่ที่รองรับการประมวลผล AI ดังนี้
picture
Intel
สำหรับ NPU ที่อยู่ทางฝั่งของ Intel มีชิปที่ฝัง NPU เอาไว้ และเปิดตัว NPU Intel อย่างเป็นทางการในชื่อ Intel AI Boost โดย NPU จะถูกฝังอยู่ใน CPU ชื่อ Intel Core Ultra ใน Series 1 มีชื่อโมเดลว่า Meteor Lake และใน Series 2 มีชื่อโมเดลว่า Lunar Lake ใน Intel Core Ultra Series 1 ยังไม่มีตัวใดที่ใช้ในอุปกรณ์คอมพิวเตอร์ที่ถูกอนุมัติให้เป็น Copilot+ PC ฝั่ง NPU Intel ที่ถูกอนุมัติให้ถูกเรียกว่า Copilot+ PC คือ Intel Core Ultra 200V Series
AMD
สำหรับ NPU ที่อยู่ในฝั่งของ AMD ถูกเปิดตัวอย่างเป็นทางการในชื่อ AMD Ryzen AI ซึ่งถูกฝังอยู่บนชิป CPU เช่นเดียวกันกับทางฝั่งของ Intel แต่อย่างไรก็ตามชิป NPU AMD เริ่มถูกติดตั้งมาบน CPU ตั้งแต่ AMD Ryzen 7000 Series แต่อุปกรณ์ที่จะถูกเรียกว่าเป็น Copilot+ PC คือ AMD Ryzen AI 300 Series (ที่มี RAM ตั้งแต่ 16GB และ Storage ตั้งแต่ 256GB SSD เป็นต้นไป)
Qualcomm
สำหรับ NPU ที่อยู่ในฝั่งของ Qualcomm ถูกเปิดตัวอย่างเป็นทางการในชื่อ Snapdragon X, Snapdragon X Elite และ Snapdragon X Plus Series แม้ว่า Snapdragon จะเป็นชื่อคุ้นหูที่อยู่ทางฝั่งของสมาร์ทโฟน ซึ่งเป็นโมเดลที่มีค่า TOPS (Int8) มากกว่า 40 TOPS แต่ก็ไม่ใช่ว่าใน Series ก่อนหน้าจะไม่มี CPU ที่มี NPU ฝังอยู่ เช่นเดียวกับฝั่งของ AMD คือ Qualcomm มีโมเดลที่เริ่มนำ NPU มาฝังไว้ใน CPU ตั้งแต่ Snapdragon 8 Gen 2 เพียงแต่ค่า TOPS (Int8) มีค่าน้อยกว่า 40 TOPS
Apple
NPU ทางฝั่งของ Apple ใช้ชื่อเรียกว่า Neural Engine ในกลุ่ม iPad/iPhone โดยทาง Apple ได้เริ่มนำ NPU ว่าฝังไว้ในชิปตั้งแต่ชิป A11 (A-Series) แต่ชิป A11 มี TOPS (Int8) น้อยมาก ๆ ก็แต่นับมาเพียงพอสำหรับสมาร์ทโฟนในยุคนั้น แต่ชิปที่เริ่มฝัง NPU โดยมีค่า TOPS ที่สามารถนำมาใช้งานได้จริง คือ A12 (ปัจจุบันมีถึง A17 Pro) และในกลุ่ม Mac เริ่มฝังไว้ตั้งแต่ M1 (M-Series) (ปัจจุบันมีถึง M4)
ประโยชน์ของ NPU
NPU (Neural Processing Unit) มีส่วนช่วยในการดำเนินชีวิตในปัจจุบันอย่างมาก เพราะที่ไหนต่างก็ใช้เทคโนโลยี AI มาช่วยในการจัดการงานต่าง ๆ ในง่ายขึ้น โดย Machine learning เป็นส่วนสำคัญที่สุดในการพัฒนา AI และ NPU ตัวขับเคลื่อน Machine learning ให้มีศักยภาพมากยิ่งขึ้น NPU จึงจะเป็นสำหรับธุรกิจ และชีวิตประจำวันอย่าง ดังนี้
เพิ่มประสิทธิภาพในธุรกิจ
เนื่องจาก NPU สามารถเข้ามาช่วยจัดการงานต่าง ๆ ได้ เช่น สรุปการประชุม, จัดทำเอกสาร หรือจัดทำพรีเซนเตชันสำหรับนำเสนอ สร้างรูปภาพ วิดิโอ หรือแม้กระทั่งการทำ Auto Subtitle ยกระดับ Productivities ให้กับพนักงานในองค์ ให้สามารถทำงานเดิม แต่ได้ประสิทธิภาพดียิ่งขึ้น
ลดเวลาในการทำงานบางอย่าง
AI มีช่วยช่วยในการจัดการงานอย่างมาก เช่น ในการทำ Auto CC (Auto Closed Caption) ที่ปกติต้องเสียเวลาในการนั่งฟังเสียงเพื่อทำ CC ประโยค แต่การใช้ Auto CC ทำให้ลดเวลาลงได้ค่อนข้างเยอะ (อาจต้องแก้ไขในบางจุดที่ข้อความเพี้ยนไปจากเสียง) เป็นต้น
สามารถทำงานเฉพาะทางได้ดีกว่า
ด้วยรูปแบบการคำนวณของ Neural Network ต่างจาก CPU และ GPU เพราะ NPU ถูกออกแบบมาให้จัดการงานที่มีความเฉพาะเจาะจง เช่นการติดตามการเคลื่อนไหวของวัตถุ การจัดการกับ Noise Cancelling หรือแม้กระทั่งการวินิจฉัยโรคผ่านภาพ X-ray เพราะมีการ Training ข้อมูลที่อยู่ในลักษณะเดิมซ้ำ ๆ เพื่อให้ AI เรียนรู้ และจดจำ ทำให้วิเคราะห์ได้เร็ว และเกิดความผิดพลาดน้อยลง
ใช้พลังงานต่ำ ประหยัดพลังงาน
CPU/GPU ถูกออกแบบให้ทำงานได้หลากหลาย จึงมีความยุ่งยาก และใช้พลังงานมากกว่า แต่ NPU ถูกออกแบบมาให้จัดการกับงานเฉพาะด้าน จึงใช้วงจรภายในน้อยกว่า จึงทำให้เกิดความร้อนต่ำ AI ส่วนใหญ่ คือ การทำ Process เดิมแบบซ้ำ ๆ แม้ CPU/GPU จะสามารถประมวลผล AI ได้เช่นเดียวกับ NPU แต่การใช้ CPU/GPU ในการประมวลผล AI นั้นใช้พลังงานสูงมาก จนทำให้เกิดความร้อน
สรุป
NPU คือ ชิปประมวลผล AI และ Machine Learning มักถูกออกแบบมาให้จัดการกับงานเฉพาะทาง การรันฟีเจอร์ AI หากไม่มี NPU จะทำให้ CPU/GPU ทำงานหนักขึ้น นอกจากนี้งานที่ต้องการความเร็วสูง (Real-Time) ยังให้ Latency ต่ำ ทำให้จัดการงานต่าง ๆ ได้อย่างรวดเร็ว และมีประสิทธิภาพ แม้ว่า AI ในปัจจุบันจะสามารถใช้งานบน Cloud ได้ แต่ก็มีหลายคนที่กังวลเรื่องความเป็นส่วนตัวของข้อมูล ดังนั้นการใช้งาน AI on device จึงช่วยจัดการปัญหาเรื่องนี้ได้เป็นอย่างดี และการที่จะใช้งาน AI on device ได้ จำเป็นต้องมี NPU เพื่อช่วยให้การประมวลผลข้อมูลที่ถูกป้อนเข้าไปนั่นเอง
Facebook Inbox : https://goo.gl/9wo8oL
Hotline : 063-819-7299
โทร : 02-713-2261
Line@ : @addinonline
Email : [email protected]
ผู้เขียน
Sasithorn Sri.
จากเด็กวิทย์-คอม ที่คลุกคลีอยู่ในวงการไอที อยากบอกเล่าการเปลี่ยนแปลงของเทคโนโลยีที่ไม่เคยหยุดนิ่ง