AWS เปิด public beta ของ TorchNeuron เมื่อ 20 ตุลาคม 2026 เพื่อให้ PyTorch ใช้ Trainium ผ่าน backend แบบ native ได้ ประเด็นใหม่คือการย้ายโมเดลและ input ไปยัง device neuron พร้อมเลือกใช้ eager execution หรือ torch.compile ตามงาน แทนการถือว่าการใช้ชิปคนละตระกูลต้องเปลี่ยนวิธีเขียนโมเดลทั้งหมด
อย่างไรก็ตาม คำว่า native ไม่ได้แปลว่า API และชนิดข้อมูลทุกแบบทำงานเหมือนเดิมโดยไม่มีข้อจำกัด สถานะที่ประกาศคือ public beta และนักพัฒนายังต้องเทียบโมเดลจริงกับ compatibility guide
แยก backend ใหม่ออกจากชื่อแพ็กเกจเดิม
README ทางการที่ตรวจและตรึง revision ใช้ชื่อ torch-neuronx และอธิบายว่าเป็น backend native ของ PyTorch ต่างจากผลิตภัณฑ์เดิมที่อาศัย PyTorch/XLA จึงไม่ควรตัดสินจากชื่อแพ็กเกจอย่างเดียว ต้องดูรุ่นและคู่มือที่ตรงกับ backend
ข้อกำหนดที่ README ณ revision นี้ระบุ ได้แก่ EC2 Trn2 หรือ Trn3 และ Python 3.12, 3.13 หรือ 3.14 พร้อม driver/runtime ของ Neuron เอกสารแนะนำ Neuron DLAMI หรือ Deep Learning Container ที่เตรียมแพ็กเกจไว้แล้ว รายละเอียดติดตั้งเป็นข้อมูลจากเอกสาร ไม่ใช่สิ่งที่ Reefsight ได้ติดตั้งหรือรันบนบัญชี AWS
อ่านเส้นแบ่งความเข้ากันได้ก่อนทดลอง
| ประเด็นใน README ที่ตรวจ | ขอบเขตที่ต้องนำไปทดสอบ |
|---|---|
| Eager execution | ประเมินผลลัพธ์และพฤติกรรมของ operations ที่โมเดลใช้จริง |
torch.compile | ต้องใช้ static shapes; dynamic=False ไม่ได้เปิด dynamic shapes ให้เอง |
| รูปร่าง input เปลี่ยน | อาจเกิดการ compile ใหม่ จึงควรพิจารณา padding หรือ bucketing ตามงาน |
| Tensor ที่ไม่ contiguous | backend มีการ copy ในแต่ละ call ตามข้อจำกัดที่ระบุ |
float64 | README ระบุว่ารันเป็น float32 ซึ่งอาจเปลี่ยนความแม่นยำของผลลัพธ์ |
| API compatibility | มีทั้ง supported, CPU fallback และ unsupported ไม่ใช่คำรับรองว่าทุก API ใช้ชิปได้โดยตรง |
README ยังระบุว่า call แรกของ operation หรือ compiled graph มีต้นทุน compile และ cache ช่วยนำผล compile กลับมาใช้ในรอบต่อไป ดังนั้นการเปรียบเทียบผลควรแยกช่วงเริ่มต้นออกจาก steady state และตรวจความถูกต้องก่อนอ้างประสิทธิภาพ
เริ่มจากโมเดลขนาดเล็กและงบที่ควบคุมได้
ทีมที่สนใจควรเลือก instance และ software stack ตามเอกสารของรุ่นนั้น ตรึง dependency ใน environment แยก ตรวจ operator และชนิดข้อมูลที่ใช้ แล้วเทียบผลลัพธ์กับ reference ที่ไว้ใจได้ ก่อนเพิ่มขนาดโมเดลหรือกระจายหลายเครื่อง
การรองรับ Trainium2 และ Trainium3 ไม่ได้ยืนยันว่า instance ทุกขนาดมีพร้อมในทุก region หรือทุกบัญชี ข่าวนี้ไม่มีผลวัดต้นทุน latency throughput หรือการประหยัดเมื่อเทียบ GPU และไม่ได้แนะนำให้ย้าย production โดยไม่ทดสอบ
ภาพปกเป็นภาพหน้าจอ README จริงจาก repository ทางการ ไม่ใช่หน้าจอ AWS Console เครดิต AWS Neuron contributors; เอกสาร repository อยู่ภายใต้ Apache License 2.0 เก็บสำเนา license และ revision ไว้กับหลักฐาน ไม่มีการนำเครื่องหมายของ GitHub หรือภาพผลิตภัณฑ์มาสร้างเป็นหลักฐานความสามารถ
ปรับปรุงเครดิต 30 ตุลาคม 2569: เพิ่มข้อความจาก NOTICE ของ repository — Copyright Amazon.com, Inc. or its affiliates. All Rights Reserved. อ่าน NOTICE ต้นฉบับ ประกอบ Apache License 2.0 ที่อ้างไว้ข้างต้น โดยคงเนื้อหาและเวลาเผยแพร่เดิม