เพิ่งสังเกตเห็นเรื่องที่น่าสนใจเกี่ยวกับการพัฒนาโครงสร้างพื้นฐาน AI ในช่วงที่ผ่านมา เมื่อปลายปีที่แล้ว บริษัทใหญ่ได้เข้าซื้อ Groq ซึ่งเป็นบริษัทชิปที่เน้นเรื่องการประมวลผลด้วยความล่าช้าต่ำ ในราคา 20,000 ล้านดอลลาร์สหรัฐ และจากสิ่งที่เห็นในงาน GTC เมื่อสัปดาห์ที่แล้ว พวกเขาเพิ่งเปิดตัวชิป Groq 3 LPU ที่ผลิตด้วยเทคโนโลยี 4nm ของ Samsung

สิ่งที่ทำให้ผมสนใจคือเหตุผลที่อยู่เบื้องหลังการเคลื่อนไหวนี้ ดูเหมือนว่าตลาดการให้บริการ AI กำลังเปลี่ยนไป ไม่ใช่แค่เรื่องของการเพิ่มพลังการประมวลผลแบบดั้งเดิมอีกต่อไป แต่เป็นการเพิ่มตัวเลือกให้กับผู้ใช้งาน บางคนต้องการความเร็ว บางคนต้องการการตอบสนองที่รวดเร็ว บางคนต้องการทั้งสองอย่างแต่ยอมจ่ายราคาต่างกัน

จริง ๆ แล้วมันคล้ายกับการขยายขอบเขตของตลาด ไม่ใช่แค่การขยายตัวเดิม ๆ ตอนนี้มีช่องตลาดใหม่ที่มีความล่าช้าต่ำและราคาต่อหน่วยสูง นอกเหนือจากวิธีแบบเดิมที่เน้นปริมาณและความเร็วสูง โมเดลเดียวกันสามารถตั้งราคาแตกต่างกันได้ตามความเร็วในการตอบสนอง แม้ว่าปริมาณการประมวลผลจะต่ำกว่า แต่ราคาต่อหน่วยสามารถชดเชยได้

สิ่งที่น่าสนคือสถาปัตยกรรม LPU ของ Groq นั้นมีชื่อเสียงในเรื่องความล่าช้าต่ำแบบแน่นอน ซึ่งเมื่อรวมกับวิธีการ GPU ที่เน้นความเร็วสูงของผู้ใหญ่ในตลาด ก็เหมือนกับการเติมเต็มช่องว่างที่ขาดหายไปในสายผลิตภัณฑ์ของพวกเขา ไม่ใช่แค่การแข่งขันแบบตรงไปตรงมา แต่เป็นการเสริมเต็มเต็มความสามารถ ซึ่งเป็นการเคลื่อนไหวที่ฉลาดมาก