โดย มรินาล โคชาร์ (Mrinal Kochar)
รองประธานอาวุโสฝ่ายวิศวกรรม Sandisk
ปัญญาประดิษฐ์ (AI) ได้พลิกโฉมแนวทางการออกแบบดาต้าเซ็นเตอร์ ส่งผลให้การประมวลผลและการจัดเก็บข้อมูลมีประสิทธิภาพสูงขึ้น ควบคู่กับความซับซ้อนและต้นทุนที่เพิ่มขึ้น แม้ GPU, CPU และตัวเร่งประมวลผล AI มักได้รับความสนใจเป็นหลัก แต่ระบบจัดเก็บข้อมูลก็กำลังเปลี่ยนแปลงครั้งสำคัญเช่นกัน ทั้งในด้านการกำหนดรูปแบบระบบ การปรับแต่งให้ทำงานได้อย่างเต็มประสิทธิภาพ และตำแหน่งที่ควรติดตั้งภายในตู้แร็กของดาต้าเซ็นเตอร์ ซึ่งเป็นประเด็นที่ได้รับความสำคัญมากขึ้นเรื่อย ๆ
หน่วยความจำแฟลช NAND เป็นหัวใจสำคัญของประเด็นนี้ เพราะเป็นพื้นฐานของเส้นทางรับส่งข้อมูลที่มีความหนาแน่นสูงและสามารถเก็บข้อมูลได้แม้ไม่มีไฟเลี้ยง ซึ่งช่วยรองรับการฝึกโมเดล AI การประมวลผลข้อมูลแบบเป็นลำดับขั้น และการใช้โมเดล AI เพื่ออนุมานผล โดยเฉพาะอย่างยิ่ง SSD ระดับองค์กร (enterprise SSD หรือ eSSD) ซึ่งเป็นไดรฟ์จัดเก็บข้อมูลแบบโซลิดสเตตที่ใช้หน่วยความจำแฟลช NAND และออกแบบมาสำหรับการใช้งานระดับองค์กร โดยให้ทั้งความหนาแน่นในการจัดเก็บข้อมูล ความน่าเชื่อถือ อัตราการรับส่งข้อมูล และความทนทานต่อการเขียนข้อมูล เพื่อรองรับความต้องการของระบบประมวลผลขนาดใหญ่ระดับไฮเปอร์สเกลในปัจจุบัน
ปัจจุบัน eSSD สำหรับดาต้าเซ็นเตอร์กำลังพัฒนาแยกออกเป็นสองกลุ่มอย่างชัดเจน กลุ่มแรกคือ eSSD ที่ปรับให้เหมาะกับงานประมวลผล (compute-optimized eSSD) ซึ่งติดตั้งใกล้ GPU เพื่อรองรับงานประสิทธิภาพสูงที่ต้องเข้าถึงชุดข้อมูลขนาดใหญ่ด้วยความเร็วสูงและความหน่วงต่ำ นอกจากนี้ eSSD กลุ่มนี้ยังจัดการข้อมูลแคชคีย์และแวลู (KV cache) ที่มีปริมาณเพิ่มขึ้นแบบทวีคูณ ซึ่งต้องการทั้งพื้นที่จัดเก็บขนาดใหญ่และประสิทธิภาพระดับที่รองรับงานประมวลผลได้ ส่วนกลุ่มที่สองคือ eSSD ที่ปรับให้เหมาะกับการจัดเก็บข้อมูลความจุสูง (capacity-optimized eSSD) ซึ่งรองรับแหล่งรวมข้อมูลขนาดใหญ่ (data lake) ที่ใช้ป้อนข้อมูลให้ GPU ในระบบขนาดใหญ่ โดยสร้างสมดุลระหว่างการจัดเก็บข้อมูลปริมาณมากกับความเร็วและความน่าเชื่อถือของหน่วยความจำแฟลช ระบบจัดเก็บข้อมูลที่ใช้หน่วยความจำแฟลช NAND ทั้งสองระดับนี้กำลังกลายเป็นรากฐานสำคัญของโครงสร้างพื้นฐานที่พร้อมรองรับ AI
โจทย์ใหม่ในการออกแบบ: การแบ่งชั้นข้อมูลในยุค AI
การออกแบบดาต้าเซ็นเตอร์แบบเดิมมีชั้นการจัดเก็บข้อมูลที่ค่อนข้างเป็นรูปแบบเดียวกัน โดย eSSD ที่ใช้หน่วยความจำแฟลช NAND รองรับทั้งงานที่ต้องการความหน่วงต่ำและการจัดเก็บข้อมูลทั่วไป อย่างไรก็ตาม แนวทางนี้อาจไม่เหมาะกับทุกงานอีกต่อไป เนื่องจากภาระงานในกระบวนการรับส่งและประมวลผลข้อมูล AI ในปัจจุบันมีความหลากหลายอย่างมาก สำหรับผู้ออกแบบดาต้าเซ็นเตอร์ ความท้าทายจึงขยายจากการจัดวางข้อมูลไปสู่การแบ่งชั้นข้อมูลให้เหมาะสมกับลักษณะงาน
ทั้งนี้ ภาระงาน AI ครอบคลุมหลายขั้นตอน ตั้งแต่การนำข้อมูลเข้าสู่ระบบและการเตรียมข้อมูล ไปจนถึงการฝึกโมเดลและการอนุมานผล โดยแต่ละขั้นตอนมีความต้องการด้านประสิทธิภาพและความจุแตกต่างกัน ตัวอย่างเช่น การฝึกโมเดล AI ต้องอาศัยอัตราการรับส่งข้อมูลที่สูงอย่างต่อเนื่อง และการเข้าถึงชุดข้อมูลขนาดใหญ่แบบขนาน ส่วนการอนุมานผลมีรูปแบบการเข้าถึงข้อมูลที่กระจัดกระจายมากกว่า โดยทั่วไปเป็นการอ่านข้อมูลครั้งละน้อยแต่บ่อยขึ้น พร้อมให้ความสำคัญกับการคงบริบทของข้อมูลไว้ จึงจำเป็นต้องออกแบบระบบจัดเก็บข้อมูลในรูปแบบใหม่ที่รองรับทั้งประสิทธิภาพสูงและการจัดเก็บข้อมูลปริมาณมาก โดยมักต้องรองรับความต้องการทั้งสองด้านภายในระบบเดียวกัน
การเปลี่ยนแปลงนี้ยังครอบคลุมถึงการจัดวางระบบทางกายภาพด้วย โดยระบบจัดเก็บข้อมูลไม่ได้จำกัดอยู่ในตำแหน่งเดียวอีกต่อไป ข้อมูลที่ต้องเข้าถึงด้วยความหน่วงต่ำควรจัดเก็บไว้ใกล้หน่วยประมวลผล ส่วนข้อมูลที่ต้องใช้พื้นที่จัดเก็บมากสามารถแยกออกจากระบบประมวลผลและแบ่งสรรพื้นที่จัดเก็บใหม่ได้ ในการใช้งานบางรูปแบบ เช่น ระบบจัดเก็บข้อมูลระยะไกลที่เชื่อมต่อผ่านเครือข่าย ยังสามารถย้ายข้อมูลออกไปจัดเก็บนอกบริเวณที่ตั้งของหน่วยประมวลผลได้อีกด้วย
ภายใต้แนวทางนี้ วิศวกรดาต้าเซ็นเตอร์มีบทบาททั้งในการสร้างระบบ การกำหนดโครงสร้างการเชื่อมต่อและการจัดวางระบบจัดเก็บข้อมูลรูปแบบใหม่ รวมถึงการจัดสรรข้อมูลให้เหมาะกับโครงสร้างนั้น โดยต้องตัดสินใจว่าข้อมูลใดควรจัดเก็บไว้ใกล้หน่วยประมวลผล ข้อมูลใดควรจัดเก็บไว้ในส่วนอื่น และระบบจัดเก็บข้อมูลแต่ละชั้นจะทำงานร่วมกันอย่างไรภายใต้ภาระงานจริง
eSSD ใกล้หน่วยประมวลผล: ส่งข้อมูลให้ GPU ได้อย่างรวดเร็ว
หน่วยความจำแฟลช NAND ที่อยู่ใกล้หน่วยประมวลผล ซึ่งมักเรียกว่า compute eSSD ทำงานอยู่ใกล้กับ GPU และตัวเร่งประมวลผลที่มีมูลค่าสูง โดยสามารถเข้าถึงข้อมูลได้โดยตรงผ่านเทคโนโลยีที่ไม่ต้องส่งข้อมูลผ่าน CPU และหน่วยความจำของระบบ ไดรฟ์เหล่านี้ได้รับการปรับแต่งให้มีความหน่วงต่ำ รองรับจำนวนการดำเนินการอ่านและเขียนข้อมูลต่อวินาที (IOPS) สูง และรักษาประสิทธิภาพได้อย่างสม่ำเสมอแม้ต้องรองรับการทำงานพร้อมกันจำนวนมาก จึงเหมาะสำหรับงานต่าง ๆ เช่น การโหลดโมเดล การบันทึกสถานะการทำงานเป็นระยะเพื่อให้กลับมาทำงานต่อได้ (checkpointing) และการจัดเก็บแคชสำหรับการอนุมานผล ซึ่งความล่าช้าในงานเหล่านี้อาจส่งผลโดยตรงต่ออัตราการประมวลผลโดยรวมของระบบ
ภาระงาน AI กำลังผลักดันความต้องการเหล่านี้ให้สูงขึ้น เนื่องจากรูปแบบการเข้าถึงข้อมูลเปลี่ยนไปเป็นการเข้าถึงข้อมูลครั้งละน้อยลง แต่เรียกใช้บ่อยขึ้น compute eSSD จึงต้องรองรับการเข้าถึงข้อมูลในระดับที่ละเอียดยิ่งขึ้นและตอบสนองได้รวดเร็วขึ้น โดยใช้สถาปัตยกรรมไดรฟ์เดียวกันรองรับการใช้งานสองรูปแบบที่แตกต่างกันอย่างสิ้นเชิง ในระยะแรก compute eSSD ใช้รองรับการประมวลผลข้อมูลแบบเป็นลำดับขั้นและการบันทึกสถานะระหว่างการฝึกโมเดล AI ต่อมา เมื่อการอนุมานผลและ AI ที่สามารถวางแผนและดำเนินงานได้ด้วยตนเอง (agentic AI) แพร่หลายมากขึ้น ประกอบกับขนาดของโมเดลและจำนวนพารามิเตอร์ที่เพิ่มขึ้นอย่างมหาศาล จึงเกิดการใช้งานรูปแบบที่สอง คือการย้ายข้อมูลแคชคีย์และแวลู (KV cache) จากหน่วยความจำที่ใช้ในการประมวลผลมาเก็บไว้ใน eSSD ปัจจุบัน การรองรับ KV cache ถือเป็นหนึ่งในโอกาสการเติบโตที่สำคัญที่สุดของหน่วยความจำแฟลช NAND ในดาต้าเซ็นเตอร์ AI
ด้วยเหตุนี้ หน่วยความจำแฟลช NAND ที่ปรับให้เหมาะกับงานประมวลผลจึงมักถูกอธิบายว่าเป็นส่วนขยายของระบบหน่วยความจำแบบลำดับชั้น โดยทำหน้าที่เป็นพื้นที่จัดเก็บความจุสูงสำหรับรองรับ KV cache ที่ย้ายออกมาจากหน่วยความจำที่ใช้ในการประมวลผล และเป็นชั้นที่อยู่ระหว่าง DRAM กับระบบจัดเก็บข้อมูลแบบเดิม จึงช่วยให้โครงสร้างพื้นฐาน AI รองรับบริบทที่โมเดลใช้ประมวลผลในแต่ละครั้ง (context window) ได้มากขึ้น เกินข้อจำกัดด้านความจุของหน่วยความจำที่อยู่ภายในแพ็กเกจชิป
NAND Flash ความจุสูง: รองรับการขยายตัวของ Data Lake
ในอีกด้านหนึ่ง หน่วยความจำแฟลช NAND ความจุสูงช่วยรองรับการเติบโตอย่างรวดเร็วของแหล่งรวมข้อมูลขนาดใหญ่ (data lake) สำหรับ AI โดย AI ไม่ได้สร้างข้อมูลประเภทใหม่ขึ้นมาเสมอไป แต่เปลี่ยนวิธีการเข้าถึงข้อมูล จากการเรียกใช้ข้อมูลเพียงบางส่วน มาเป็นการเข้าถึงชุดข้อมูลทั้งหมดด้วยความเร็วสูง ซึ่งมักจำเป็นสำหรับการฝึกโมเดล AI ความต้องการนี้ทำให้เกิด data lake “ความเร็วสูง” ซึ่งให้ความสำคัญกับอัตราการรับส่งข้อมูลและความสามารถในการเข้าถึงข้อมูลไม่แพ้ความจุในการจัดเก็บ
eSSD ความจุสูงได้รับการปรับแต่งให้จัดเก็บข้อมูลได้อย่างหนาแน่นและใช้ทรัพยากรอย่างมีประสิทธิภาพ โดยเน้นปริมาณข้อมูลที่สามารถจัดเก็บและรับส่งได้ต่อหน่วยพลังงานที่ใช้ มากกว่าตัวชี้วัดด้านความหน่วง ด้วยคุณสมบัติเหล่านี้ eSSD ที่เน้นความจุสูงจึงเหมาะสำหรับระบบจัดเก็บข้อมูลขนาดใหญ่ที่มีการเรียกใช้งานไม่บ่อย (cold storage) ซึ่งมีข้อจำกัดด้านต้นทุน พื้นที่ และพลังงาน
อย่างไรก็ตาม ในบางกรณี ข้อมูลที่เคยจัดเก็บไว้ใน cold storage กลับมีความจำเป็นต้องเรียกใช้บ่อยขึ้น ระบบจัดเก็บข้อมูลที่ใช้หน่วยความจำแฟลชทั้งหมด (all-flash) จึงตอบโจทย์การเข้าถึงข้อมูลได้ดีกว่าระบบจัดเก็บข้อมูลแบบแบ่งชั้นดั้งเดิมที่ใช้แฟลชร่วมกับฮาร์ดดิสก์ ในกรณีเหล่านี้ ความก้าวหน้าด้านความหนาแน่นในการจัดเก็บข้อมูลของ NAND กำลังเปลี่ยนโฉมระบบจัดเก็บข้อมูล โดยช่วยให้ data lake ที่ใช้หน่วยความจำแฟลชรองรับการจัดเก็บข้อมูลปริมาณมาก พร้อมใช้ทรัพยากรได้อย่างมีประสิทธิภาพ แม้ขยายระบบให้มีขนาดใหญ่ขึ้น
QLC NAND กับความคุ้มค่าในการขยายระบบ
หน่วยความจำแฟลช NAND โดยเฉพาะแบบ Quad-Level Cell (QLC) มีบทบาทสำคัญในการเปลี่ยนผ่านของดาต้าเซ็นเตอร์ครั้งนี้ โดย QLC ช่วยเพิ่มความหนาแน่นในการจัดเก็บข้อมูลได้อย่างมาก ด้วยการจัดเก็บข้อมูล 4 บิตต่อเซลล์ โดยใช้ระดับแรงดันไฟฟ้า 16 ระดับ แม้จะมีประสิทธิภาพไม่เทียบเท่า NAND ระดับสูงบางประเภท แต่จุดเด่นของ QLC คือต้นทุนต่อบิตที่ต่ำกว่าและการใช้พลังงานที่มีประสิทธิภาพมากกว่าเมื่อใช้งานในระบบขนาดใหญ่
คุณสมบัติเหล่านี้ทำให้ QLC เหมาะอย่างยิ่งสำหรับระบบจัดเก็บข้อมูลที่เน้นความจุสูง โดยช่วยให้ดาต้าเซ็นเตอร์ใช้อุปกรณ์จัดเก็บข้อมูลแบบแฟลชเพียงตัวเดียวแทนฮาร์ดดิสก์หลายตัว จึงลดทั้งพื้นที่ติดตั้งและการใช้พลังงาน
QLC ยังช่วยให้แบ่งชั้นหน่วยความจำได้ละเอียดมากขึ้น โดยผู้ออกแบบระบบสามารถเลือกใช้ NAND แต่ละประเภทให้เหมาะกับภาระงาน แทนการพึ่งพาระบบจัดเก็บข้อมูลเพียงประเภทเดียว เช่น ใช้ NAND ประสิทธิภาพสูงสำหรับงานที่ต้องใช้ระบบจัดเก็บข้อมูลใกล้หน่วยประมวลผล ขณะที่ระบบจัดเก็บข้อมูลที่ใช้ QLC รองรับแหล่งรวมข้อมูลขนาดใหญ่ (data lake) และการจัดเก็บข้อมูลปริมาณมาก
การออกแบบโดยคำนึงถึงพลังงาน ความหนาแน่นในการจัดเก็บข้อมูล และการขยายระบบ
ข้อจำกัดด้านพลังงานกำลังส่งผลต่อโครงสร้างพื้นฐาน AI มากขึ้น จนมีความสำคัญไม่แพ้ข้อจำกัดด้านพื้นที่ เมื่อกลุ่มหน่วยประมวลผล GPU (GPU cluster) ขยายขนาดขึ้น กำลังไฟฟ้าทุกวัตต์จึงกลายเป็นทรัพยากรที่มีความสำคัญอย่างยิ่ง
สถานการณ์นี้ทำให้แนวทางการประเมินระบบจัดเก็บข้อมูลเปลี่ยนไป แม้ประสิทธิภาพการทำงานยังคงมีความสำคัญ แต่ประสิทธิภาพการใช้พลังงานได้กลายเป็นปัจจัยหลักที่ต้องพิจารณา ในหลายกรณี ดาต้าเซ็นเตอร์จึงให้ความสำคัญกับระบบจัดเก็บข้อมูลที่ให้ความจุหรือแบนด์วิดท์สูงสุดต่อกำลังไฟฟ้าหนึ่งวัตต์ มากกว่าการมุ่งเน้นประสิทธิภาพการทำงานสูงสุดเพียงอย่างเดียว
ความหนาแน่นในการจัดเก็บข้อมูลเป็นอีกปัจจัยสำคัญที่ต้องพิจารณา ความก้าวหน้าของเทคโนโลยี NAND และเทคโนโลยีการบรรจุชิปช่วยเพิ่มความจุในการจัดเก็บข้อมูลได้อย่างมากภายในพื้นที่เท่าเดิม ทำให้ดาต้าเซ็นเตอร์สามารถขยายความจุในการจัดเก็บข้อมูลได้ โดยไม่ต้องเพิ่มการใช้พลังงานและความต้องการด้านการระบายความร้อนในสัดส่วนเดียวกัน
อย่างไรก็ตาม ประโยชน์เหล่านี้มาพร้อมกับปัจจัยใหม่ที่ต้องคำนึงถึงในการวางแผน ผู้ออกแบบต้องพิจารณาอย่างรอบคอบ ทั้งการจัดสรรทรัพยากรสำหรับระบบจัดเก็บข้อมูล การขยายระบบในอนาคต และการผสานการทำงานกับโครงสร้างพื้นฐานที่มีอยู่เดิม การจัดสรรทรัพยากรไม่เพียงพอยังคงเป็นปัญหาที่พบได้บ่อย โดยเฉพาะเมื่อประเมินการเติบโตต่ำกว่าความเป็นจริง และไม่ได้กำหนดแนวทางการขยายระบบไว้อย่างชัดเจน
ทบทวนการจัดชั้นหน่วยความจำในดาต้าเซ็นเตอร์ AI
การเกิดขึ้นของหน่วยความจำแฟลช NAND ที่ปรับให้เหมาะกับงานประมวลผลและการจัดเก็บข้อมูลความจุสูง สะท้อนถึงการเปลี่ยนแปลงในภาพรวมของการวางแผนดาต้าเซ็นเตอร์
ระบบจัดเก็บข้อมูลไม่ได้ทำหน้าที่เพียงเก็บข้อมูลอีกต่อไป แต่มีบทบาทกำหนดประสิทธิภาพโดยรวมของระบบ โดยส่งผลต่อประสิทธิภาพการใช้ทรัพยากรประมวลผล และความสามารถในการขยายระบบเพื่อรองรับภาระงาน AI
แนวโน้มนี้ทำให้ต้องทบทวนการจัดชั้นหน่วยความจำในดาต้าเซ็นเตอร์ โดยให้ความสำคัญกับการจัดเก็บข้อมูลไว้ใกล้หน่วยประมวลผล การเลือกใช้ระบบจัดเก็บข้อมูลให้เหมาะกับภาระงาน และการรับส่งข้อมูลระหว่างส่วนต่าง ๆ ของระบบ แทนการยึดรูปแบบการจัดเก็บข้อมูลแบบเดิมเพียงอย่างเดียว โจทย์จึงไม่ได้มีเพียงว่าควรติดตั้งระบบจัดเก็บข้อมูลให้มีความจุเท่าใด แต่ยังรวมถึงว่าควรติดตั้งไว้ที่ใดด้วย เมื่อ AI พัฒนาอย่างต่อเนื่อง ผู้ออกแบบที่ทบทวนแนวทางเดิมและวางกลยุทธ์โดยแยกบทบาทของระบบจัดเก็บข้อมูลใกล้หน่วยประมวลผลกับระบบจัดเก็บข้อมูลความจุสูงอย่างชัดเจน จะมีความพร้อมมากขึ้นในการสร้างโครงสร้างพื้นฐานดาต้าเซ็นเตอร์ที่รองรับการขยายระบบและใช้ทรัพยากรได้อย่างมีประสิทธิภาพ
