Intel Optane ยุติพัฒนา แต่ยังอาจเป็นคำตอบให้ AI Inference กับ KV Cache

Intel Optane ถูกยุติการพัฒนาอย่างเป็นทางการในปี 2022 หลังจากเพียงห้าปีของตลาด ซึ่งเทคโนโลยีที่เคยถูกอธิบายว่า “ล่วงหน้ากว่ากาล” นี้อาจกลับกลายมาเป็นคำตอบให้กับปัญหา DRAM แรงกดดันด้านราคาและความต้องการหน่วยความจำสำหรับ AI inference หากเปิดตัวในสภาพแวดล้อมปัจจุบัน ตามรายงานของ The Register

Overview

เทคโนโลยี Optane หรือชื่อเต็มคือ 3D XPoint ถูกพัฒนาโดย Intel ร่วมกับ Micron และเปิดตัวครั้งแรกในปี 2015 จุดมุ่งหมายเพื่อเป็นสะพานเชื่อมระหว่าง NAND flash ที่ใช้ใน SSD กับ DRAM ที่ใช้ใน DDR4/DDR5. 3D XPoint มีคุณสมบัติเป็นหน่วยความจำแบบไม่สลาย (non‑volatile) ทำให้ข้อมูลคงอยู่แม้ไม่มีไฟฟ้า จึงเหมาะกับการใช้งานเก็บข้อมูลเช่น SSD แต่ต่างจาก NAND ที่ใช้วิธีกักจับอิเล็กตรอน 3D XPoint ใช้วัสดุเปลี่ยนสถานะ (phase‑change material) ทำให้ได้ความเร็วที่เหนือกว่าและทนต่อการเขียนหลายรอบ.

ตามข้อมูลของบริษัท Intel ความหน่วงเวลาในการเข้าถึงข้อมูลของ Optane SSD อยู่ในระดับ *sub‑10 ไมโครวินาที* ซึ่งแม้จะช้าเทียบกับ DRAM ที่ 100 นาโนวินาที แต่ดีกว่าการอ่าน/เขียนแบบสุ่มบน NAND อย่างมาก. โมดูล PMem DIMM ของ Optane มีความหน่วงประมาณ 350 นาโนวินาที และรองรับขนาดสูงสุดถึง 512 GB ต่อ DIMM, สูงกว่าขีดจำกัดของ DDR4 ที่ประมาณ 128 GB ในช่วงเดียวกัน.

Technical Specs & Pricing

• ความหน่วง: <10 µs (SSD), ~350 ns (DIMM)
• ความทนทานต่อการเขียน: 100 DWPD (drive writes per day)

ข้อดีด้านความทนทานและความเร็วทำให้ Optane สามารถใช้เป็น “ระดับที่สอง” ของหน่วยความจำระบบได้, แต่ราคาของ 3D XPoint ยังคงสูงกว่าดาวน์โหลด NAND อย่างต่อเนื่อง แม้จะถูกกว่า DRAM. ตามการวิเคราะห์ของ TechInsights, ความหนาแน่นบิตของ 3D XPoint ไม่เพิ่มเร็วพอที่จะตามทันความก้าวหน้าของ NAND ทำให้ต้นทุนต่อ GB ของ Optane ยังคงไม่คุ้มค่าเมื่อเทียบกับการขยาย DRAM หรือเพิ่ม SSD แบบ NAND.

Market Challenges

แม้ว่า Optane จะมีคุณสมบัติเฉพาะที่โดดเด่น เช่น ความทนทานสูงและ latency ต่ำ, การกำหนดราคาที่ “awkwardly priced” ทำให้ผู้ใช้หลายรายมองว่าการซื้อ NAND SSD จำนวนมากหรือเพิ่ม DRAM DIMM ขนาดใหญ่กว่าจะคุ้มค่ากว่า. ผลการสำรวจของตลาดแสดงให้เห็นว่าตัวเลือกที่ดีที่สุดสำหรับลูกค้าส่วนใหญ่คือการขยาย DRAM แทน Optane เนื่องจากประสิทธิภาพโดยรวมและค่าใช้จ่ายต่อ GB ที่ดีกว่า.

ในปี 2021 Micron ประกาศหยุดพัฒนาผลิตภัณฑ์ 3D XPoint อย่างเป็นทางการ, ทำให้ Intel ต้องเผชิญกับการขาดซิลิคอนใหม่สำหรับ SSD และหน่วยความจำแบบถาวร. สุดท้าย Pat Gelsinger ผู้บริหารระดับสูงของ Intel ยืนยันการยุติโครงการ Optane ในปี 2022 พร้อมเปิดตัวผลิตภัณฑ์สุดท้าย P5810X และ P5811X.

AI Inference & KV Cache Context

หลังจากที่ ChatGPT เปิดตัวในเดือนพฤศจิกายน 2022, การใช้งานโมเดลภาษาใหญ่ (LLM) ได้เปลี่ยนแปลงจากการฝึกสอน (training) ไปสู่ขั้นตอน inference ที่ต้องการหน่วยความจำและการจัดเก็บข้อมูลแบบต่อเนื่อง. กระบวนการ inference ใช้ “KV cache” เพื่อบันทึกคู่ค่า key‑value ของสถานะโมเดลระหว่างรอบการสนทนา, ซึ่งในกรณีของโมเดลเช่น DeepSeek R1 ที่มีความยาว 64 000 token สามารถใช้หน่วยความจำ GPU ได้ถึง 4 GB ต่อเซสชัน.

เมื่อจำนวนผู้ใช้เพิ่มเป็นหลายพันหรือหลายหมื่น เซสชัน KV cache จะสะสมเป็นขนาดหลายร้อยเทระไบต์, ทำให้ DRAM ที่มีอยู่ไม่เพียงพอและค่าใช้จ่ายสูง. ผู้ผลิต GPU อย่าง Nvidia ได้ลดปริมาณ LPDDR5X ในแพลตฟอร์ม Vera Rubin เพื่อจัดสรรทรัพยากรให้กับการประมวลผลโมเดล, ทำให้ความต้องการหน่วยความจำเพิ่มเติมจากระบบเป็นเรื่องสำคัญ. การอ offload KV cache ไปยัง SSD NAND มีข้อจำกัดด้าน write endurance ของ NAND ที่มีจำนวนการเขียนจำกัดก่อนเสียหาย.

Analysis & Impact

ถ้าเทคโนโลยี Optane ยังคงอยู่และได้รับการพัฒนาอย่างต่อเนื่อง, ความทนทานต่อการเขียนระดับ 100 DWPD และ latency ต่ำของมันอาจเป็นตัวแก้ปัญหาให้กับ KV cache ที่ต้องการการเขียนแบบสุ่มจำนวนมหาศาล. การใช้ Optane เป็นชั้นเก็บข้อมูลระหว่าง DRAM กับ NAND จะช่วยลดความกดดันต่อราคาของ DRAM, ซึ่งในช่วงหลายปีที่ผ่านมาแสดงแนวโน้มเพิ่มสูงอย่างต่อเนื่องตามอุปสงค์จาก AI และคอมพิวเตอร์ขอบ.

แม้จะมีศักยภาพด้านเทคนิค, ปัจจัยราคาและการไม่เติบโตของความหนาแน่นบิตเป็นข้อจำกัดสำคัญที่ทำให้ Optane ไม่สามารถเข้าตลาดได้อย่างกว้างขวาง. การสูญเสียเทคโนโลยีนี้อาจทำให้ผู้ผลิตเซิร์ฟเวอร์ต้องหาวิธีอื่นในการจัดการกับ KV cache, เช่น การออกแบบ NAND ที่มี endurance สูงขึ้นหรือพัฒนาการใช้ HBM (high‑bandwidth memory) ที่ราคาแพงแต่ประสิทธิภาพดีกว่า.

Summary

เทคโนโลยี Optane ของ Intel ถูกยุติในปี 2022 หลังจากไม่สามารถหาตลาดที่เหมาะสมได้ แม้ว่าคุณลักษณะเช่น latency ต่ำและความทนทานต่อการเขียนสูงจะทำให้มันเป็นผู้สมัครที่ดีสำหรับการจัดการ KV cache ในงาน AI inference. การขาดแคลนหน่วยความจำ DRAM ที่ราคาแพงอาจได้รับการบรรเทาได้ หาก Optane ยังคงอยู่ในสายผลิตภัณฑ์ของตลาด.