Perplexity เผยแพร่โมเดล AI โอเพนซอร์ส R1 1776 ซึ่งนำโมเดล DeepSeek-R1 มาปรับแต่งฝึกฝนใหม่ โดยบอกว่าโมเดลปรับแต่งนี้ได้ตัดอคติ สามารถให้ข้อมูลที่แม่นยำถูกต้อง โดยเฉพาะในคำถามที่ DeepSeek-R1 ไม่ตอบ เนื่องจากถูกเซ็นเซอร์โดยรัฐบาลจีน

การฝึกฝนโมเดล R1 1776 นี้ Perplexity โฟกัสที่หัวข้อซึ่งถูกเซ็นเซอร์จากจีนโดยเฉพาะ ใช้ผู้เชี่ยวชาญสรุปหัวข้อที่มีกว่า 300 หัวข้อที่ถูกควบคุม แล้วสร้างตัวกรองคำถามใหม่ พร้อมกับฝึกฝนด้วย Prompt ที่ควบคุมความเป็นส่วนตัวผู้ใช้งานตามมาตรฐาน บนเฟรมเวิร์ก NeMo 2.0 ของ NVIDIA ออกมาเป็น R1 1776 ที่มีความสามารถการตอบแบบใช้เหตุผลได้ดีเหมือน R1 แต่ไม่ถูกเซ็นเซอร์ในบางคำถาม

ความร้อนแรงของ DeepSeek ยังคงมีต่อเนื่อง ล่าสุดมีรายงานจาก The Information อ้างแหล่งข่าวที่เกี่ยวข้องว่า DeepSeek กำลังพิจารณารับเงินจากนักลงทุนภายนอกเป็นครั้งแรก จากที่ผ่านมาบริษัทรับเงินจาก High-Flyer ซึ่งเป็นกองทุนบริหารความเสี่ยง (Hedge Fund) ที่ Liang Wenfeng ซีอีโอ DeepSeek เป็นเจ้าของ

รายชื่อนักลงทุนที่ถูกระบุในรายงานคือ Alibaba และกองทุนของรัฐบาลจีน ทั้งนี้ Alibaba ปฏิเสธที่จะแสดงความเห็นต่อรายงานนี้

การรับเงินจากนักลงทุนภายนอก อาจทำให้ DeepSeek เริ่มโฟกัสที่การหาโมเดลธุรกิจเพื่อสร้างรายได้มากขึ้น จากปัจจุบัน DeepSeek เน้นไปที่งานวิจัยด้านปัญญาประดิษฐ์เป็นหลัก

นี่มันคือยุคที่สหรัฐฯ กับจีนเดินหน้าแบทเทิลกันแท้ๆ ฝั่งหนึ่งผู้นำเทคระดับโลกก็โชว์ตัวพร้อมหน้าในวันที่ทรัมป์ทำพิธีสาบานตน อีกฝั่งหนึ่งอย่างจีนก็ไม่น้อยหน้าเช่นกัน

สิ่งที่แตกต่างระหว่างจีนกับสหรัฐฯ ที่เห็นได้ชัดก็คือ ในยุคที่ทรัมป์รุ่งเรืองยุคแรก ผู้นำเทคฝั่งอเมริกาต่างเบือนหน้าหนี ใครๆ ก็ไม่เอาทรัมป์

ยุคนั้นคือยุคที่ลิเบอรัลกำลังเบ่งบาน จนในที่สุดผู้นำบิ๊กเทคยักษ์ใหญ่ฝั่งอเมริกาก็โดนหลากหลายประเทศยื่นฟ้องกันถ้วนหน้าในฐานะที่เป็นบริษัทเทคยักษ์ใหญ่ที่ผูกขาด จำนวนไม่น้อยที่ฟ้องสำเร็จและบริษัทเทคต้องก้มหน้ารับกรรมจ่ายเงินชดใช้เยียวยา

ประธานาธิบดี Xi Jinping ของจีน จัดการประชุมเพื่อหารือกับผู้นำบริษัทเทคโนโลยีในจีนหลายแห่งเมื่อวันจันทร์ที่ผ่านมา ในการเร่งการพัฒนาเทคโนโลยีต่าง ๆ จากบริษัทจีน เพื่อให้แข่งขันกับตลาดโลกได้

รายชื่อผู้นำบริษัทเทคโนโลยีที่เข้าร่วมการประชุมนี้ เช่น Ren Zhengfei จาก Huawei, Wang Chuanfu จาก BYD, Jack Ma จาก Alibaba, Lei Jun จาก Xiaomi, Wang Xing จาก Meituan, Pony Ma จาก Tencent, Yu Renrong จาก Will Semiconductor รวมทั้งไฮไลท์ของงานนี้คือ Liang Wenfeng ผู้ก่อตั้ง DeepSeek

Xi Jinping กล่าวว่าจีนจะส่งเสริมและผลักดันการพัฒนาเทคโนโลยีในทุกส่วน เพื่อสร้างโอกาสและความมั่งคั่ง แล้วแสดงความมั่นใจว่าจีนจะเอาชนะการแข่งขันเทคโนโลยีต่าง ๆ ได้

ล่าสุด บริษัท WMDoll หนึ่งในผู้ผลิตตุ๊กตายางรายใหญ่ที่สุดของจีนคาดการณ์ว่า ปีนี้น่าจะทำยอดขายเพิ่มขึ้นได้ 30% หลังบริษัทหันมาใช้ AI เพื่อพัฒนาประสบการณ์ผู้ใช้งาน

Liu Jiangxia ผู้ก่อตั้งและ CEO ของบริษัท WMDoll ให้สัมภาษณ์ว่า ได้เอา AI ไปใช้กับตุ๊กตายางมากขึ้น เพื่อให้ตุ๊กตายางมีการตอบสนองเพิ่มขึ้น มีปฎิสัมพันธ์มากขึ้น เพื่อให้ผู้ใช้งานตุ๊กตายางมีประสบการณ์ที่ดีขึ้น

บริษัท WMDoll ตั้งอยู่ที่เมือง Zhongshan เมืองทางตอนใต้ของจังหวัดกว่างตง โดยบริษัท WMDoll ใช้ AI ในตุ๊กตายาง MetaBox ซึ่งเป็นรุ่นล่าสุดของบริษัท โดยโมดูลดังกล่าวจะเชื่อมต่อกับบริการคลาวด์คอมพิวติ้ง ซึ่งอยู่บนศูนย์ข้อมูลในตลาดต่างๆ ที่ใช้ประมวลผลข้อมูลที่ได้รับจากของเล่นแต่ละชิ้น

Tencent เปิดเผยว่ากำลังทดสอบนำโมเดลปัญญาประดิษฐ์ DeepSeek มาเสริมระบบค้นหาข้อมูลภายในแอป Weixin หรือ WeChat ของจีน โดยแสดงเป็นปุ่ม AI Search ให้เป็นตัวเลือกใช้งาน เพิ่มเติมจากโมเดล Hunyuan ที่เป็นพื้นฐานของ Tencent อยู่แล้ว

ตัวแทนของ Tencent บอกว่าการเปลี่ยนแปลงดังกล่าวมีผลเฉพาะแอปในจีนเท่านั้น ส่วน WeChat ที่ให้บริการนอกจีนยังไม่ได้เพิ่มความสามารถ DeepSeek นี้

นอกจาก Weixin แล้ว Tencent ยังเพิ่มโมเดลของ DeepSeek ในแอปแชทบอต Yuanbao ของตนเองอีกด้วย

มีรายงานเพิ่มเติมหลังจาก Alibaba ประกาศว่าบริษัทได้ทำข้อตกลงร่วมมือกับแอปเปิลเพื่อให้บริการโมเดลปัญญาประดิษฐ์สำหรับ Apple Intelligence ในประเทศจีน เพื่อให้เป็นไปตามข้อกำหนดของหน่วยงานกำกับดูแลที่แอปเปิลต้องมีพาร์ตเนอร์เป็นบริษัทท้องถิ่น

Joe Tsai ประธานและผู้ร่วมก่อตั้ง Alibaba เปิดเผยในงานสัมมนา World Governments Summit ที่ดูไบ ว่าบริษัทได้ทำข้อตกลงความร่วมมือกับแอปเปิล เพื่อนำโมเดลปัญญาประดิษฐ์ Qwen มาใช้กับบริการ Apple Intelligence ที่เป็น AI ในอุปกรณ์ของแอปเปิลสำหรับขายในประเทศจีน

ประกาศของ Tsai นี้ เป็นการให้ข้อมูลอย่างเป็นทางการครั้งแรก หลังจากมีรายงานเมื่อต้นสัปดาห์ว่าแอปเปิลเลือก Alibaba เป็นบริษัทพาร์ตเนอร์ด้าน AI ในจีน

สถิติยอดขายรถยนต์ในประเทศจีน เดือนมกราคม 2025 ค่าย Tesla มียอดขายลดลง 11.5% จากเดือนเดียวกันของปีก่อน ในขณะที่ BYD กลับทิศกันคือเติบโต 47%

ยอดขายเป็นจำนวนคันของ Tesla คือ 63,238 คัน ส่วน BYD ขายได้ 296,446 คัน ส่วนรถยนต์ไฟฟ้าจีนยี่ห้ออื่นๆ อย่าง Changan และ Xpeng ก็เติบโตเช่นกัน

ที่มา - CNBC

ทีมนักวิจัยจากประเทศไทย 3 คน และช่างภาพอีก 1 คน เดินทางไปทำวิจัยที่ขั้วโลกใต้ (แอนตาร์กติก) ถือเป็นคณะคนไทยที่เดินทางทำวิจัยไปขั้วโลกใต้ในรอบ 11 ปี (ไปคราวก่อนคือ 2557)

การเดินทางครั้งนี้อยู่ภายใต้ "โครงการวิจัยขั้วโลกตามพระราชดำริ สมเด็จพระกนิษฐาธิราชเจ้า กรมสมเด็จพระเทพรัตนราชสุดาฯ สยามบรมราชกุมารี" ของ "มูลนิธิเทคโนโลยีสารสนเทศตามพระราชดำริ สมเด็จพระเทพรัตนราชสุดาฯ สยามบรมราชกุมารี" ที่มีความร่วมมือกับหน่วยงานด้านขั้วโลกของประเทศจีน (PRIC) ทำให้สามารถส่งนักวิจัยไทยไปทำวิจัยที่สถานีวิจัยเกรทวอลล์ (Great Wall Station) ของจีนได้

ทีมจากไทยทั้ง 4 คนได้แก่

หน่วยงานกำกับดูแลการแข่งขันของรัฐบาลจีน (State Administration for Market Regulation หรือตัวย่อ SAMR) ประกาศสอบสวนกูเกิล โดยให้เหตุผลว่าละเมิดกฎหมายด้านการผูกขาดของจีน

ข้อมูลบนหน้าเว็บของ SAMR มีเพียงเท่านี้ ยังไม่มีรายละเอียดว่ากูเกิลไปละเมิดกฎหมายผูกขาดของจีนอย่างไร แถมกูเกิลเองก็ถอนตัวจากธุรกิจเกือบทั้งหมดในจีนมาตั้งแต่ปี 2010 แล้ว แม้ยังมีธุรกิจบางส่วนเหลืออยู่บ้าง เช่น ธุรกิจโฆษณา และธุรกิจคลาวด์

ประกาศสอบสวนกูเกิลในข้อหาผูกขาด มาพร้อมกับประกาศของรัฐบาลจีนที่ตอบโต้รัฐบาลสหรัฐของ Donald Trump ขึ้นภาษีสินค้าจากจีน 10% โดยฝั่งจีนขึ้นภาษีกลับ 10-15% ทำให้สื่อตะวันตกมองว่าการเข้ามาสอบสวนกูเกิล น่าจะเป็นหนึ่งในมาตรการโต้ตอบสหรัฐอเมริกา

ญี่ปุ่นออกนโยบายเพิ่มความเข้มงวดในการควบคุมการส่งออกโปรเซสเซอร์ขั้นสูง เครื่องทำความเย็นสำหรับคอมพิวเตอร์ควอนตัม และเครื่องลิโธกราฟี เพื่อป้องกันการใช้งานทางทหาร

นโยบายใหม่นี้จะมีผลบังคับใช้ในเดือนพฤษภาคม และกำหนดให้บริษัทต่าง ๆ ต้องได้รับใบอนุญาตเพื่อส่งออกสินค้ากลุ่มนี้ ก่อนที่จะนำไปขายในต่างประเทศ

นอกจากนี้ ญี่ปุ่นยังเพิ่มบริษัทจีนอีก 42 แห่งเข้ารายชื่อในบัญชีดำ ทำให้จำนวนหน่วยงานที่ถูกจำกัดเพิ่มขึ้นเป็นประมาณ 110 แห่ง ซึ่งคล้ายกับมาตรการของสหรัฐฯ ที่ระงับการส่งออก GPU NVIDIA ไปยังจีน

ในคำสั่งประธานาธิบดีของ Donald Trump ที่ขึ้นภาษีนำเข้าสินค้าจากแคนาดาและเม็กซิโก 25% และจีน 10% มีประเด็นที่น่าสนใจคือ คำสั่งนี้ครอบคลุมเรื่องสินค้ามูลค่าต่ำ (ภาษาในวงการคือ de minimis)​ ซึ่งเดิมทีได้รับการยกเว้นภาษีเป็นพิเศษตามข้อตกลงด้านไปรษณีย์สากลที่มีมาตั้งแต่ทศวรรษ 1930s แต่คราวนี้ Trump จะเก็บภาษีทุกกรณีแล้ว

“แค่จีนสอดแนมวัยรุ่นที่ดูวิดีโอบ้าๆ บอๆ นี่มันสำคัญขนาดนั้นเลยหรอ?” นี่คือคำพูดของประธานาธิบดีโดนัลด์ ทรัมป์ หลังมียอดวิวจาก TikTok ถล่มทลายระดับพันล้านวิว และสหรัฐฯ พยายามจะแบน TikTok

ก่อนหน้านั้น ทรัมป์นี่แหละคือตัวตั้งตัวตีที่อยากจะแบน TikTok เอง

นักกฎหมายอเมริกันส่วนใหญ่เห็นด้วยว่า TikTok เป็นภัยเสี่ยงต่อประเทศชาติ หน่วยงานรัฐบาล และกองทัพก็ออกคำสั่งห้ามคนในหน่วยงานดาวน์โหลดแอปบนโทรศัพท์มือถือที่เอาไว้สำหรับทำงาน ตั้งแต่สมัยทรัมป์ดำรงตำแหน่งสมัยแรก

ประเด็นร้อนแรงของวงการเทคตอนนี้คงไม่พ้น DeepSeek บริษัทปัญญาประดิษฐ์จากจีนที่ออกโมเดล R1 มีความสามารถคิดเป็นขั้นตอน และมีผลทดสอบหลายด้านชนะ o1 ของ OpenAI พร้อมจุดเด่นคือต้นทุนการฝึกที่ต่ำกว่ามาก แถมยังโอเพนซอร์ส เรื่องนี้จึงอาจนำมาสู่การเปลี่ยนแปลงหลายอย่างในการพัฒนา AI ซึ่งไม่ใช่แค่จากจีนแต่อาจส่งผลทั้งวงการได้

DeepSeek บริษัทปัญญาประดิษฐ์จากจีนเปิดตัวโมเดล DeepSeek-R1 โมเดล LLM แบบคิดหาเหตุผลก่อนตอบ (reasoning model) โดยแบ่งเป็นสองรุ่นย่อย คือ

กระทรวงการต่างประเทศของจีนออกมาให้ความเห็นล่าสุดในประเด็น TikTok ถูกแบนในสหรัฐอเมริกา ซึ่งกฎหมายระบุว่า ByteDance ต้องขาย TikTok ในอเมริกาออกมา บอกว่าบริษัทสามารถตัดสินใจเรื่องการดำเนินงานและการควบรวมกิจการได้เอง ซึ่งต่างไปจากท่าทีก่อนหน้านี้ที่ไม่ต้องการให้เกิดการขายธุรกิจออกมา

ประธานาธิบดี Donald Trump ให้ความเห็นก่อนหน้านี้ว่า อาจแก้ปัญหา TikTok โดยบริษัทร่วมทุนที่เป็นบริษัทจีนและอเมริกาถือหุ้นรายละ 50%

Canalys ออกสถิติยอดขายสมาร์ทโฟนในประเทศจีน ประจำไตรมาส 4/2024 ยอดขายรวม 77.4 ล้านเครื่อง เพิ่มขึ้น 5% จากไตรมาสเดียวกันของปีก่อน และถ้ารวมตัวเลขทั้งปี 2024 ตลาดโตถึง 5%

แชมป์ยอดขายในไตรมาส 4/2024 คือแอปเปิล ซึ่งเป็นปกติที่ยอดขาย iPhone ของปีนั้นๆ พุ่งแรงในไตรมาส 4 อยู่แล้ว ขายได้ 13.1 ล้านเครื่อง แต่เป็นการชนะแบบเฉียดฉิวมากๆ (Vivo ขายได้ 12.9 ล้านเครื่อง) ต่างจากปีก่อนที่ชนะขาด (17.5 ล้านเครื่อง vs 11.3 ล้านเครื่อง) และถ้านับรวมตัวเลขทั้งปี 2024 แอปเปิลร่วงไปอยู่อันดับสาม โดย Vivo ขึ้นมาครองแชมป์ตลาดจีนด้วยส่วนแบ่ง 17%, ตามติดๆ ด้วย Huawei 16%

ประธานาธิบดี Joe Biden ออกคำสั่งห้ามขายและนำเข้ายานพาหนะที่มีการเชื่อมต่อออนไลน์จากประเทศจีนและรัสเซียในสหรัฐอเมริกา ด้วยเหตุผลด้านความมั่นคง

คำสั่งนี้จะมีผลทั้งส่วนฮาร์ดแวร์ที่มีระบบเชื่อมต่อส่วนต่าง ๆ และซอฟต์แวร์ระบบขับขี่ โดยส่วนของซอฟต์แวร์เริ่มมีผลบังคับใช้กับรุ่นปี 2027 เป็นต้นไป และฮาร์ดแวร์เชื่อมต่อมีผลในปี 2030 คำสั่งนี้ยังมีผลรวมไปถึงรถยนต์ที่ผลิตในอเมริกา ซึ่งมีบริษัทจากจีนหรือรัสเซียเกี่ยวข้องเป็นเจ้าของด้วย

กระทรวงพาณิชย์สหรัฐบอกว่าคำสั่งนี้มีผลกับรถยนต์ส่วนบุคคลและรถบรรทุก โดยให้ข้อยกเว้นสำหรับรถบางประเภท เช่น รถเมล์ไฟฟ้า จึงทำให้ BYD ซึ่งมีโรงงานประกอบในรัฐแคลิฟอร์เนีย ไม่เข้าเกณฑ์ดังกล่าว

ล่าสุด หน่วยกำกับดูแลของจีนออกมาจำกัดเวลาเล่นเกมของเด็ก ให้อยู่ที่ 15 ชั่วโมงต่อเดือน ในช่วงปิดเทอม โดยอ้างว่าที่ออกกฎเช่นนี้ก็เพื่อป้องกันไม่ให้เด็กติดเกม

ทั้ง Tencent Holdings และ NetEase สองค่ายยักษ์ใหญ่ผู้ผลิตเกมของจีนก็ออกมาขานรับนโยบายเรียบร้อย โดย Tencent ระบุไว้เมื่อวันพฤหัสบดีที่ผ่านมาว่า เด็กที่มีอายุต่ำกว่า 18 ปี สามารถเล่นเกมได้เพียง 15 ชั่วโมงเท่านั้นในช่วง 13 มกราคม ถึง 13 กุมภาพันธ์นี้

ขณะที่ NetEase ก็เป็นอีกหนึ่งบริษัทที่ออกมาขานรับนโยบายเช่นกัน แต่จำกัดให้เล่นเกมไม่เกิน 16 ชั่วโมง ช่วงระหว่าง 15 มกราคมถึง 14 กุมภาพันธ์

Meng Wanzhou ประธานเจ้าหน้าที่ฝ่ายการเงินของ Huawei ออกมาชื่นชมบริษัทในช่วงปีใหม่ หลังเจอกับความท้าทายจากการถูกสหรัฐอเมริกาคว่ำบาตรในช่วง 6 ปีที่ผ่านมา ตั้งแต่การพัฒนาชิป AI ไปจนถึงการนำระบบปฏิบัติการ HarmonyOS มาใช้เพิ่มมากขึ้น

Meng ชื่นชมทีม hybrid engineer ที่สร้างความก้าวหน้าในด้านต่างๆ เช่น การกระจายความร้อน การจ่ายไฟ การส่งข้อมูลความเร็วสูง และความน่าเชื่อถือของชิป ทั้งหมดนี้เกิดขึ้นได้จากความร่วมมือกับพาร์ทเนอร์หลายฝ่าย ซึ่งนำไปสู่การออกแบบชิปแบนด์วิธสูงที่ใช้สำหรับฝึกโมเดล AI

Akamai ผู้ให้บริการ content delivery network (CDN) รายใหญ่ของโลก ประกาศถอนตัวออกจากธุรกิจ CDN ในประเทศจีนวันที่ 30 มิถุนายน 2026 โดยจะให้พาร์ทเนอร์ในจีนสองรายคือ Tencent Cloud และ Wangsu Science & Technology มารับช่วงลูกค้าต่อแทน

Akamai ไม่ได้ให้เหตุผลว่าทำไมถึงเลิกทำธุรกิจ CDN ในจีน (แม้คนตั้งคำถามเรื่องเงื่อนไขการต้องส่งข้อมูลให้หน่วยงานภาครัฐจีน) แต่ Tom Leighton ซีอีโอของบริษัทเคยแถลงเอาไว้ว่ากำลังปรับเปลี่ยนธุรกิจจาก CDN มาสู่ธุรกิจความปลอดภัยไซเบอร์และคลาวด์แทน

แอปเปิลออกแคมเปญลดราคาสินค้าหลายรายการในประเทศจีน โดย iPhone ลดราคาสูงสุด 500 หยวน หรือประมาณ 2,300 บาท สำหรับ iPhone 16 Pro และ iPhone 16 Pro Max โปรโมชันนี้จัดขึ้นเป็นเวลา 4 วันระหว่างวันที่ 4-7 มกราคม เมื่อซื้อผ่านเว็บไซต์ของแอปเปิล หรือที่ร้าน Apple Store ในประเทศ

การออกโปรโมชันลดราคาในจีนครั้งนี้เป็นปีที่สองที่จัดขึ้น ครั้งแรกทำเมื่อปีที่แล้ว โดยที่ผ่านมาการลดราคาสินค้าแอปเปิลในจีนจะทำผ่านช่องทางตัวแทนจำหน่าย หรือเว็บไซต์อีคอมเมิร์ซอื่น การที่แอปเปิลลงมาทำโปรโมชันเองโดยตรง จึงอาจสะท้อนการแข่งขันในตลาดสมาร์ทโฟนจีนที่แอปเปิลเผชิญอยู่ตอนนี้ได้

เว็บไซต์ TechCrunch เผยแพร่จดหมายของกระทรวงการคลังสหรัฐ (Department of the Treasury) ส่งถึงประธานกรรมาธิการด้านการธนาคารของวุฒิสภาสหรัฐ รายงานว่าพบการแฮ็กระบบภายในของกระทรวง โดยกลุ่มแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลจีน

ตอนนี้ยังมีรายละเอียดของการแฮ็กครั้งนี้เปิดเผยออกมาไม่เยอะนัก บอกแค่ว่าผู้ค้นพบการแฮ็กครั้งนี้คือบริษัทซอฟต์แวร์ด้านการยืนยันตัวตน BeyondTrust แล้วจึงแจ้งเตือนมายังกระทรวงในวันที่ 8 ธันวาคม 2024 แฮ็กเกอร์ได้คีย์ของ Beyond Trust ผ่านมาทางระบบสนับสนุนไอทีของกระทรวง และสามารถเข้าถึงเอกสารจำนวนหนึ่งได้

DeepSeek ผู้พัฒนาปัญญาประดิษฐ์ LLM จากจีน ปล่อยโมเดล DeepSeek v3 โมเดล LLM ขนาดใหญ่มาก จำนวนพารามิเตอร์มากขึ้น 685B จากเดิมที่โมเดลเปิดใหญ่สุดคือ Llama 3.1 405B

ตอนนี้ยังไม่มีข้อมูลเกี่ยวกับโมเดลนี้นัก แต่ทาง Aider โครงการซอฟต์แวร์ช่วยเขียนโปรแกรมก็โชว์ผลทดสอบพบว่า DeepSeek v3 ทำคะแนนทดสอบได้ดีมาก แซงหน้า Claude 3.5 Sonnet อละ Gemini Exp 1206 ไปได้ เป็นรองเพียง OpenAI o1 เท่านั้น ตัวโมเดลใช้สถาปัตยกรรม Mixture-of-Experts แยก expert ออก 256 ชุด และเลือกใช้ 8 ชุดในแต่ละ token