กูเกิลประกาศเปลี่ยนชื่อ TensorFlow Lite (TF Lite) รันไทม์สำหรับรันโมเดล AI บนอุปกรณ์พกพา มาเป็นชื่อใหม่ LiteRT (RT = Runtime)

เหตุผลที่เปลี่ยนเป็นเพราะ TensorFlow Lite พัฒนาตัวเองไปไกลมากกว่า TensorFlow โดยรองรับโมเดลที่พัฒนาด้วยเฟรมเวิร์คยี่ห้ออื่นๆ เช่น PyTorch, JAX, Keras ด้วย รองรับโมเดลหลายรูปแบบทั้ง ML, LLM, diffusion ทำให้การมีคำว่า TensorFlow แปะอยู่ในชื่อจึงชวนให้สับสน ว่าตกลงแล้วใช้กับโมเดลค่ายไหนได้บ้าง

ชื่อใหม่ LiteRT สืบทอดคำว่า Lite ของเดิมต่อ และต้องการแสดงให้เห็นว่าเป็นรันไทม์ขนาดเบา (lite) เอาไว้รันงาน on-device AI บนอุปกรณ์พกพาได้หลากหลาย

ทีม TensorFlow ประกาศแผนการออกเวอร์ชันใหญ่รุ่นหน้า (น่าจะเรียกว่า TensorFlow 3 นับต่อจาก TensorFlow 2.x ในปัจจุบัน เวอร์ชัน 2.0 ออกเมื่อปี 2019) โดยมีกำหนดออกรุ่นพรีวิวในไตรมาส 2/2023 และออกรุ่นจริงภายในปี 2023

ทีม TensorFlow การันตีว่าโค้ดเก่าทั้งหมดของ TensorFlow 2 จะเข้ากันได้กับเวอร์ชันใหม่ 100% ไม่ต้องแก้หรือแปลงโค้ดของเก่าใดๆ นำมารันได้ทันที

ของใหม่ใน TensorFlow เวอร์ชันถัดไป แบ่งออกเป็น 4 หมวด ได้แก่

• Fast and scalable

ทีม Google Research ปล่อยโครงการ TensorFlow 3D (TF 3D) โมเดลปัญญาประดิษฐ์สำหรับตรวจจับวัตถุสามมิติโดยเฉพาะ สำหรับใช้งานจากข้อมูลที่ได้จากเซ็นเซอร์สามมิติไม่ว่าจะเป็นโมดูล LIDAR หรือกล้องสามมิติก็ตาม

TF 3D มีโมเดลสำหรับแยกส่วนวัตถุจากข้อมูลสามมิติ (segmentation) และตรวจจับวัตถุ (object detection) การตรวจจับวัตถุจะได้เอาต์พุตเป็นกล่องสามมิติ สามารถบอกจุดศูนย์กลางและทิศทางที่วัตถุหันอยู่ได้

ตัวโครงการพัฒนาบน TensorFlow 2 รองรับชุดข้อมูล Waymo Open (สแกนถนน), ScanNet (ในอาคาร), และ Rio สำหรับการฝึก

ที่มา - Google AI Blog

แอปเปิลปล่อย TensorFlow 2.4 เวอร์ชัน fork ที่ปรับแต่งให้ทำงานได้ดีขึ้นบน Mac ทั้งรุ่นที่ใช้ซีพียูอินเทล และรุ่นที่ใช้ชิป M1 ทำให้นักพัฒนาสามารถดึงประสิทธิการทำงานของหน่วยประมวลที่สูงสุดระดับซีพียู 8 คอร์ และจีพียู 8 คอร์ ได้

แอปเปิลยังลงผลการทดสอบเปรียบเทียบเวลาที่ใช้ในการเทรนโมเดลแต่ละ batch โดยเทียบระหว่าง TensorFlow 2.3 เดิม และรุ่น fork บนเครื่องซีพียูอินเทล และ M1 พบว่าเวลาที่ใช้เร็วขึ้นถึง 7 เท่าเมื่อประมวลผลบน MacBook Pro จอ 13 นิ้ว ชิป M1

ผู้ใช้ Mac สามารถดาวน์โหลดได้ที่ GitHub โดยโครงการ TensorFlow กล่าวว่าในอนาคตจะนำเวอร์ชัน fork นี้มารวมกับ master branch ของโค้ดหลัก

กูเกิลเขียนบล็อกอธิบายถึงโครงการ Pixelopolis ที่เป็นโครงการสาธิตการใช้ TensorFlow Lite เพื่อสร้างปัญญาประดิษฐ์สำหรับแท็กซี่ไร้คนขับที่ประมวลผลด้วยโทรศัพท์ Pixel 4 เพียงเครื่องเดียว

Pixelopolis มีแอปเรียกแท็กซี่ไปยังจุดต่างๆ ในเมืองจำลองที่มีป้ายบอกตำแหน่ง ตัวรถแท็กซี่จิ๋วต้องสามารถขับรถให้อยู่กลางเลน, หยุดรถเพื่อหลบหลีกรถคันอื่นๆ บนถนน, และอ่านป้ายบอกทางให้ถูกต้อง โดยมีโมเดลปัญญาประดิษฐ์แบบ deep learning สองโมเดล คือโมเดลควบคุมทิศทางให้อยู่ในเลน (lane keeping) และโมเดลตรวจจับวัตถุโดยรอบ

โครงการ TensorFlow เปิดตัว TensorFlow Developer Certificate ใบรับรองความสามารถของนักพัฒนาว่าสามารถทำงานกับโมเดลแบบต่างๆ ได้ครอบคลุม

นักพัฒนาที่จะสอบผ่านใบรับรองได้ต้องผ่านการทดสอบ 5 หมวดได้แก่ การสร้างโมเดลพื้นฐาน, การสร้างโมเดลจากชุดข้อมูล, โมเดล convolutional neural network (CNN) สำหรับการวิเคราะห์ภาพ, การทำ NLP จัดหมวดหมู่ข้อความ, และการสร้างโมเดลแบบ sequence เพื่อวิเคราะห์ชุดข้อมูลตัวเลข

ทีม TensorFlow ของกูเกิลร่วมกับมหาวิทยาลัย Waterloo และ Volkswagen สร้างไลบรารี TensorFlow Quantum (TFQ) ที่เป็น TensorFlow เวอร์ชั่นเตรียมพร้อมทำงานร่วมกับคอมพิวเตอร์ควอนตัม

TFQ ต่างจาก TensorFlow ปกติหลายอย่าง โดยมันต้องใช้งานร่วมกับข้อมูลควอนตัม (quantum data) ไม่ใช่ข้อมูลปกติ และตัวโมเดลยังแบ่งออกเป็นสองส่วน เรียกว่า hybrid quantum-classical models โดยข้อมูลควอนตัมจะผ่านโมเดลนิวรอนควอนตัม จากนั้นแปลงเป็นข้อมูลคลาสสิคด้วยการหาค่าเฉลี่ย (sample of average) ออกมา เพื่อเข้าโมเดลนิวรอนแบบปกติต่อไป

ปัญญาประดิษฐ์ในกลุ่มการวิเคราะห์ภาพทุกวันนี้พัฒนาไปอย่างรวดเร็วในแง่ฟีเจอร์ ทั้งการจัดหมวดหมู่ภาพ, การตรวจจับวัตถุ, หรือการบรรยายภาพ แต่ในความเป็นจริงแล้ว ปัญญาประดิษฐ์ส่วนมากมักรับอินพุตเป็นภาพขนาดเล็กเพื่อวิเคราะห์ ไม่เช่นนั้นโมเดลจะมีขนาดใหญ่เกินไป ล่าสุดกูเกิลโอเพซอร์สโครงการ Mesh-TensorFlow เฟรมเวิร์คสำหรับวิเคราะห์ภาพขนาดใหญ่ระดับร้อยล้านพิกเซล

โครงการ Knative เป็นซอฟต์แวร์ที่กูเกิลพัฒนาขึ้นเพื่อขยายความสามารถของ Kubernetes ให้จัดการรันงานที่เป็น serverless ได้ (Run serverless containers on Kubernetes with ease)

กูเกิลสร้าง Knative ขึ้นมาใช้กับ Google Cloud Platform ของตัวเอง แม้ตัวซอฟต์แวร์เป็นโอเพนซอร์สตามสไตล์กูเกิล แต่กระบวนการพัฒนายังอิงอยู่กับทีมงานของกูเกิลเป็นหลัก ไม่มีองค์กรกลางขึ้นมาดูแลแบบเดียวกับ Cloud Native Computing Foundation (CNCF) ที่ปัจจุบันดูแลการพัฒนา Kubernetes และซอฟต์แวร์ที่เกี่ยวข้องตัวอื่นๆ

กูเกิลเปิดตัว TensorFlow Enterprise ไบนารีรุ่นพิเศษของ TensorFlow ที่ปรับแต่งมาเพื่อการทำงานร่วมกับ Google Cloud Platform โดยเฉพาะ พร้อมกับรับประกันแพตช์ความปลอดภัยยาว 3 ปีสำหรับลูกค้าองค์กรที่ไม่ต้องการเปลี่ยนเวอร์ชั่นบ่อยๆ

ความสามารถเฉพาะของ TensorFlow Enterprise คือการอ่านข้อมูลจาก Cloud Storage ได้เร็วกว่า TensorFlow ปกติมาก ผลทดสอบของกูเกิลแสดงว่าอ่านได้เร็วกว่าเกือบเท่าตัว ขณะเดียวกันก็เพิ่มความสามารถดึงข้อมูลจาก BigQuery ได้โดยตรง (ฟีเจอร์ปล่อยเป็นโอเพนซอร์สแล้ว)

TensorFlow ประกาศออกรุ่น 2.0 ตัวจริง หลังจากปล่อยรุ่นอัลฟ่าเมื่อเดือนมีนาคมที่ผ่านมา โดยความเปลี่ยนแปลงสำคัญ คือ รุ่นนี้จะผูกกับ Keras แน่นแฟ้นกว่าเดิม และกระบวนการพัฒนาจะเหมือนกับเขียนโปรแกรมไพธอนทั่วไปมากขึ้น จากการปรับรูปแบบฟังก์ชั่นและการเปิดฟีเจอร์ eager execution เป็นค่าเริ่มต้น

ตัวไฟล์โมเดล SavedModel ของ TensorFlow ถูกปรับปรุังเป็นมาตรฐาน ทำให้นำโมเดลไปรันได้ทั้งบนคลาวด์, บนอุปกรณ์ปลายทาง ด้วย TensorFlow Lite, และบนเว็บด้วย TensorFlow.JS

สถาปัตยกรรมด้านล่างปรับปรุงหลายอย่าง ทำให้รันบนชิปใหม่ๆ เช่น Volta และ Turing ได้ประสิทธิภาพสูงขึ้นมากเมื่อฝึกโมเดลแบบผสมความละเอียดตัวเลขทศนิยม (mixed precision)

สัปดาห์ที่ผ่านมา กูเกิลเปิดตัวผลิตภัณฑ์สาย AI หลายตัว ส่วนใหญ่เป็นซอฟต์แวร์ในตระกูล TensorFlow เช่น TensorFlow 2.0 Alpha, TensorFlow JS, TensorFlow Privacy, TensorFlow Lite 1.0 แต่ก็ยังมีโครงการฮาร์ดแวร์เปิดตัวด้วยเช่นกัน

โครงการฮาร์ดแวร์ใช้ชื่อแบรนด์ว่า Coral มันเป็นชุดฮาร์ดแวร์ DIY เพื่อประมวลผล AI แบบโลคัล ไม่ต้องส่งขึ้นคลาวด์

SparkFun ร่วมมือกับกูเกิลเปิดตัวบอร์ด SparkFun Edge บอร์ดไมโครคอนโทรลเลอร์ประหยัดพลังงานแต่ยังมีพลังประมวลผลพอจะทำงานปัญญาประดิษฐ์ เช่น การจดจำภาพหรือจดจำเสียง โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต และใช้พลังงานต่ำเพียงพอที่จะใช้ถ่านกระดุมเท่านั้น

ตัวบอร์ด SparkFun Edge ใช้ชิป Ambiq Micro Apollo3 คอร์เป็น Cortex-M4F 48MHz เร่งเทอร์โบได้ถึง 96MHz แรม 1MB หน่วยความแฟลช 384KB ขณะที่พลังประมวลผลสูงแต่การกินกระแสสูงสุดประมาณ 1mA เท่านั้น โดยรวมสามารถใช้พลังงานจากถ่านกระดุม CR2032 ได้นานหลายวันหรืออาจจะหลายสัปดาห์ ด้านการเชื่อมต่อบนบอร์ดมีไมโครโฟน 2 ตัว, พอร์ตเชื่อมต่อกล้อง, และ accelerometer

วันนี้ นอกจาก TensorFlow 2.0 Alpha แล้ว Google ก็ได้เปิดตัวไลบรารี TensorFlow อีกตัวหนึ่งด้วยในชื่อว่า TensorFlow Privacy ซึ่งวางตำแหน่งเป็นไลบรารีสำหรับงานด้าน machine learning ที่ต้องการันตีความเป็นส่วนตัว

Google ระบุว่า TensorFlow Privacy เกิดขึ้นมาเนื่องจาก machine learning ในยุคนี้ถูกประยุกต์ใช้กับเทคโนโลยีและประสบการณ์ผู้ใช้ใหม่ ๆ เสมอ ซึ่งหลายครั้งจะต้องเทรนข้อมูลสำคัญอย่างเช่นรูปถ่ายส่วนตัวหรืออีเมล Google จึงเปิดตัว TensorFlow Privacy ที่มีเทคนิค machine learning แบบเน้นความเป็นส่วนตัวมาก ๆ มาให้ใช้งาน

กูเกิลปล่อยโครงการย่อยสำหรับ TensorFlow บนภาษาอื่นๆ เพิ่มเติมในงาน TensorFlow Dev Summit ปีนี้ โดยอัพเดต TensorFlowJS เป็นรุ่น 1.0 พร้อมใช้งานแล้ว

TensorFlowJS มาพร้อมกับเมเดลพร้อมใช้ 5 โมเดล ได้แก่

• MobileNet จัดหมวดหมู่ภาพ
• PoseNet จับท่าทางคน
• CocoSSD ตรวจจับวัตถุในภาพ
• Speech command จับคำสั่งจากเสียง 1 วินาที
• KNN Classifier จัดหมวดหมู่ข้อมูลแบบ k-nearnest

ดาวน์โหลด TensorFlowJS ได้จาก GitHub: tensorflow/tfjs-core

TensorFlow ประกาศเปิดตัววิชาเรียนฟรี 2 ชุดพร้อมกันบนสองแพลตฟอร์ม คือ Coursera และ Udacity

บน Coursera คือวิชา Intro to TensorFlow for AI, ML and DL เป็นการสอน TensorFlow ระดับเริ่มต้น เวลารวมชั่วโมงกว่าๆ เท่านั้น โดยวิชานี้เป็นวิชาแรกในชุดวิชา TensorFlow: from Basics to Mastery ที่จะเปิดวิชาอื่นเพิ่มภายหลัง

ที่งาน TensorFlow Dev Summit ทีมงาน TensorFlow ประกาศปล่อยรุ่น 2.0.0 alpha ออกมาให้ใช้งานกันแล้ว โดยความเปลี่ยนแปลงสำคัญคือโมเดลการเขียนโปรแกรมจากเดิมที่ต้องคิดเป็นกราฟ ในเวอร์ชั่นนี้จะสามารถเขียนโปรแกรมได้คล้ายไพธอนปกติมากขึ้น

Gmail มีระบบกรองสแปมมานานแล้ว กูเกิลบอกว่าสามารถกรองได้ 99.9% แต่ระบบกรองใหม่ล่าสุดที่ใช้พลังของ TensorFlow ก็ช่วยกรองสแปมได้แม่นยำกว่าเดิม กูเกิลไม่ได้บอกว่าเพิ่มเป็นกี่เปอร์เซ็นต์ แต่บอกว่ากรองได้เพิ่มอีกวันละ 100 ล้านฉบับ

กูเกิลอธิบายว่าการใช้ TensorFlow ช่วยป้องกันสแปมในกรณีที่ตรวจจับได้ยาก เช่น เป็นอีเมลที่แนบไฟล์รูป ฝังเนื้อหาที่มองไม่เห็นมาด้วย หรือเป็นอีเมลที่ส่งจากโดเมนใหม่ที่ยังไม่เคยมีประวัติการส่งสแปมมาก่อน ดังนั้นการใช้เทคนิค machine learning ให้เรียนรู้แพทเทิร์นของอีเมลแบบนี้ จะช่วยป้องกันสแปมในกรณีเหล่านี้ได้แม่นยำขึ้น

ที่มา - Google

Rajat Monga หัวหน้าฝ่ายวิศวกรรมของโครงการ Tensorflow เปิดเผยในงาน World AI Conference (WAIC) ที่เซี่ยงไฮ้ว่าภายในปีนี้ โค้ดรองรับเอเอ็มดีผ่านแพลตฟอร์ม ROCm น่าจะถูกรวมเข้ามาสู่โครงการหลักภายในปีนี้ หลังจากที่โครงการหลักรองรับเฉพาะชิปกราฟิก NVIDIA มาตั้งแต่เริ่มโครงการ

เอเอ็มดีเปิดตัว ROCm มาตั้งแต่ปลายปี 2016 แม้จะทำให้ Tensorflow ใช้งานบนชิปเอเอ็มดีได้ตั้งแต่เปิดตัว แต่ก็เป็นโค้ดที่แยกโครงการออกไปต่างหากจากโครงการหลัก โค้ด ROCm Tensorflow เวอร์ชั่นล่าสุดที่ออกมาคือเวอร์ชั่น 1.8 ขณะที่โครงการหลักอยู่ที่เวอร์ชั่น 1.10

โครงการ TensorFlow ประกาศรองรับ Raspberry Pi อย่างเป็นทางการ โดยอาศัยไลบรารี libatlas ใน Raspbian 9

ตอนนี้ TensorFlow 1.9 ใน PyPI เป็นเวอร์ชั่นที่รองรับ Raspberry Pi แล้วทำให้ผู้ใช้ Raspbian ใช้เพียงสองคำสั่งคือ

sudo apt install libatlas-base-dev
pip3 install tensorflow

ข้อจำกัดสำคัญของ Raspberry Pi คงเป็นเรื่องของหน่วยความจำที่มีความจุไม่มากนัก การออกแบบโมเดลสำหรับคอมพิวเตอร์ขนาดเล็กเช่นนี้คงต้องเลือกโมเดลที่มีขนาดเล็กพอ และยังทำงานได้ดี

ที่มา - TensorFlow

หัวข้อหนึ่งที่น่าสนใจในงาน Google I/O 2018 คือ TensorFlow Lite เอนจินสำหรับประมวลผล deep learning ในอุปกรณ์พกพา ที่ทำงานได้ทั้งบน Android, iOS และลินุกซ์

กูเกิลเปิดตัว TensorFlow Lite ตั้งแต่งาน I/O ปี 2017 แต่ตอนนั้นยังไม่ค่อยมีใครเห็นภาพมากนักว่ามันคืออะไร เป้าหมายมีไว้ทำไม แต่เมื่อเวลาผ่านมาอีก 1 ปี ความชัดเจนก็เริ่มตามมา

โครงการ TensorFlow เปิดตัวโครงการย่อย TensorFlow.js สำหรับการพัฒนาโมเดล deep learning บนเบราว์เซอร์หรือ Node.js (กำลังพัฒนา) โดยมุ่งเป้าจะทำให้โมเดล deep learning ที่รันบนจาวาสคริปต์นี้เร่งความเร็วด้วยฮาร์ดแวร์แบบเดียวกับโครงการหลัก

การรันโมเดลบนเบราว์เซอร์จะอาศัย WebGL ในการเชื่อมต่อกับชิปกราฟิกเพื่อเร่งความเร็ว ขณะที่การรันบน Node.js เตรียมจะรองรับทั้งบนชิปกราฟิก, ซีพียู, และ TPU ชิปสำหรับ deep learning ของกูเกิลเอง

โครงการ TensorFlow.js เป็นการพัฒนาต่อมาจาก deeplearn.js ที่เปิดตัวไปปีที่แล้ว แต่พัฒนาต่อเพิ่มเลย์เยอร์สำเร็จรูปเข้ามาโดยใช้ API ที่ใกล้เคียงกับ Keras

Google รายงานการใช้เทคโนโลยี TensorFlow เพื่อปกป้องการลักลอบตัดไม้ทำลายป่า ซึ่งปัจจุบันการตัดไม้ทำลายป่านั้นปล่อยก๊าซเรือนกระจกคิดเป็นหนึ่งในห้าของสาเหตุการปล่อยก๊าซเรือนกระจกทั้งหมด

Google ได้ร่วมมือกับ Rainforest Connection ซึ่งเป็นกลุ่มวิศวกรที่เน้นการพัฒนาเทคโนโลยีสำหรับคนท้องถิ่น อย่างเช่นชาว Tembé ซึ่งอยู่ในใจกลางอเมซอน เพื่อพัฒนาเทคโนโลยีให้พวกเขาสามารถปกป้องถิ่นที่อยู่ของตัวเองได้ และจะเป็นการปกป้องการเปลี่ยนแปลงสภาพภูมิอากาศที่เกิดจากการตัดไม้ทำลายป่าอีกด้วย

ปัญหา deep learning อย่างหนึ่งที่มีการพัฒนามายาวนานคือการแบ่งส่วนภาพระดับพิกเซล หรือปัญหา segmentation ที่ทำให้เราสามารถแยกภาพคนหรือวัตถุออกจากพื้นหลังได้โดยไม่ต้องอาศัยมือกราฟิกมาทำไดคัต ในกูเกิลเองก็มีพัฒนาโมเดล deep learning ที่ชื่อว่า DeepLab มาตั้งแต่ปี 2015 และตอนนี้ก็ปล่อยเวอร์ชั่น v3+ ที่พัฒนาความแม่นยำค่า IoU (intersection over union) เฉลี่ยไปถึงระดับ 89% เมื่อทดสอบด้วยชุดข้อมูล PASCAL VOC 2012 นับว่าดีที่สุดในตอนนี้

DeepLab-v3+ พัฒนาความแม่นยำเพิ่มจาก DeepLab-v3 ที่ออกมาเมื่อปีที่แล้วอย่างมีนัยสำคัญ (v3 ทำค่า mIoU ได้ 86.9%) ด้วยการเพิ่มโมดูล decoder ที่ไม่ซับซ้อนนัก แต่กลับสามารถทำให้ความแม่นยำรวมเพิ่มขึ้นได้มาก

Gizmodo รายงานว่า Google ได้เป็นพาร์ทเนอร์ร่วมกับกระทรวงกลาโหมสหรัฐ (Department of Defense) ในโปรเจ็ค Marven หรือ Algorithmic Warfare Cross-Functional Team (AWCFT) ที่ให้ทางกลาโหมนำปัญญาประดิษฐ์ไปใช้วิเคราะห์วัตถุและยานพาหนะจากภาพฟุตเทจของโดรน

Google คอนเฟิร์มข่าวข้างต้นพร้อมระบุว่าเปิดให้กลาโหมเชื่อมต่อกับ API ของ TensorFlow และยืนยันว่าให้ทหารเอาไปใช้ในข้อมูลที่ไม่เป็นความลับและไม่เกี่ยวข้องกับสงครามและการสู้รบ โดยทางกลาโหมต้องการใช้ปัญญาประดิษฐ์มาวิเคราะห์ฟุตเทจแทนที่มนุษย์ ที่ทั้งช้าและแม่นยำน้อยกว่า