Data Echoing คืออะไร เพิ่มความเร็วในการเทรน Neural Network ด้วยเทคนิค Data Echoing – Preprocessing ep.6

อย่างที่เราทราบกันดีว่า I/O หรือระบบ Input/Output เป็นอะไรที่ช้าที่สุด ของระบบคอมพิวเตอร์ การที่จะ Optimize ให้คอมพิวเตอร์ทำงานได้ประสิทธิภาพมากที่สุด ต้องใช้ความรู้ความเข้าใจ บริหารจัดการทรัพยากรส่วนต่าง ๆ เช่น CPU, GPU, Memory, Storage, Network ให้ทำงาน Utilize มากที่สุด ลด Bottleneck ที่ต้องรอข้อมูลระหว่างกัน แต่ในการเทรน Machine Learning ที่เราวิธีที่เราทำกันอยู่ Training Loop จะเริ่มต้นจาก อ่านข้อมูล, สับไพ่ข้อมูล, Split, Data Augmentation, Feed Forward, Loss Function, Backpropagation, Optimizer Update Weight แล้วเริ่มต้น Loop ใหม่ เป็นอย่างนี้ซ้ำ ๆ ไปเรื่อย ๆ ตามลำดับ โดยไม่ได้คำนึงถึงประเด็นด้านบน แล้วเราจะแก้ไขอย่างไร

เปรียบเทียบ TensorFlow vs PyTorch ในปี 2019 ว่า Machine Learning Framework ไหน เป็นที่นิยมมากกว่ากัน

สงคราม Machine Learning Framework ระหว่าง TensorFlow และ PyTorch ที่ระอุขึ้น ตั้งแต่มีกระแส Deep Learning ในปี 2012 ล่าสุดใครจะเป็นผู้ชนะ Framework จะได้รับความนิยมมากกว่ากัน

อักษรกรีก คำอ่านภาษาไทย ตัวอักษรภาษากรีก ที่พบบ่อยให้การอ่าน Paper วิชาการ สัญลักษณ์ที่ใช้วงการวิทยาศาสตร์ คณิตศาสตร์

ในการอ่าน Paper วิชาการ และในการเรียนรู้สูตรคณิตศาสตร์ เราจะพบตัวอักษรกรีก ที่ใช้แทนตัวเลข ตัวแปร เซ็ต ฟังก์ชันต่าง ๆ อยู่เสมอ ถ้าเรารู้จักตัวอักษรภาษากรีก สามารถอ่านออกเสียงตัวหนังสือกรีกทั้ง 24 ตัวได้ จะทำให้เราเข้าใจสูตรเหล่านั้นได้ง่ายขึ้น