ก่อนหน้านี้ ถ้าเราต้องการศึกษา การเขียนโปรแกรม AI, Machine Learning เราต้องดาวน์โหลดโปรแกรม มาติดตั้งมากมาย ไม่ว่าจะเป็น Python, Anaconda, TensorFlow, Keras, PyTorch, Fastai, Sklearn, Jupyter Notebook, etc. โดยไม่รู้ว่าต้องลงอะไรบ้าง Platform อะไร เวอร์ชันไหน เริ่มต้นอย่างไร ใช้ยังไง แต่ตอนนี้เราสามารถแก้ปัญหานี้ได้ง่าย ๆ ด้วยการเข้าไปที่หน้าเว็บ Colab
Tag Archives: nvidia-smi
สอนใช้ nvidia-smi เครื่องมือดู GPU Utilization และ Memory Usage สำหรับ GPU ยี่ห้อ Nvidia – Hardware ep.1
ในการเทรนโมเดล Deep Learning ที่มีจำนวนหลาย ๆ Layer จำเป็นต้องใช้ GPU เร็ว ๆ แต่เราไม่ควรพิจารณาแค่ความเร็ว ความใหม่ของ GPU เพียงอย่างเดียว ขนาด Memory ของ GPU ก็มีความสำคัญอย่างมาก GPU ควรมี Memory ขนาดใหญ่เพียงพอกับขนาดโมเดล และขนาดของข้อมูล เพื่อที่จะลดเวลาในการเทรน ที่จะต้องเสียเวลา ก็อปปี้ข้อมูลเข้าออก ระหว่าง Disk, CPU Memory และ GPU Memory ทำให้ CUDA Core ของ GPU ที่มีความเร็วสูง กลับว่างงาน เพราะต้องรอข้อมูล