Quantization و مدل سبک

چرا این درس مهم است

مفهوم کاهش اندازه/دقت عددی مدل برای اجرای سریع‌تر را می‌شناسی.

در AI رباتیک، یک خروجی قشنگ روی یک تصویر معیار نیست؛ داده، معیار ارزیابی، Latency و رفتار روی ورودی‌های سخت‌تر مهم‌اند.

این درس مرحله اتصال و پایداری است: باید نشان بدهی Pipeline بینایی یا مدل هوشمند فقط در حالت ایده‌آل کار نمی‌کند و در خطا هم قابل عیب‌یابی است.

نکته‌های فنی

• روی Edge Device محدودیت RAM، CPU/GPU/NPU، توان و دما به اندازه دقت مدل مهم‌اند.
• کاهش Resolution یا Quantization می‌تواند سرعت را بهتر کند ولی ممکن است دقت را تغییر دهد.
• Latency انتها‌به‌انتها شامل Capture، Preprocess، Inference و Postprocess است.
• Benchmark باید روی همان سخت‌افزار هدف و با ورودی واقعی انجام شود.

این نکته‌ها را برای Pipeline بینایی یا مدل هوشمند به یک زنجیره علت و معلول وصل کن: هر انتخاب باید یک اثر قابل مشاهده یا اندازه‌گیری داشته باشد. اگر نمی‌توانی بگویی با تغییر این تصمیم دقیقا کدام خروجی عوض می‌شود، هنوز طراحی را به اندازه کافی روشن نکرده‌ای.

مدل ذهنی

import cv2
frame = cv2.imread("sample.jpg")
print(frame.shape)

در تحلیل Quantization و مدل سبک مرزهای سیستم را روشن نگه دار. هر جا داده یا انرژی از یک بخش به بخش دیگر می‌رود، یک نقطه مناسب برای مشاهده، Log یا اندازه‌گیری داری.

سناریوی عملی

در یک تمرین «هوش مصنوعی روی دستگاه»، مفهوم کاهش اندازه/دقت عددی مدل برای اجرای سریع‌تر را می‌شناسی. سپس نتیجه را با یک معیار عددی یا چک‌لیست مقایسه کن.

این درس مرحله اتصال و پایداری است: باید نشان بدهی Pipeline بینایی یا مدل هوشمند فقط در حالت ایده‌آل کار نمی‌کند و در خطا هم قابل عیب‌یابی است.

روش تست پیشنهادی

معیار اصلی این درس: FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع.

1. یک Failure Mode واقعی یا شبیه‌سازی‌شده انتخاب کن.
2. قبل و بعد از خطا FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع را ثبت کن.
3. Recovery را هم تست کن؛ برگشتن سیستم به حالت سالم بخشی از معیار قبولی است.

نتیجه تست را با نسخه کد/مدار، شرایط محیط و تنظیمات مهم ثبت کن؛ بدون این اطلاعات مقایسه دو Run ممکن است گمراه‌کننده باشد.

عیب‌یابی مرحله‌ای

1. زمان هر Stage را جدا اندازه بگیر و همزمان حافظه و دمای دستگاه را زیر اجرای پیوسته ثبت کن.
2. فقط یک فرض را در هر مرحله تغییر بده؛ تغییر همزمان چند چیز نتیجه را مبهم می‌کند.
3. بعد از هر تغییر دوباره FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع را بگیر و نتیجه را با Baseline مقایسه کن.

اگر علامت خطا عوض شد، آن را به عنوان داده جدید ببین؛ عوض شدن علامت همیشه به معنی حل شدن علت اصلی نیست.

دام رایج

عدد FPS روی لپ‌تاپ معیار مناسبی برای عملکرد روی برد هدف نیست.

برای رد یا تایید این برداشت، یک تست مرزی طراحی کن که دقیقا همین فرض را هدف بگیرد.

تمرین عملی

نور، زاویه یا ورودی خارج از حالت ایده‌آل را سخت‌تر کن و Failure caseها را جدا از Average performance گزارش کن.

تمرین را برای Quantization و مدل سبک انجام بده و در پایان فقط سه چیز تحویل بده: شرایط شروع، نتیجه اندازه‌گیری‌شده و تصمیم بعدی. اگر نتیجه با انتظار فرق داشت، یک فرض برای علت بنویس و تست بعدی را مشخص کن.

قبل از رفتن به درس بعد

• بتوانی «Quantization و مدل سبک» را با زبان خودت توضیح بدهی و نقش آن را در یک سیستم واقعی مشخص کنی.
• بتوانی یک تصمیم طراحی مرتبط با این موضوع را با دلیل فنی انتخاب کنی.
• بتوانی یک خطای رایج را مرحله‌ای عیب‌یابی کنی و نتیجه را با FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع بسنجی.

اگر یکی از این موارد را فقط می‌توانی تعریف کنی ولی نمی‌توانی روی یک مثال واقعی نشان بدهی، همان بخش را یک بار دیگر با داده یا Log مرور کن.

جمع‌بندی

در Quantization و مدل سبک هدف نهایی حفظ اصطلاحات نیست؛ باید بتوانی یک تصمیم فنی بگیری، اثرش را با FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع بسنجی و وقتی نتیجه خراب شد مسیر عیب‌یابی قابل تکراری داشته باشی. این سه توانایی معیار عبور واقعی از درس‌اند.