داشبورد›رودمپ›هوش مصنوعی روی دستگاه
🧠 هوش مصنوعی روی دستگاه · درس ۲

Inference، Latency و FPS

سرعت و کیفیت مدل را با معیارهای قابل اندازه‌گیری مقایسه می‌کنی.

⏱ ۲۰ دقیقه 🌱 پیشرفته ⭐ +۴۰ XP 🧠 کوئیز الزامی
🎯
بعد از این درس

قراره چی یاد بگیری؟

  • بتوانی «Inference، Latency و FPS» را با زبان خودت توضیح بدهی و نقش آن را در یک سیستم واقعی مشخص کنی.
  • بتوانی یک تصمیم طراحی مرتبط با این موضوع را با دلیل فنی انتخاب کنی.
  • بتوانی یک خطای رایج را مرحله‌ای عیب‌یابی کنی و نتیجه را با FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع بسنجی.

چرا این درس مهم است

سرعت و کیفیت مدل را با معیارهای قابل اندازه‌گیری مقایسه می‌کنی.

در AI رباتیک، یک خروجی قشنگ روی یک تصویر معیار نیست؛ داده، معیار ارزیابی، Latency و رفتار روی ورودی‌های سخت‌تر مهم‌اند.

اینجا هدف فقط شناخت ابزار نیست؛ باید ببینی تغییر یک پارامتر در Pipeline بینایی یا مدل هوشمند چه اثری روی خروجی قابل اندازه‌گیری می‌گذارد.

نکته‌های فنی

  • روی Edge Device محدودیت RAM، CPU/GPU/NPU، توان و دما به اندازه دقت مدل مهم‌اند.
  • کاهش Resolution یا Quantization می‌تواند سرعت را بهتر کند ولی ممکن است دقت را تغییر دهد.
  • Latency انتها‌به‌انتها شامل Capture، Preprocess، Inference و Postprocess است.
  • Benchmark باید روی همان سخت‌افزار هدف و با ورودی واقعی انجام شود.

این نکته‌ها را برای Pipeline بینایی یا مدل هوشمند به یک زنجیره علت و معلول وصل کن: هر انتخاب باید یک اثر قابل مشاهده یا اندازه‌گیری داشته باشد. اگر نمی‌توانی بگویی با تغییر این تصمیم دقیقا کدام خروجی عوض می‌شود، هنوز طراحی را به اندازه کافی روشن نکرده‌ای.

مدل ذهنی

import cv2
frame = cv2.imread("sample.jpg")
print(frame.shape)

در تحلیل Inference، Latency و FPS مرزهای سیستم را روشن نگه دار. هر جا داده یا انرژی از یک بخش به بخش دیگر می‌رود، یک نقطه مناسب برای مشاهده، Log یا اندازه‌گیری داری.

سناریوی عملی

در یک تمرین «هوش مصنوعی روی دستگاه»، سرعت و کیفیت مدل را با معیارهای قابل اندازه‌گیری مقایسه می‌کنی. سپس نتیجه را با یک معیار عددی یا چک‌لیست مقایسه کن.

اینجا هدف فقط شناخت ابزار نیست؛ باید ببینی تغییر یک پارامتر در Pipeline بینایی یا مدل هوشمند چه اثری روی خروجی قابل اندازه‌گیری می‌گذارد.

روش تست پیشنهادی

معیار اصلی این درس: FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع.

  1. فقط یک پارامتر را تغییر بده و بقیه شرایط را ثابت نگه دار.
  2. نتیجه قبل/بعد را با FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع مقایسه کن.
  3. اگر نتیجه بهتر شد، یک حالت مرزی هم اجرا کن تا مطمئن شوی به یک شرایط خاص Overfit نکرده‌ای.

نتیجه تست را با نسخه کد/مدار، شرایط محیط و تنظیمات مهم ثبت کن؛ بدون این اطلاعات مقایسه دو Run ممکن است گمراه‌کننده باشد.

عیب‌یابی مرحله‌ای

  1. زمان هر Stage را جدا اندازه بگیر و همزمان حافظه و دمای دستگاه را زیر اجرای پیوسته ثبت کن.
  2. فقط یک فرض را در هر مرحله تغییر بده؛ تغییر همزمان چند چیز نتیجه را مبهم می‌کند.
  3. بعد از هر تغییر دوباره FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع را بگیر و نتیجه را با Baseline مقایسه کن.

اگر علامت خطا عوض شد، آن را به عنوان داده جدید ببین؛ عوض شدن علامت همیشه به معنی حل شدن علت اصلی نیست.

دام رایج

عدد FPS روی لپ‌تاپ معیار مناسبی برای عملکرد روی برد هدف نیست.

برای رد یا تایید این برداشت، یک تست مرزی طراحی کن که دقیقا همین فرض را هدف بگیرد.

تمرین عملی

یک تغییر در پیش‌پردازش/مدل/آستانه اعمال کن و همان ورودی‌ها را دوباره اجرا کن تا مقایسه منصفانه باشد.

تمرین را برای Inference، Latency و FPS انجام بده و در پایان فقط سه چیز تحویل بده: شرایط شروع، نتیجه اندازه‌گیری‌شده و تصمیم بعدی. اگر نتیجه با انتظار فرق داشت، یک فرض برای علت بنویس و تست بعدی را مشخص کن.

قبل از رفتن به درس بعد

  • بتوانی «Inference، Latency و FPS» را با زبان خودت توضیح بدهی و نقش آن را در یک سیستم واقعی مشخص کنی.
  • بتوانی یک تصمیم طراحی مرتبط با این موضوع را با دلیل فنی انتخاب کنی.
  • بتوانی یک خطای رایج را مرحله‌ای عیب‌یابی کنی و نتیجه را با FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع بسنجی.

اگر یکی از این موارد را فقط می‌توانی تعریف کنی ولی نمی‌توانی روی یک مثال واقعی نشان بدهی، همان بخش را یک بار دیگر با داده یا Log مرور کن.

جمع‌بندی

در Inference، Latency و FPS هدف نهایی حفظ اصطلاحات نیست؛ باید بتوانی یک تصمیم فنی بگیری، اثرش را با FPS/latency، مصرف حافظه و افت دقت نسبت به مدل مرجع بسنجی و وقتی نتیجه خراب شد مسیر عیب‌یابی قابل تکراری داشته باشی. این سه توانایی معیار عبور واقعی از درس‌اند.

🃏
مرور سریع

فلش کارت‌ها

۱ / ۳
🧠
برای تکمیل درس لازمه

چک فهم کاربردی

حد نصاب ۷۰٪

سوال‌ها روی تصمیم فنی، عیب‌یابی و روش تست تمرکز دارند؛ لازم نیست جمله‌های درس را حفظ کنی.

۱

در یک پروژه مرتبط با «Inference، Latency و FPS»، کدام گزاره راهنمای فنی معتبرتری است؟

۲ امتیاز
۲

عدد FPS روی لپ‌تاپ معیار مناسبی برای عملکرد روی برد هدف نیست.

۱ امتیاز
۳

برای عیب‌یابی «Inference، Latency و FPS» کدام دو کار بیشترین ارزش تشخیصی دارند؟

۲ امتیاز
۳ سوال هنوز جواب نداره.
🔗
برای عمیق‌تر شدن

منابع تکمیلی