top of page

Inference Time / Latency
推論時間(レイテンシ)
推論時間(レイテンシ)とは、AIモデルに入力データを与えてから結果が出力されるまでにかかる時間を示す指標です。
画像認識、機械学習、深層学習、ロボットビジョンなどのリアルタイム処理では、推論時間が短いほど高速に判断でき、装置の応答性能に大きく影響します。
製造業では、外観検査、ばら積みピッキング、ロボット制御、異常検知、AMR制御などで重要な性能指標となります。
通常は
ms(ミリ秒)
秒(s)
で表されます。
■推論時間の意味
入力 → AI → 出力 ↑ この時間
※これがレイテンシ。
■処理の流れ
画像取得 ↓ 前処理 ↓ 推論 ↓ 結果出力
※推論部分の時間。
■なぜ重要か
◆理由 | ◆内容 |
リアルタイム制御 | 必須 |
ロボット | 必須 |
検査速度 | 影響 |
ライン速度 | 影響 |
安全制御 | 必須 |
※遅いと使えない。
■推論時間の目安
◆用途 | ◆推論時間 |
外観検査 | <100ms |
ロボットビジョン | <50ms |
自動運転 | <20ms |
協働安全 | <10ms |
高速検査 | <5ms |
※用途で違う。
■レイテンシとスループット
◆用語 | ◆意味 |
レイテンシ | 1回時間 |
スループット | 回数 |
低レイテンシ → 高速応答 高スループット → 多処理
※別概念。
■推論時間に影響する要素
◆要素 | ◆内容 |
モデルサイズ | 大 |
GPU性能 | 高 |
解像度 | 高 |
CPU性能 | 高 |
前処理 | 重 |
通信 | 遅延 |
※ハード重要。
■推論を速くする方法
◆方法 | ◆内容 |
軽量モデル | YOLO |
GPU | 高速 |
TensorRT | 最適 |
解像度低 | 軽 |
EdgeAI | ローカル |
※FAで重要。
■ロボットでの例
カメラ → AI → 座標 → ロボット 遅い → ミス 速い → 安定
※応答性能に影響。
■リアルタイム処理との関係
◆項目 | ◆必要 |
安全制御 | 低レイテンシ |
協働 | 低 |
高速ライン | 低 |
AI検査 | 中 |
バッチ処理 | 高OK |
※用途で違う。
■関連用語
◆用語 | ◆内容 |
スループット | 処理量 |
推論 | Inference |
学習 | Training |
FPS | 速度 |
リアルタイム | 即時 |
■まとめ
推論時間(レイテンシ)とは、AIが入力を受けて結果を出すまでの時間です。
ロボットやAI検査では応答速度を決める重要な性能指標です。


Get a quote and consultation now!
Reception 24 hours a day, 365 days a year
bottom of page


