top of page
高精度協働ロボットのFAIRINO(フェアリノ・ファイリノ)

Inference Time / Latency

推論時間(レイテンシ)

推論時間(レイテンシ)とは、AIモデルに入力データを与えてから結果が出力されるまでにかかる時間を示す指標です。

画像認識、機械学習、深層学習、ロボットビジョンなどのリアルタイム処理では、推論時間が短いほど高速に判断でき、装置の応答性能に大きく影響します。


製造業では、外観検査、ばら積みピッキング、ロボット制御、異常検知、AMR制御などで重要な性能指標となります。


通常は

  • ms(ミリ秒)

  • 秒(s)


で表されます。


■推論時間の意味


入力 → AI → 出力      ↑   この時間


※これがレイテンシ。


■処理の流れ


画像取得 ↓ 前処理 ↓ 推論 ↓ 結果出力


※推論部分の時間。


■なぜ重要か

◆理由

◆内容

リアルタイム制御

必須

ロボット

必須

検査速度

影響

ライン速度

影響

安全制御

必須

※遅いと使えない。


■推論時間の目安

◆用途

◆推論時間

外観検査

<100ms

ロボットビジョン

<50ms

自動運転

<20ms

協働安全

<10ms

高速検査

<5ms

※用途で違う。


■レイテンシとスループット

◆用語

◆意味

レイテンシ

1回時間

スループット

回数

低レイテンシ → 高速応答 高スループット → 多処理


※別概念。


■推論時間に影響する要素

◆要素

◆内容

モデルサイズ

GPU性能

解像度

CPU性能

前処理

通信

遅延

 ※ハード重要。



■推論を速くする方法

◆方法

◆内容

軽量モデル

YOLO

GPU

高速

TensorRT

最適

解像度低

EdgeAI

ローカル

※FAで重要。


■ロボットでの例


カメラ → AI → 座標 → ロボット 遅い → ミス 速い → 安定


※応答性能に影響。


■リアルタイム処理との関係

◆項目

◆必要

安全制御

低レイテンシ

協働

高速ライン

AI検査

バッチ処理

高OK

※用途で違う。


■関連用語

◆用語

◆内容

スループット

処理量

推論

Inference

学習

Training

FPS

速度

リアルタイム

即時

■まとめ

推論時間(レイテンシ)とは、AIが入力を受けて結果を出すまでの時間です。


ロボットやAI検査では応答速度を決める重要な性能指標です。

お見積り・ご相談は今すぐ!

24時間365日受付

bottom of page