← キーワード 用語

画像: 関連記事「指先10本の触覚で、両手の動きを毎秒20回直す。パナソニックHDらの「T-Rex」が12の接触作業で平均65%」より

VLA(Vision-Language-Action)

VLA / Vision-Language-Action / VLAモデル

カメラ画像と言語による指示を入力として受け取り、ロボットの動作を出力する機械学習モデル。視覚言語モデルを土台にして作ることが多い。

概要

VLA(Vision-Language-Action)モデルは、視覚(Vision)と言語(Language)の入力から、ロボットの行動(Action)を直接出力するモデルである。「赤いカップを棚に置いて」のような指示と現在のカメラ画像を受け取り、アームの関節の動きや手先の移動量を逐次出力する。

この呼び名は、Google DeepMind などの研究者が2023年に発表した RT-2 の論文で使われた。RT-2 は、ウェブ規模の画像と文章で学んだ視覚言語モデルを、ロボットの動作軌跡のデータとあわせて追加学習し、ロボットの動作を文字列のトークンとして出力させた。ウェブから得た知識を、学習データに含まれない物や指示への対応に生かせる点が特徴とされる。

以後、この枠組みをとるロボット基盤モデルが各社・各研究機関から発表されている。触覚や力覚を入力に加える派生形も提案されている。

HuRoC の記事から