← キーワード 用語

画像: 関連記事「LLMのELYZAがロボットへ。新会社ELYZA Roboticsは2030年度までに1,000台以上を現場へ」より

大規模言語モデル

LLM

大量の文章で学習し、続く語を予測して文章を生成するニューラルネットワーク。ロボットでは言葉の指示を作業手順やプログラムに変えるのに使われる。

概要

大規模言語モデル(Large Language Model、LLM)は、大量の文章で学習し、与えられた文に続く語を予測することで文章を生成するニューラルネットワークである。多くはTransformerを基本の構造にもつ。2020年に OpenAI が発表した GPT-3 は1750億個のパラメータをもち、追加の学習をせずに、指示と少数の例を文章で与えるだけで多くの課題をこなせることを示した。

ロボットの分野では、言葉の指示を作業の手順に分解する使い方が早くから試された。2022年の SayCan は、LLM が挙げた候補の手順を、ロボットが今の環境で実行できる見込みで重み付けして選ぶ。同じ年の Code as Policies は、LLM にロボットの制御プログラムを書かせる。画像も入力に含めた視覚言語モデルや、動作まで出力する VLA は、この流れの延長にある。

HuRoC の記事から