2026年10月29日時点の開発記録です。現在の進捗と、これから検証する仮説・実験案を分けて紹介します。

画面は見える。けれど、動きはまだ決まっている

助手の身体プロジェクトは、モーションの抜き取りと身体のリアル化まで進みました。画面の画像を文字情報にして、Geminiへ伝えるところまでもつながっています。

ただ、今の仕組みは2分おきに画面を確認し、身体の動きにはあらかじめ作られたモーションを使うものです。状況を見ていても、自分から行動を起こす力はまだ弱い。動いてほしい場面が増えるたびに、用意するモーションも増えていきます。

そこで次に試したいのが、その場の目標に合わせて動作を作ることです。たとえば、少し離れた場所を指す。目標が変われば、腕の伸ばし方や身体の向きも変わる。そうした未用意の動作を、助手が扱えるようにしたいと考えています。

身体の動きだけを試す、別のソフトを作る

最初は、既存の動作を組み合わせる方法や、AIにボーンの構造を理解させる方法を考えていました。今回選んだのは、3D座標のフレームモデルを使い、目標・評価・罰則によってモーションをシミュレーションするソフトを別に作る実験です。

フレームモデルでは、身体を関節の位置と、それらをつなぐ骨格として扱います。まずは「手をどこへ運ぶか」のような目標を置き、そこへ向かう動きを試し、その結果を評価する。見た目を作り込んだ助手本体とは切り離して、動きの成立を調べる方針です。

ここでは、目標に届いたかだけでなく、途中の姿勢や動き方も問題になります。最終的な手の位置が合っていても、身体を不自然にねじったり、途中で床を突き抜けたりすれば、助手に使いたい動きにはなりません。

未知の動作を作れたと結論づける段階には、まだ達していません。まずは動きを試し、何がうまくいかないのかを見える形にしていく実験です。

足りないのは、痛覚に相当するものかもしれない

シミュレーションの結果がいまひとつだと感じる中で、気になっているのが「人間でいう痛覚がないこと」です。

目標へ近づくことだけを評価すると、身体に無理のある動かし方でも、結果さえよければ選ばれてしまうのではないか。関節を動かしすぎたときや、身体に負担をかけたときに、それを避けるための情報が必要なのではないかと考えています。

ここでいう痛覚は、AIに苦痛や意識があるという話ではありません。動きを評価するために、身体への無理を数値として扱う、という設計上のたとえです。また、痛覚に相当する信号がないことが、不自然な動きの原因だと確認できたわけでもありません。今は検証したい仮説の一つです。

候補としては、関節の限界に近づくほど増える負担、急な動きや衝突に対する負担、無理な姿勢を続けることで積み重なる負担などが考えられます。点数を下げるだけでなく、動作の途中でその情報を受け取り、姿勢や経路を変えられるかも見たいところです。

まず比べたいのは、同じ目標にどう届くか

次の比較案は、小さな到達課題です。手先を指定した場所へ運ぶ動きを、身体への負担を評価する場合と、しない場合で比べる。目標に届くか、動きが滑らかか、身体に無理がないかを分けて見れば、どの評価が効いたのかを追いやすくなります。

ただし、罰則を強くすれば解決するとも限りません。動くほど減点される設計なら、動かない方がよいという結果になり得ます。目標の達成と身体の保護を、どう両立させるかが課題です。

骨の長さのように変えてはいけない条件と、少しでも減らしたい負担も分けて考えたいです。さらに、座標上の姿勢が成立することと、重力のある環境で倒れずに動けることは別の確認になります。後者まで扱うには、質量や床との接触なども検討する必要があります。

これらは今後の検証候補で、すでに実装・比較を終えた結果ではありません。試していない目標位置でも動けるかを含め、実際の出力を見ながら確かめていきます。

自分の身体を使える助手へ

会話ができて、画面を見られて、3Dの姿もある。その先に欲しいのは、目的に合わせて自分の身体を使える助手です。

動作を作る仕組みができても、「いつ、何をするか」を自分で選ぶ自発性には、さらに別の工夫が必要になります。まずは身体側の実験で、決められたモーションだけでは対応できない動きを、どこまで作れるのかを探ります。

腕だけでは届かなければ身体を向ける。それでも届かなければ近づく。そういう一連の動きを作れるようになったら、PCの中の助手との関わり方も変わりそうです。今は、そのための身体の仕組みを試しているところです。