圃場画像による外来アサガオのデータセット作成自動化と領域推定

雑草は作物の生育に悪影響なため雑草防除を行うが,圃場全体を確認するには時間や労力がかかります.そこで,機械学習を用いた雑草発見の研究が行われていますが,大量のデータが必要で,アサガオは微小なため手動のアノテーションは困難です.そこで本研究では,マルチスペクトル画像を用いたアノテーションの自動化および別日に撮影した画像によるデータ拡張を行っています. 

Fig. 1:植生指標画像を用いたアノテーション 

実験では, マルチスペクトル画像から植生指標を作成しアサガオのアノテーションの自動化をしました.また,異なる気象の日に撮影した画像を用いてデータ拡張をするため,ヒストグラムマッチングで画像間の明るさの差を減らしました. 

Fig. 2:アサガオ推定結果

U-NetSegNetで学習しましたが,結果として,データ拡張をし,U-Netで学習することでアサガオ推定精度が向上しました.誤検出の箇所も見られますが,画像内全てのアサガオを検出することができました. 

今後は,さらに別日に撮影した画像でデータ拡張することで推定精度が向上するか検証していきます. 

双腕ロボットのための遠隔操作システムの構築とビジュアルハプティクスによる負担軽減効果の検証

近年,日本では少子化や高齢化が進行する中で,労働力不足が深刻な社会問題となっています.このような背景の中,解決策として,遠隔操作技術が注目されています.遠隔操作技術の活用により,熟練した技術者による遠隔地からの作業や新たな雇用の機会の提供が可能となります.しかし、遠隔操作技術には触覚の欠如と直感的操作の課題があります.

こうした課題に対処するため,身体部位に触覚機を装着し,振動や電気などのフィードバックを得る研究やボタンやレバーがありますが,これらのフィードバックはオペレーターに直接的な身体的刺激を与えることで不快感や疲労を引き起こす可能性があり,個人差や操作環境による影響を受けやすいという問題があります.

また,ボタンやレバー,画面を用いるインターフェースでは,人間の直感的な操作が難しく,タスクの複雑性が増すにつれて、操作の効率性と正確性が低下する可能性があり,複雑な作業への対応が制限されてしまいます. 

本研究では,触覚フィードバックとして,触覚情報を視覚的フィードバックとして提示するビジュアルハプティクスを採用し,操作システムとしてリーダーフォロワー型の双腕ロボットを用いた遠隔操作システムを構築しました.リーダーフォロワーシステムは,リーダーロボットの動きに追従するフォロワーロボットを遠隔地に配置したシステムで直感的動作を可能にする制御方式です.

比較実験ではビジュアルハプティクスが実装された双腕リーダーフォロワーシステムではビジュアルハプティクス有無の比較では有意な差は見られませんでした.これはビジュアルハプティクスを評価する以前にリーダー機の操作性に問題があると考えます.今後は操作環境の改善と奥行きの知覚をアシスト作業によって改善していくことが課題です.

Fig. 1:ジュアルハプティクス画像(左:把持前,中:把持後,右:強く把持)

発達性ディスレクシアの児童のためのタイピングアプリの評価と更なる支援方法の検討

発達障害の一つである発達性ディスレクシア(DD)は,知的な遅れや視聴覚障がいがないにも関わらず読字・書字能力を獲得することに困難さがある.このような児童が定型発達児と同様に教科学習を行うための研究の一環として,当研究室ではDDの特性のためにタイピング練習に困難さを覚える児童のために,キーボードのキートップのアルファベットを色に置き換え,ローマ字を意識せずにタイピングの練習をできるタッチタイピング練習支援アプリを開発した. 

本研究では,上述のタイピングアプリを用いたタイピング練習を行った児童に対してWAVES検査を行い,視知覚速度指数(VPSI)の値とタイピング時の視線計測データとの関連性を調査した.また,本タイピングアプリを用いて練習を行なった場合でもタッチタイピングの習得が困難な児童の特性として,お題を見る割合が低かったことから,アプリのお題の表示を大きく変更したものを使用し視線計測実験を行い,有効性を調査した. 

Fig. 1:WAVES検査の例
Fig. 2:タイピングアプリの変更

VPSIの値とクリア時間・お題を見ていた割合との相関関係より,どちらの数値においても値が高い児童の方がタイピングの流暢性が高く,タイピング時にお題を見る傾向にあることがわかった.お題表示を大きく変更したタイピングアプリを使用した場合でも,VPSIの値が低い児童のお題を見る割合の向上には繋がらなかった  

今後の展望として,タッチタイピングの習得が難しい児童がタッチタイピングの練習を行えるようにお題を見る割合を上げる方法を模索することが挙げられる. 

WSIへの深層学習モデルを用いた精巣腫瘍の識別精度の検証

疾患,特に腫瘍に対して確定診断をつける際,病理診断は必須のプロセスである.病理診断は単独もしくは複数の病理医の観察のもと行われる.本研究で取り扱う精巣胚細胞腫瘍の診断においては一般的に,診断時には各組織型ごとの占拠割合の記載が必要となるが,症例数が少ない組織型や複数の組織型の混在等があるため,割合を求めるための作業負荷が大きい.深層学習を活用し,診断前に各組織型ごとの割合が自動算出できれば,診断にかかる人的コストを大幅に削減できると考える.

本研究では,深層学習アルゴリズムであるYOLOv8-segを用いて,組織切片画像(Whole Slide Image: WSI)から精巣腫瘍の組織型を学習させ,推論を行う.組織型ごとにアノテーションを行った5枚のWSIを用いた.含まれる組織型は,セミノーマ,胎児性腫瘍,絨毛癌,卵黄嚢腫瘍,奇形腫である.各画像を細胞が視認できるレベルまで細かく分割し,データセット数700枚程度で追加学習を行った.

Fig. 1:病理医によるアノテーション画像
Fig. 2:YOLOv8による予測画像

正常領域を含めた画像全体の正解率は1枚目(Fig. 2)97.47%,2枚目86.51%,3枚目60.45%,4枚目89.88%,5枚目96.49%となった.

用意した画像は,主に胎児性腫瘍の領域が大きく,胎児性腫瘍以外の4種類の領域は微小領域であったため,正解率への影響は小さい.そのため,今回の正解率の高さは,胎児性腫瘍の領域の検出精度の高さと言え,最も卵黄嚢腫瘍と奇形腫の領域が大きい3枚目の画像では学習が不十分のため,正解率が低い.

今後の展望として,追加学習やモデルの改良等を通して,胎児性腫瘍の領域以外の精度を上げたいと考える.

ドローン画像を用いた点群処理と骨格化による枝半径計測と木グラフ解析

ウメの収量予測は重要な課題ですが,従来農業従事者の経験に基づいて行われてきたため,収量予測の精度に限界が生じています.また,農業従事者がそれぞれの樹を確認することは負担になります.そこで本研究では,ウメの樹のドローン画像を用いての点群処理と樹の骨格化を通して得た,樹情報とウメ収量との相関を評価し,収量予測の可能性を調査します. 

Fig. 1:木グラフ(スケルトングラフ:左、トポロジーグラフ:右) 

実験では,ドローン画像をもとに作成した点群データからウメの樹のスケルトングラフとトポロジーグラフを作成し,これらの木グラフからウメの樹の樹情報を取得し,ウメ収量との相関を評価しました. 

Fig. 2:木情報と収量との相関結果

結果として,合計長さと収量との相関が最もよく,点群処理と骨格化を用いた計算による枝の合計長さを基にウメ収量を予測できる可能性が確認できました. 

今後は,ドローンの撮影を画像ではなく動画で行うことで入力枚数を増やし,点群作成の精度を向上させます.

「まるット」の視線操作インターフェース開発と感情表現の評価

近年,コミュニケーションロボットは家庭,教育,介護など多岐にわたる分野で活用が進んでおり,ロボットとのインタラクションによる人間への影響についての研究が行われています.本研究では,身体的制約がある人でもコミュニケーションが取れる支援システムの開発を目指し,視線操作を活用した操作インターフェースの提案,遠隔操作ロボット「まるット」のインタラクション評価を行います. 

Fig. 1:PC画面
Fig. 2:視線操作の様子

視線操作でロボットを移動させたり感情を表現させたりできる支援システムを開発しました.

インタラクション実験では,感情表現がどのように認識されるかを評価し,さらに感情表現の有無によるロボットの印象の違いについて調査を行いました.その結果,動作よりも表情による感情表現の方がポジティブな評価を得ており,「まるット」の感情表現においては,表情がより重要な役割を果たしていることが示唆されました.

 今後の展望として,発話を加えた感情表現を実現し,視線操作による「まるット」のコミュニケーションが可能かどうかを検証する実証実験を行いたいと考えています. 

大豆圃場におけるアサガオ密集領域の検出率向上のための擬似画像を用いたデータ拡張

近年,農業従事者の減少や高齢化により,広い圃場の雑草管理が困難になっています.特に大豆圃場では,帰化アサガオ(マルバルコウやマメアサガオ)の侵入が確認されており,放置すると大豆収量が大幅に減少します.そこで,ドローンとAIを活用した雑草検出の研究が期待されています本研究では,大豆圃場をドローンで撮影し,畝間のアサガオを検出することを目的とします.特に雑草が密集している領域の検出率の低さに着目し,擬似密集画像を生成し,アサガオの密集や混在領域を含むデータセットを生成します.さらに,クラス不均衡問題を緩和するためにFocal Loss損失関数を適用し,検出精度の向上を図ります. 

Fig. 1:教師画像

実験では,擬似密集画像ありとなしのデータセットの比較と損失関数をCross Entropy(CE)で学習した時とFocal Loss(FL)で学習した時で比較しました. 

Fig. 2:各条件における推定結果の比較(擬似密集画像なし:左,擬似密集画像あり(CE):中,擬似密集画像あり(FL):右)

擬似画像を追加することで推定できている領域が増加しました.また,損失関数をFocal Lossへ変更して,背景の損失の影響を抑えることでさらに推定できている領域が増加しました. 

今後は,新しいモデルで学習を行うことと,雑草クラスの損失の影響を大きくして学習を行っていきたいです. 

カイトを用いた空中風力発電のためのカメラ画像による状態推定およびテザー運動情報を用いた解析

カイトを使用した空中風力発電の研究は世界的に行われており、有用性が示されています。カイトによる風力発電の発電効率を上げるにはカイトのみかけの風速を上げることが必要であり、そのためにカイトを上空で8の字を描くように左右に揺動させることで発電効率を上げられます。カイトをこのように自動で制御するためにはカイトの状態を推定する必要があり、先行研究ではカイトの状態をカイトに搭載したセンサ機器を使用していますが、墜落時の安全性を考慮し、本研究ではカイト自身にはセンサ機器を搭載せず、地上に設置したカメラ映像による情報のみでカイトの状態を推定します。 

上記の画像は実験中の画像になっており、車の荷台にカイトを撮影するためのウェブカメラ、画像処理を行うためのPC、カイトを制御するためのPC、カイト制御器を設置しています。実験は自然風がある場合は画像のように車を停車させて実験を行い、自然風がない場合は車を走らせることでカイトを飛行させて実験を行いました。 

Fig. 1:画像処理中のカイトの画像

画像処理では初めにカイトに対して深層学習による物体認識アルゴリズム(yolov8)を使用してカイトの領域を抽出しました。その後、抽出した領域を楕円で近似して算出した楕円の傾き角度をカイトの姿勢角としました。そして、算出したカイトの画像上でのx座標y座標、カイトの姿勢角の3つの情報を使用してカルマンフィルタを適用し、カイトの状態推定を行いました。Fig. 1 の四角形の中心がカイトの中心座標になっており、短い直線が向いている向きがカイトの進行方向を示しています。また、赤色による線は深層学習によって算出したカイトの状態であり、緑色の線はカルマンフィルタの予測による状態を示したものになっています。これらの画像処理から推定したカイトの姿勢角をもとにカイト制御器を操作し、カイトに制御を与えることでカイトを制御しています。 

バドミントンのハイクリア動作向上のためのVRシステム開発における内・外的焦点

VRの発達によりVR機器を介して運動や体験をすることで能力を向上させるトレーニングシステムの研究が様々な分野で行われています本研究では,VR空間でのバドミントンにおける,外的遠焦点,外的近焦点,内的焦点の注意の焦点に基づくフィードバックシステムの開発し,ハイクリア動作の向上を目的とし比較ました 

 

実験では,VR空間でフォームフィードバックシステムを用いたVRバドミントン訓練を行い,VR空間における外的遠焦点,外的近焦点,内的焦点の影響の比較検証実験を行いました 

Fig. 2:実験結果

回内動作の差は内的焦点と外的遠焦点が優位に向上したことが確認でき,シャトルの軌道では,外的遠焦点で有意差が確認できました.そのため,外的遠焦点が訓練による影響が最も大きいことが確認できました(Fig. 2)

 今後は,経験者を対象とた訓練により,どの焦点の訓練が最も影響を与えるのかを検証し,初心者との比較を行うことが考えられます. 

 

バドミントンのハイクリア動作における姿勢・関節トルク解析による肘関節の負担推定

バドミントンでは,シャトルを打つ際や肘を伸ばした際に肘関節に痛みを伴う人がいます.また,投球動作やスパイク動作により,肘関節に繰り返しが加わることで,靱帯が損傷して,肘を外側に動かすことで痛みが生じることがあります.本研究では,バドミントンにおける肘関節の負担を定量化・姿勢による影響を調査し,肘関節の負担軽減の検討を目的として,姿勢・関節トルクを解析しています (Fig. 1) 

Fig. 1:実験の様子

 

実験では,バドミントンの研究の中でもあまりされていないハイクリア動作に焦点を当てました.実験の被験者はバドミントンの熟練者,肘に痛みを伴う中級者,初心者としました.姿勢の計測には光学式モーションキャプチャであるOptiTrackを使用し,足裏にかかる力や場所の計測にはフォースプレートを使用し,関節の負担を推定する関節トルクは解析ソフトであるDhaibaWorksを使用しました 

Fig. 2:計測結果

計測したデータからバドミントンのハイクリア動作中の姿勢や関節トルクを解析した結果肘に痛みを伴う人は軸足側へ大きく傾いた姿勢をとり,スイングの振り終わりの際に肘に負荷がかかっていることが分かりました.結果から,肘に痛みを伴う人は全身の姿勢が熟練者と異なるため,振り終わりのタイミングで肘関節の負担が大きくなったと考えました (Fig. 2) 

今後は,今回確認できなかった骨や筋肉による関節への影響を調査し,肘関節に負荷がかかる原因を追求しようと考えています.