WSIへの深層学習モデルを用いた精巣腫瘍の識別精度の検証

疾患,特に腫瘍に対して確定診断をつける際,病理診断は必須のプロセスである.病理診断は単独もしくは複数の病理医の観察のもと行われる.本研究で取り扱う精巣胚細胞腫瘍の診断においては一般的に,診断時には各組織型ごとの占拠割合の記載が必要となるが,症例数が少ない組織型や複数の組織型の混在等があるため,割合を求めるための作業負荷が大きい.深層学習を活用し,診断前に各組織型ごとの割合が自動算出できれば,診断にかかる人的コストを大幅に削減できると考える.

本研究では,深層学習アルゴリズムであるYOLOv8-segを用いて,組織切片画像(Whole Slide Image: WSI)から精巣腫瘍の組織型を学習させ,推論を行う.組織型ごとにアノテーションを行った5枚のWSIを用いた.含まれる組織型は,セミノーマ,胎児性腫瘍,絨毛癌,卵黄嚢腫瘍,奇形腫である.各画像を細胞が視認できるレベルまで細かく分割し,データセット数700枚程度で追加学習を行った.

Fig. 1:病理医によるアノテーション画像
Fig. 2:YOLOv8による予測画像

正常領域を含めた画像全体の正解率は1枚目(Fig. 2)97.47%,2枚目86.51%,3枚目60.45%,4枚目89.88%,5枚目96.49%となった.

用意した画像は,主に胎児性腫瘍の領域が大きく,胎児性腫瘍以外の4種類の領域は微小領域であったため,正解率への影響は小さい.そのため,今回の正解率の高さは,胎児性腫瘍の領域の検出精度の高さと言え,最も卵黄嚢腫瘍と奇形腫の領域が大きい3枚目の画像では学習が不十分のため,正解率が低い.

今後の展望として,追加学習やモデルの改良等を通して,胎児性腫瘍の領域以外の精度を上げたいと考える.

ドローン画像を用いた点群処理と骨格化による枝半径計測と木グラフ解析

ウメの収量予測は重要な課題ですが,従来農業従事者の経験に基づいて行われてきたため,収量予測の精度に限界が生じています.また,農業従事者がそれぞれの樹を確認することは負担になります.そこで本研究では,ウメの樹のドローン画像を用いての点群処理と樹の骨格化を通して得た,樹情報とウメ収量との相関を評価し,収量予測の可能性を調査します. 

Fig. 1:木グラフ(スケルトングラフ:左、トポロジーグラフ:右) 

実験では,ドローン画像をもとに作成した点群データからウメの樹のスケルトングラフとトポロジーグラフを作成し,これらの木グラフからウメの樹の樹情報を取得し,ウメ収量との相関を評価しました. 

Fig. 2:木情報と収量との相関結果

結果として,合計長さと収量との相関が最もよく,点群処理と骨格化を用いた計算による枝の合計長さを基にウメ収量を予測できる可能性が確認できました. 

今後は,ドローンの撮影を画像ではなく動画で行うことで入力枚数を増やし,点群作成の精度を向上させます.

「まるット」の視線操作インターフェース開発と感情表現の評価

近年,コミュニケーションロボットは家庭,教育,介護など多岐にわたる分野で活用が進んでおり,ロボットとのインタラクションによる人間への影響についての研究が行われています.本研究では,身体的制約がある人でもコミュニケーションが取れる支援システムの開発を目指し,視線操作を活用した操作インターフェースの提案,遠隔操作ロボット「まるット」のインタラクション評価を行います. 

Fig. 1:PC画面
Fig. 2:視線操作の様子

視線操作でロボットを移動させたり感情を表現させたりできる支援システムを開発しました.

インタラクション実験では,感情表現がどのように認識されるかを評価し,さらに感情表現の有無によるロボットの印象の違いについて調査を行いました.その結果,動作よりも表情による感情表現の方がポジティブな評価を得ており,「まるット」の感情表現においては,表情がより重要な役割を果たしていることが示唆されました.

 今後の展望として,発話を加えた感情表現を実現し,視線操作による「まるット」のコミュニケーションが可能かどうかを検証する実証実験を行いたいと考えています. 

大豆圃場におけるアサガオ密集領域の検出率向上のための擬似画像を用いたデータ拡張

近年,農業従事者の減少や高齢化により,広い圃場の雑草管理が困難になっています.特に大豆圃場では,帰化アサガオ(マルバルコウやマメアサガオ)の侵入が確認されており,放置すると大豆収量が大幅に減少します.そこで,ドローンとAIを活用した雑草検出の研究が期待されています本研究では,大豆圃場をドローンで撮影し,畝間のアサガオを検出することを目的とします.特に雑草が密集している領域の検出率の低さに着目し,擬似密集画像を生成し,アサガオの密集や混在領域を含むデータセットを生成します.さらに,クラス不均衡問題を緩和するためにFocal Loss損失関数を適用し,検出精度の向上を図ります. 

Fig. 1:教師画像

実験では,擬似密集画像ありとなしのデータセットの比較と損失関数をCross Entropy(CE)で学習した時とFocal Loss(FL)で学習した時で比較しました. 

Fig. 2:各条件における推定結果の比較(擬似密集画像なし:左,擬似密集画像あり(CE):中,擬似密集画像あり(FL):右)

擬似画像を追加することで推定できている領域が増加しました.また,損失関数をFocal Lossへ変更して,背景の損失の影響を抑えることでさらに推定できている領域が増加しました. 

今後は,新しいモデルで学習を行うことと,雑草クラスの損失の影響を大きくして学習を行っていきたいです. 

カイトを用いた空中風力発電のためのカメラ画像による状態推定およびテザー運動情報を用いた解析

カイトを使用した空中風力発電の研究は世界的に行われており、有用性が示されています。カイトによる風力発電の発電効率を上げるにはカイトのみかけの風速を上げることが必要であり、そのためにカイトを上空で8の字を描くように左右に揺動させることで発電効率を上げられます。カイトをこのように自動で制御するためにはカイトの状態を推定する必要があり、先行研究ではカイトの状態をカイトに搭載したセンサ機器を使用していますが、墜落時の安全性を考慮し、本研究ではカイト自身にはセンサ機器を搭載せず、地上に設置したカメラ映像による情報のみでカイトの状態を推定します。 

上記の画像は実験中の画像になっており、車の荷台にカイトを撮影するためのウェブカメラ、画像処理を行うためのPC、カイトを制御するためのPC、カイト制御器を設置しています。実験は自然風がある場合は画像のように車を停車させて実験を行い、自然風がない場合は車を走らせることでカイトを飛行させて実験を行いました。 

Fig. 1:画像処理中のカイトの画像

画像処理では初めにカイトに対して深層学習による物体認識アルゴリズム(yolov8)を使用してカイトの領域を抽出しました。その後、抽出した領域を楕円で近似して算出した楕円の傾き角度をカイトの姿勢角としました。そして、算出したカイトの画像上でのx座標y座標、カイトの姿勢角の3つの情報を使用してカルマンフィルタを適用し、カイトの状態推定を行いました。Fig. 1 の四角形の中心がカイトの中心座標になっており、短い直線が向いている向きがカイトの進行方向を示しています。また、赤色による線は深層学習によって算出したカイトの状態であり、緑色の線はカルマンフィルタの予測による状態を示したものになっています。これらの画像処理から推定したカイトの姿勢角をもとにカイト制御器を操作し、カイトに制御を与えることでカイトを制御しています。 

バドミントンのハイクリア動作向上のためのVRシステム開発における内・外的焦点

VRの発達によりVR機器を介して運動や体験をすることで能力を向上させるトレーニングシステムの研究が様々な分野で行われています本研究では,VR空間でのバドミントンにおける,外的遠焦点,外的近焦点,内的焦点の注意の焦点に基づくフィードバックシステムの開発し,ハイクリア動作の向上を目的とし比較ました 

 

実験では,VR空間でフォームフィードバックシステムを用いたVRバドミントン訓練を行い,VR空間における外的遠焦点,外的近焦点,内的焦点の影響の比較検証実験を行いました 

Fig. 2:実験結果

回内動作の差は内的焦点と外的遠焦点が優位に向上したことが確認でき,シャトルの軌道では,外的遠焦点で有意差が確認できました.そのため,外的遠焦点が訓練による影響が最も大きいことが確認できました(Fig. 2)

 今後は,経験者を対象とた訓練により,どの焦点の訓練が最も影響を与えるのかを検証し,初心者との比較を行うことが考えられます. 

 

バドミントンのハイクリア動作における姿勢・関節トルク解析による肘関節の負担推定

バドミントンでは,シャトルを打つ際や肘を伸ばした際に肘関節に痛みを伴う人がいます.また,投球動作やスパイク動作により,肘関節に繰り返しが加わることで,靱帯が損傷して,肘を外側に動かすことで痛みが生じることがあります.本研究では,バドミントンにおける肘関節の負担を定量化・姿勢による影響を調査し,肘関節の負担軽減の検討を目的として,姿勢・関節トルクを解析しています (Fig. 1) 

Fig. 1:実験の様子

 

実験では,バドミントンの研究の中でもあまりされていないハイクリア動作に焦点を当てました.実験の被験者はバドミントンの熟練者,肘に痛みを伴う中級者,初心者としました.姿勢の計測には光学式モーションキャプチャであるOptiTrackを使用し,足裏にかかる力や場所の計測にはフォースプレートを使用し,関節の負担を推定する関節トルクは解析ソフトであるDhaibaWorksを使用しました 

Fig. 2:計測結果

計測したデータからバドミントンのハイクリア動作中の姿勢や関節トルクを解析した結果肘に痛みを伴う人は軸足側へ大きく傾いた姿勢をとり,スイングの振り終わりの際に肘に負荷がかかっていることが分かりました.結果から,肘に痛みを伴う人は全身の姿勢が熟練者と異なるため,振り終わりのタイミングで肘関節の負担が大きくなったと考えました (Fig. 2) 

今後は,今回確認できなかった骨や筋肉による関節への影響を調査し,肘関節に負荷がかかる原因を追求しようと考えています. 

ウメ樹の三次元点群データを用いたMRによるウメ栽培技術の教示

ウメの剪定や摘花などの技術には暗黙知が多く,その継承には多大な時間が必要です.そのため,それらの技術の継承方法が模索されています.そこで本研究では,MRを用いて栽培技術の継承ができないかを研究しています. 

Fig. 1:計測の様子

実験では,教材としてMRに用いるための三次元点群データを評価するため,GoProを用いて撮影した動画から三次元点群データを作成し,樹の枝径と角度を実測値と比較しました.

Fig. 2:計測結果

結果として,枝径と枝角度はともに十分な精度があることを確認できました. 

今後は,より精度を高めるとともに,作成した三次元点群データをARゴーグルに表示させ,教材としての機能の追加を目指しています. 

目標把持位置ベクトル表示とベジェ曲線に基づく操作補正による遠隔ロボット操作支援システム

ロボット遠隔操作は限られたフィードバックによる操作難易度さが課題としてあります.この課題の解決のため力覚情報や触覚情報をフィードバックするシステムや操作をアシストするシステムなどが提案されています.本研究では単一の視点をディスプレイに表示するロボットアームの遠隔操作における把持タスクをより簡単にするために操作補正と目標位置までの到達に必要な情報を表示するアシスト制御を提案しました. 

Fig. 1:遠隔操作システム概要

提案手法では物体の種類に制限を設けない,操作インターフェイスに高価な計測機器を使用しないことを制約としました.また,提案手法ではベジェ曲線に基づく操作補正を行うことでより物体に接近しやすく,矢印を用いて目標位置までの距離と方向を表示することで視覚的にも操作をアシストします.(Fig. 1 

Fig. 2:アンケート調査結果(左:NASA-TLX,右:SUS)

実験では操作補正の有無と表示機能の有無の4パターンの操作手法を用いて3種類の物体を把持するタスクを行いました.結果として,アンケート調査により提案手法の有効性が示唆されました(Fig. 2).  

今後は,設置タスクへの対応や隠れた物体に対応するなどより様々な操作に対応したアシスト制御の開発を目指します. 

コンパニオンロボットと生成AIを用いた発達障害児のための文章作成支援システムの開発と評価

発達障害児の中には自力で文章を作成することが困難な児童がいます.現在,療育現場において,このような児童たちは療育スタッフの質問に答える形で文章を作成しています.しかし,療育スタッフ不足の問題などから子どもたち自身で継続的に練習できるシステムが必要とされています.そこで本研究では,発達障害児の文章作成能力の向上を目的とし,条件を変えた4種類の文章作成支援システムを開発しました 

Fig. 1:文章作成支援システムの概要

開発したシステムについて,入力方法は「タイピング入力」「音声認識による入力」の2種類,出力方法は「コンパニオロボット(Stack-chan)あり」「コンパニオロボットなし」の2種類です.児童の入力内容に対する返答を作成する部分に生成AIの1つであるChatGPTを用い,自然な返答を実現します.(Fig.1

Fig. 2:発達障害児を対象とした実験の様子

開発したシステムを用いて,どのようなシステムが文章を作成するインタラクションにおいて有効的かを明らかにし,入力方法の違いやロボットの有無が,児童から出力される文章内容に与える影響を調査します.実験では4種類のシステムを使用し,各システムにおける生成単語数の分析,脳波の測定,アンケートを実施しました.(Fig.2 

実験より,児童によって有効的なシステムは異なり,生成単語数の結果とアンケート結果の両方を考慮してシステムを選択する必要があると考えられます.今後知能検査結果との関連性を調査し,また,長期使用による文章作成スキルに与える影響も評価したいと考えています.