ZETTSU LAB

研究紹介Research

本研究室では,複数のAIモデル,データベース,外部サービス,計算資源,人間の知識を目的に応じて連携させる,AIオーケストレーション技術を研究しています.
AIオーケストレーションとは,課題や実世界の状況に応じて,適切なAIやデータを選択・連携し,結果を評価しながら処理やモデルを継続的に改善する技術です.
LLM,マルチモーダルAI,予測モデル,データベース,外部評価器,エッジAIなどを組み合わせ,単一のAIでは対応が難しい認識,推論,意思決定,サービス提供の実現を目指します.

AIモデル・エージェント連携の概念図(Image generated with ChatGPT)

AIモデル・エージェント連携

得意分野の異なる複数のAIを連携させ,単一のAIでは難しい認識,推論,生成,意思決定を実現します.
外部ツールや評価器も活用し,結果を確認しながら再生成や再計画を行います.

主な研究テーマへ

知識・データオーケストレーションの概念図(Image generated with ChatGPT)

知識・データオーケストレーション

映像,音声,テキスト,センサ,時空間データなどを収集・整理し,AIが利用できる知識として蓄積します.
AIが必要な情報を検索・参照することで,実世界の状況や過去の事例を踏まえた推論や生成を支援します.

主な研究テーマへ

分散・循環進化型AI基盤(Image generated with ChatGPT)

分散・循環進化型AI基盤

クラウド,エッジ端末,組織ごとに分散したデータと計算資源を,安全かつ効率的に連携させます.
現場で得られた経験や評価をモデル更新に生かし,使うほど性能が向上するAI基盤を目指します.

主な研究テーマへ

AIモデル・エージェント連携

異なる能力を持つ複数のAIモデルやAIエージェントを組み合わせ,単一のモデルでは対応が難しい認識,推論,生成,意思決定を実現する研究に取り組んでいます.モデル同士の連携だけでなく,データベース,外部ツール,評価器などを組み合わせ,生成結果の検証や再計画まで含むAIシステムの高度化を目指しています.

主な研究テーマ

  • LLMとフィジカルAIの連携による安全な行動支援
    フィジカルAIが生成した行動候補を,LLMと外部評価器によって検証し,必要に応じて修正,再計画,人間への判断委譲を行う研究です. 自動運転やロボットなど,実世界で動作するAIの危険な行動を抑制し,状況に応じた安全な行動選択を支援します.
  • AIエージェントによる開発プロセス設計支援
    曖昧な自然言語要求を段階的に分解・構造化し,要件定義,開発工程の設計,コンテンツ生成を支援するAIエージェントの研究です.ゲーム開発などにおいて,複数のAIエージェントの役割や実行順序を設計し,人間とAIによる反復的な協調開発を支援します.
  • LLM連携による対話理解・仮説生成の高度化
    LLMによる生成と多面的な評価を連携させ,不確実性を含むマルチターン対話から文脈情報や因果関係を抽出する研究です.対話ログからの因果仮説生成や,利用者の意図に沿った応答生成などに応用し,対話AIの理解力と応答の妥当性を高めます.
  • マルチモーダルAIモデル連携
    映像,音声,テキスト,センサデータなど,モダリティごとの事前学習モデルを柔軟に組み合わせ,高精度な認識・予測モデルを構成する研究です.ドライブレコーダ映像,心拍数,車内環境センサを統合し,映像だけでは捉えにくい運転中のヒヤリハット予測などに応用します.

データの種類(モダリティ)ごとの事前学習モデルを組み合わせ高精度なマルチモーダル予測モデルを作成するマルチモーダルAIモデル連携

知識・データオーケストレーション


映像,音声,テキスト,対話,センサ,時空間データなどのマルチモーダル情報を,イベントや人間の主観情報として構造化し,蓄積,検索,分析,活用する研究に取り組んでいます.さらに,構築した知識データベースをLLM等と連携させることで,推論,生成,要約の高度化を目指しています.

主な研究テーマ

  • 時間文脈を考慮したマルチモーダル動画要約
    動画から抽出したイベント情報を知識データベースとして構造化し,前後の時間文脈や類似事例を検索・参照して要約を生成する研究です.eスポーツ中継などの長編動画から重要場面を抽出し,試合の流れを踏まえた分かりやすい要約を生成するために活用します.
  • 人間の主観情報の知識構造化
    対話や行動データから,人間の感情,期待,評価理由,判断根拠などの主観情報を構造化して抽出し,知識として蓄積・活用する研究です.利用者の不満を期待と現状のギャップとして捉える不満構造推定などに応用し,顧客対応や対話支援の高度化を目指します.
  • イベントデータウェアハウス
    気象,環境,交通,IoTなどのセンシングデータを共通形式のイベントデータへ変換し,時空間・テーマ属性に基づいて蓄積・分析する研究です.大規模データから有用なパターンを発見し,交通リスク分析,環境監視,高品質な学習データや合成データの生成などに活用します.
  • 時空間データマイニング
    発生する場所や期間に偏りがあるイベントデータから,特定の時空間において高い効用を持つパターンを高速に発見する研究です.降雨時の渋滞区間の発見など,気象,交通,環境分野における重要事象や地域特有の傾向の把握に活用します.

イベントデータウェアハウス

Spatial High-Utility Frequent Pattern Mining

分散・循環進化型AI基盤

AIモデル,データ,計算資源がクラウド,エッジ端末,組織ごとの環境に分散する状況を対象に,それらを安全かつ効率的に連携させるAI基盤を研究しています.連合学習や継続学習を通じて,実環境で得られたデータや評価結果をモデル更新へ還元し,利用を通じて性能が向上する循環進化型AIの実現を目指しています.

主な研究テーマ

  • 異種エッジ環境に対応した連合学習
    個々の端末が持つプライベートデータを直接共有せず,複数のエッジ端末が協調してAIモデルを安全かつ効率的に学習する研究です.車載端末,スマートフォン,IoT機器など,性能や通信環境の異なる端末間でモデルを共同学習し,現場ごとのAIを継続的に改善します.
  • AIモデル循環進化フレームワーク
    モデル提供者,サービス提供者,利用者が持つデータ,学習結果,評価結果を循環させ,AIモデルを継続的に改善する研究です.車載エッジ,事業所エッジサーバ,クラウドを連携させ,運転リスク予測モデルを利用状況に応じて更新する循環進化型AIドラレコなどに応用します.
  • AIフレームワークとスマートサービス応用
    データ収集,モデル開発,配備,評価,更新を一体的に支援するAIフレームワークを構築する研究です.MLOpsや分散学習基盤を活用し,スマートモビリティ,運転支援,地域安全サービスなどの開発・運用に応用します.
    【参考】情報通信研究機構 xDataプラットフォーム総合テストベッドDCCS

異種エッジ環境に対応したFederated Split Learning

循環進化型AIドラレコシステム

無線通信と連合学習を融合したOn-the-Air Federated Learning