曹研究室 — 配属案内

AIを、信頼できるものにする。その最前線へ。

LLM・自律エージェント・生成AI が社会を変えつつある今、その安全性やプライバシーをどう守るかは、世界中で最も urgentな研究課題のひとつです。
Cao Lab は Trustworthy AI / Privacy / Security を軸に、この課題に正面から取り組んでいます。

※ スライドの閲覧には Science Tokyo アカウントが必要です

LLM Agent RAG attack Privacy Safety

なぜ Cao Lab なのか

「Trustworthy AI」を扱う研究室は増えていますが、Cao Lab にはトップレベルの研究・国際環境・研究リソースの3点において、明確な強みを持っています。

トップ研究を目指せる
指導と実績
Cao Lab は AAAI / NeurIPS / ICLR / VLDB / SIGMOD / CCS など、AI・セキュリティ・データ管理分野のトップ国際会議に継続的な発表実績(CSRankings)があります。この経験をもとに、研究テーマの設定から論文執筆・投稿まで、世界水準の研究を一緒に目指す指導を行っています。
研究に集中できる
リソースと機会
Cao Lab では、研究に必要なリソースを整備しています。JST CREST・さきがけ・NEXUS などの大型研究プロジェクトによる安定した研究資金、ローカルGPU サーバーや TSUBAME スーパーコンピュータによる計算環境、国際会議発表・海外渡航のサポートを備えており、計算・資金・発表機会の制約なく研究に集中できる環境です。
多文化・国際的な
研究環境
日本・アジア・欧米を含む多様なバックグラウンドのメンバーが在籍し、英語と日本語が自然に行き交う研究環境です。異なる視点や研究スタイルに触れながら視野を広げ、B4 の段階から英語論文の読解や英語発表にも段階的に慣れていくことができます。

研究テーマ

「AI・データサイエンスを安全で信頼できる形で社会に活用するにはどうすればよいか」という問いに取り組んでいます。

Recent Focus
LLM・自律エージェントの
セキュリティ・プライバシー
大規模言語モデルが「考え、記憶し、行動する」エージェントになったとき、 何が危険で、どう守るべきか——この問いを Supply Chain・Prompt Interface・RAG / Retrieval・Agent Memory という4層のフレームワークで体系的に研究しています。 B4 の研究テーマは、基本的にこの軸を出発点に設定します。
Jailbreak・Prompt Injection RAG の安全性と信頼性 Agent Memory への攻撃 Differential Privacy
Supply Chain Model / Adapter / Data Prompt Interface Jailbreak / Safety RAG / Retrieval Poisoning / Privacy Agent Memory Behavior / Privacy / Drift
他のテーマ
Machine Unlearning
学習済みモデルから特定データを後から安全に除去する理論・アルゴリズム・評価を研究します。
連合学習のセキュリティ
分散学習システムへのポイズニング攻撃・防御、プライバシー保証、頑健な学習を扱います。
Embodied AI / XR Privacy
ロボット・VR・XR 環境で収集される行動・視線・空間情報の保護と信頼性設計を扱います。
Membership Inference / 透明性
モデルが特定データで学習されたかを推定する攻撃手法と、防御・監査の方法を研究します。
データマーケット・価値評価
データを安全に使い、正しく評価し、共有できるエコシステム設計を研究します。
マルチモーダル・生成 AI 安全性
画像・映像を含む生成 AI の安全設計、誘導リスクや信頼性評価を扱います。

B4 の研究テーマは、まず Trustworthy Data Science & AIの領域から考えるのが基本ですが、本人の興味や強みに応じて発展的テーマへの対応も可能です。 大切なのは「何が問題で、なぜ重要か」を自分の言葉で説明できることです。


What You'll Learn

ここで身につく力

研究分野だけでなく、「ここに来たらどんな力が身につくか」を具体的に想像してみてください。

論文を読み・研究課題を立てる力

関連研究を整理して Research Gap を見つけ、実行可能なテーマへ落とし込む基礎を身につけます。

実験・評価の力

Baseline を設計し、再現性と説得力のある評価を組み立てる研究エンジニアリング力を磨きます。

「信頼できるAI」を設計・評価する力

リスクを見つける視点と、それをどう守るかを考える視点の両方に、B4 からアクセスできます。

国際的に発信する力

英語論文を読み・議論し、研究を英語で発表する力を段階的に構築していきます。


B4 からどう成長していくか

卒論を書いて終わりではなく、その先の大学院進学・国際発表・研究者/研究開発エンジニアとしての成長も見据えています。

B3

研究の入口を知る

分野を知り、論文の読み方や research question の立て方に触れます。

B4

自分のテーマを進める

関連研究を調べ、課題を絞り、小さな仮説検証を回して卒論へつなげます。

M1

研究を形にする

評価設計・比較実験・発表準備を通じて、外部発表できる研究へ育てます。

M2 / D

国際的に戦える力へ

共同研究や論文化を通じて、独立して研究を進める力を高めます。


B4 Process

B4 の進め方(例)

4–5月
Orientation:分野理解・基礎固め・論文を読み始める
6–7月
Research Gap の発見、テーマの絞り込み
8–9月
関連研究の Survey、研究方針の整理
10–11月
実験・結果分析・改善
12–1月
卒論執筆・発表準備
2–3月
卒業発表 /外部発表や次年度テーマへの接続

個人 MTG

週1回程度。論文の相談、テーマ整理、実験方針、次に何を読むべきかを議論します。

グループ MTG

月1–2回程度。研究共有や論文紹介を通じて、他メンバーの視点から学べます。

No Core Time

コアタイムは設けません。自主性と自己管理を前提に、計画的に研究を進めるスタイルです。


Is this lab for you?

こんな人に向いています


FAQ

よくある質問

研究未経験でも大丈夫ですか?
問題ありません。最初の1–2ヶ月は Orientation として、分野理解や研究の進め方を丁寧に整理します。
テーマはどのように決まりますか?
本人の興味を起点に、教員・先輩と相談しながら方向性を整理します。候補の提示はありますが、具体的なトピックは本人が決めます。
大学院進学やその先の進路は?
大学院進学・研究開発職・エンジニア職など幅広い選択肢があります。詳細は見学時に説明します。
週どれくらいのコミットが必要ですか?
コアタイムは設けません。月1–2回のグループ MTG と週1回程度の個人 MTG を軸に、自主的な作業時間が必要です。
英語が不安です。
最初からできる必要はありません。日本語・英語併用の環境で、B4 の段階から段階的に慣れていきます。
B4 で論文や外部発表につながることはありますか?
テーマや進捗次第では十分あります。興味がある方には見学時に具体例をお話しします。
How to Join

見学・相談について

テーマが決まっていなくても構いません。見学では、以下のような内容をお話しします。

見学・相談を申し込む

※ スライドの閲覧には Science Tokyo アカウントが必要です

または 学内 Slack DM からご連絡ください。