曹研究室 — 配属案内

AIの信頼性を支える。

LLM・自律エージェント・生成AI が社会を変えつつある今、その安全性やプライバシーを支える技術は、重要性を増している研究課題です。
Cao Lab は Privacy / Robustness / Reliability を軸に、この課題に正面から取り組んでいます。

※ スライドの閲覧には Science Tokyo アカウントが必要です

Cao Lab(曹研究室)では、国際トップレベルの研究成果の創出を目指すとともに、学生一人ひとりの目標・成長段階に応じたきめ細かな研究指導を行っています。

LLM Agent RAG Red Teaming Privacy Safety

Cao Lab の特徴

Cao Lab では、国際的な研究発信、充実した研究リソース、多様なバックグラウンドを持つメンバーとの協働の3点を通じて、学生が段階的に研究力を高められる環境を整えています。

国際的な研究発信を目指す
指導と実績
Cao Lab は AAAI / NeurIPS / ICLR / VLDB / SIGMOD / CCS など、AI・セキュリティ・データ管理分野の主要な国際会議で発表を継続しています。この経験をもとに、研究テーマの設定、関連研究の整理、実験設計、論文執筆までを段階的に指導します。B4 / M1 の段階ではまず研究の進め方を身につけることを重視し、その先で大学院での外部発表・国際発表へとつなげていきます。
研究に集中できる
リソースと機会
Cao Lab では、研究に必要なリソースを整備しています。JST CREST・さきがけ・NEXUS などの研究プロジェクトによる研究資金支援、ローカルGPU サーバーや TSUBAME スーパーコンピュータによる計算環境、国際会議発表・海外渡航のサポートを備えており、研究に集中できる環境です。
多文化・国際的な
研究環境
日本・アジア・欧米を含む多様なバックグラウンドのメンバーが在籍し、英語と日本語が自然に行き交う研究環境です。異なる視点や研究スタイルに触れながら視野を広げ、B4 / M1 の段階から英語論文の読解や英語発表にも段階的に慣れていくことができます。

研究テーマ

「AI・データサイエンスを安全で信頼できる形で社会に活用するにはどうすればよいか」という問いに取り組んでいます。

Recent Focus
LLM・自律エージェントの
プライバシー・ロバストネス
大規模言語モデルが「考え、記憶し、行動する」エージェントになったとき、 何が危険で、どう守るべきか——この問いを Supply Chain・Prompt Interface・RAG / Retrieval・Agent Memory という4層のフレームワークで体系的に研究しています。 B4 の研究テーマは、基本的にこの軸を出発点に設定します。
Jailbreak・Prompt Injection RAG の安全性と信頼性 Agent Memory プライバシー保護 Differential Privacy
Supply Chain Model / Adapter / Data Prompt Interface Jailbreak / Safety RAG / Retrieval Poisoning / Privacy Agent Memory Behavior / Privacy / Drift
他のテーマ
Machine Unlearning
学習済みモデルから特定データを後から安全に除去する理論・アルゴリズム・評価を研究します。
連合学習のセキュリティ
分散学習システムへのポイズニング攻撃・防御、プライバシー保証、頑健な学習を扱います。
Embodied AI / XR Privacy
ロボット・VR・XR 環境で収集される行動・視線・空間情報の保護と信頼性設計を扱います。
Membership Inference / 透明性
モデルが特定データで学習されたかを推定する攻撃手法と、防御・監査の方法を研究します。
データマーケット・価値評価
データを安全に使い、正しく評価し、共有できるエコシステム設計を研究します。
マルチモーダル・生成 AI 安全性
画像・映像を含む生成 AI の安全設計、誘導リスクや信頼性評価を扱います。

B4 / M1 の研究テーマは、まず Trustworthy Data Science & AIの領域から考えるのが基本ですが、本人の興味や強みに応じて発展的テーマへの対応も可能です。 大切なのは「何が問題で、なぜ重要か」を自分の言葉で説明できることです。


What You'll Learn

ここで身につく力

研究分野だけでなく、「ここに来たらどんな力が身につくか」を具体的に想像してみてください。

論文を読み・研究課題を立てる力

関連研究を整理して Research Gap を見つけ、実行可能なテーマへ落とし込む基礎を身につけます。

実験・評価の力

Baseline を設計し、再現性と説得力のある評価を組み立てる研究エンジニアリング力を磨きます。

「信頼できるAI」を設計・評価する力

リスクを見つける視点と、それをどう守るかを考える視点の両方に、B4/M1 からアクセスできます。

国際的に発信する力

英語論文を読み・議論し、研究を英語で発表する力を段階的に構築していきます。


B4 / M1 からどう成長していくか

卒論を書いて終わりではなく、その先の大学院進学・国際発表・研究者/研究開発エンジニアとしての成長も見据えています。

B3

研究の入口を知る

分野を知り、論文の読み方や research question の立て方に触れます。

B4

自分のテーマを進める

関連研究を調べ、課題を絞り、小さな仮説検証を回して卒論へつなげます。

M1

研究を形にする

評価設計・比較実験・発表準備を通じて、外部発表できる研究へ育てます。

M2 / D

国際的に発信できる力へ

共同研究や論文化を通じて、独立して研究を進める力を高めます。


Research Process

B4 / M1 の進め方(例)

4–5月
Orientation:分野理解・基礎固め・論文を読み始める
6–7月
Research Gap の発見、テーマの絞り込み
8–9月
関連研究の Survey、研究方針の整理
10–11月
実験・結果分析・改善
12–1月
卒論執筆・発表準備
2–3月
卒業発表 /外部発表や次年度テーマへの接続

個人 MTG

週1回程度。論文の相談、テーマ整理、実験方針、次に何をやるべきかを議論します。

グループ MTG

月1–2回程度。研究共有や論文紹介を通じて、他メンバーの視点から学べます。

No Core Time

コアタイムは設けません。週1回程度の個人 MTG で、読むべき論文・進める実験・次の課題を一緒に整理します。


Is this lab for you?

こんな人に向いています


FAQ

よくある質問

テーマはどのように決まりますか?
本人の興味を起点に、教員・先輩と相談しながら方向性を整理します。候補の提示はありますが、具体的なトピックは本人が決めます。
研究未経験でも大丈夫ですか?
問題ありません。最初の1–2ヶ月は Orientation として、分野理解や研究の進め方を丁寧に整理します。
週どれくらいのコミットが必要ですか?
コアタイムは設けません。月1–2回のグループ MTG と週1回程度の個人 MTG を軸に、自主的な作業時間が必要です。
指導は日本語ですか、英語ですか?
教員・先輩との日常的な議論は日本語・英語のどちらでも対応可能です。論文や研究発表は英語が中心となりますが、最初から英語に自信がなくても構いません。
英語が不安です。
最初からできる必要はありません。日本語・英語併用の環境で、B4 / M1 の段階から段階的に慣れていきます。
B4 / 修士で論文や外部発表につながることはありますか?
B4 / 修士で研究は、DEIM・CSS・JSAI などの国内会議で発表することが一般的です。優れた研究成果については、国際会議への投稿も積極的に推奨しています。
大学院進学やその先の進路は?
大学院進学・研究開発職・エンジニア職など幅広い選択肢があります。詳細は見学時に説明します。
これまでの先輩はどんな進路に進んでいますか?
大学院進学(博士課程)、国内研究開発職(Preferred Networks、LY Research、SoftBank など)、海外大学のアカデミアポジションなどに進んでいます。詳細は Team ページの Alumni をご覧ください。
How to Join

見学・相談について

テーマが決まっていなくても構いません。見学では、以下のような内容をお話しします。

外部受験をお考えの方へ

外部から修士課程・博士課程への一般入試での受験をお考えの方は、出願前にCVなどを添えて事前にご連絡いただくことをおすすめしています。受け入れ枠や研究テーマの相性について、お気軽にご相談ください。

見学・相談を申し込む

※ スライドの閲覧には Science Tokyo アカウントが必要です

または 学内 Slack DM からご連絡ください。