はじめに

どうも！ElithのCEO/CTOの井上です！！
今回、ICLRのワークショップ採択されたこともあり、現地に研究メンバーで視察しました。
以下4名の研究メンバーの記事もぜひご覧ください：

• 下垣内
• 下村
• カン
• 中村

元々は、CVPRなどの画像系の学会に参加することが多く、自らの専門もゼロショットのセグメンテーションなど画像がバックグラウンドのため、このような機械学習系のトップカンファレンスに参加することは初めてでした。
私の趣味として、全体的に画像・エージェント・Embody系の研究に偏っています。
どうぞ参加レポートをお楽しみにください。
技術の詳細について今後出しますICLR2025テックブログを参照ください。
こちらでは、私が気になったオーラル・ポスターの技術詳細について記載しております。

1. ICLR 2025 の全体像

概要
シンガポールで開催されたICLR 2025 (International Conference on Learning Representations 2025) には、オンラインと現地参加を合わせて世界中から数千人規模の研究者・技術者が集まりました。
会期は2025年4月24日から28日までの5日間で、機械学習・深層学習・生成AI分野の最新研究成果が発表されました。
今回は投稿論文数が 11,565本 と過去最多レベルにのぼり、そのうち 32.08% が採択されました。採択論文数の増加に伴い参加者も前年より大幅に増え、会場は活気にあふれていました。
参加者のバックグラウンドも多様で、学術界・産業界の研究者から起業家、エンジニア、学生まで幅広く、機械学習・深層学習・生成AIの最先端動向を共有するグローバルな交流の場となりました。
実際、日本では大学教授を除いて経営者として研究活動を行う人は少ないのですが、ICLRのランチタイム

参加者
本年の開催形式は現地対面とバーチャル配信のハイブリッドで行われ、現地参加できない研究者もオンラインで発表や討論に参加できるよう工夫されていました。
会場
会場となったシンガポール EXPOでは、広々としたポスター会場や講演ホールが用意されていました。会場はめちゃくちゃ広いです。Workshopの会場とオーラルの会場で10分ぐらい歩きました。
発表
ポスターセッションは全てを見て回ることは**(現実的に)**不可能です。
すべてのポスターを見るには複数人で計画的に分担する必要がありますが、注目すべきオーラルやKeynoteは参加者間でかなり重複するため、実質的に全てを網羅するのは困難なので、取捨選択が求められます。
全体
運営面では、受付の円滑化や十分な休憩スペース確保など参加者への配慮が行き届いており、初めて参加する人にとっても比較的ストレスなく国際学会を体験できる環境でした。
昼頃になると常に軽食・コーヒーが用意されておりカフェイン中毒の自分にはピッタリな会議でした。
IMG_1050.MOV
全体として、ICLRはトップ会議にふさわしい規模と充実度で、ディープラーニング分野の現在地と今後の方向性を示す場であると感じました。日本の学会もスポンサーなどの形でもっと盛り上げていきたいです。

ランチの様子

全体として、ICLRはトップ会議にふさわしい規模と充実度で、ディープラーニング分野の現在地と今後の方向性を示す場であると感じました。日本の学会もスポンサーなどの形でもっと盛り上げていきたいです。

2. これから来る研究トレンド TOP3

今年のICLRでは、発表論文や議論の中で特に「注目を集めた研究トピック」がいくつか見られました。会場で大きな反響があった主なトレンドを3つにまとめます。

(1) 大規模言語モデル (LLM) と効率的学習
概要
昨年に続き、GPTシリーズに代表される大規模言語モデル関連の研究が最も注目を集めました。論文タイトル中の出現頻度分析でも “Large Language Model” や “Language Model” が飛び抜けて多く、それぞれ505回・439回にのぼっています。
計算時の工夫について
LLMは何十億という巨大小型のパラメータを持ち、教師あり微調整やプロンプトエンジニアリングと組み合わせることで高い言語理解・生成・推論能力を示します。しかし同時に、計算資源コストの高さやデプロイの難しさといった課題も顕在化しています。
そのため、本会議ではモデル最適化・学習効率化・適応学習・ロバスト性といったキーワードが頻出し、限られたリソースでモデル性能を引き出す研究（圧縮・蒸留・軽量モデル開発など）や、モデルの対話型評価・データ品質改善による性能向上など、LLMを賢く使いこなす工夫に焦点が当てられていました。
Test time Adaptationについて
特に、LLMに関してはファインチューニングをして工夫するというよりも、Test Time Adaptationなどの推論時(Reasoningでない)にどうにかするなどの、計算リソースが求められない中での研究が多いような気がしました。

(2) 生成AIと拡散モデルの進化
概要
拡散モデルなど、この分野も引き続きホットな話題です。
特に拡散モデル (Diffusion Model) は、画像や映像の生成における性能と安定性の高さから依然大きな注目を集めており、論文中での言及回数は398回に達しました。
これはTransformerアーキテクチャ（143回）を大きく上回り、拡散モデルが現在最も注目される生成手法であることを裏付けています。拡散モデルは画像合成、動画生成、3次元コンテンツ作成など視覚分野の様々なタスクで高品質な生成結果を達成しており、その応用範囲と発展可能性の高さが改めて示されました。

拡散モデルに関して
拡散モデルに関しては、他分野との応用も広く見られました。例えば、マルチエージェント(Mutil Agents)のプランニングの際に、拡散モデルを利用するなどユニークな手法が多かったです。

Transformerアーキテクチャについて
一方でTransformerも依然として生成基盤技術の柱であり、拡散モデルとの組み合わせや代替となる一貫性モデル（Consistency Model）など、新たな生成モデルの提案も活発でした。生成AIブームに支えられ、画像と言語のマルチモーダル生成や大規模モデルのファインチューニング手法なども含め、生成モデルのさらなる高性能化・高効率化が今年の大きなトピックでした。

(3) 強化学習・エージェントとマルチモーダルAI
概要
強化学習 や エージェントAI 関連の研究も盛り上がりを見せました。論文タイトル中では “Agent”（エージェント）が127回、“Reinforcement Learning”が121回出現し、自律的なAIエージェントへの関心の高さがうかがえます。
特に、複数のエージェントが協調してタスクをこなすマルチエージェントシステムや、大規模言語モデルをエージェントとして用いるLLMエージェントの研究が増えており、ロボット制御や自動運転など実世界への応用を見据えた具現知能（Embodied Intelligence）の議論も活発でした。

次回のICLR会議では、間違いなく強化学習の分野がさらに台頭してくると感じさせる研究内容でした。

マルチエージェントについて
マルチエージェントを単体で評価すると性能面で課題が生じるなど、研究テーマとしてインサイトの得かた自体に苦労している様子が垣間見えました。しかし、今後シングルエージェントの性能が向上し、より明確な役割分担を持たせられるようになれば、さらなる発展が期待できるでしょう。または、マルチエージェントの強みを活かせる有効なケーススタディが見つかれば、研究が一気に進展する可能性もあります。

会議中の食事の際に研究者の方と話したところ、マルチエージェントの性能を直接評価するのは難しく、むしろ別の視点から研究を進める方が良いかもしれないという意見も出ました。これは例えば、リサーチクエスチョンそのものを再検討するといったアプローチです。ICLRのような性能向上を追求するタイプのカンファレンスでは、マルチエージェントというテーマとはまだ相性が良くない印象を受けました。

参加したSocial分野におけるマルチエージェントアプリケーションのセッションでは、性能面で受け入れがたい根深い問題が依然として残っていますが、Human in the Loop（HITL）を設計に取り入れることで、これらの課題をある程度回避できるのではないかと思います。

マルチモーダルについて
加えてマルチモーダル（視覚・言語・音声など統合）的な学習も99回と高頻度で言及されており、異種のデータを統合して意思決定するAIの可能性に注目が集まりました。
これらのトピックは、安全で信頼できるAIシステムを現実世界に展開するうえで重要となる技術であり、産業界のニーズとも合致した研究潮流と言えます。

3. 盛り上がるワークショップ

メインカンファレンス後半の4月27日・28日には、40のワークショップが開催されました。ICLR 2025では昨年の2倍となる122件の提案があり、その中から選ばれた40件が2日間並行して行われました。トピックも多岐にわたっており、昨今のトレンドを反映したテーマが目立ちます。

例えば、「Open Science for Foundation Models」(基盤モデルのオープンサイエンス) ワークショップでは、大規模モデルのオープンソース化・再現性向上に向けた議論が行われました。産業界・学術界を問わず基盤モデルをオープンに共有しようという動きは、今年特に注目されるテーマです。

また、「Towards Agentic AI for Science」(科学のためのエージェントAI) と題したワークショップでは、科学研究における仮説生成や実験計画を自律AIエージェントで支援する最先端の試みが紹介されました。マルチエージェントシステムやLLMエージェントが科学分野で果たしうる役割について、産学の参加者が活発に議論していました（こちらのワークショップでは当社Elithの研究も発表されています）。

さらに、「Building Trust in LLMs」(LLMへの信頼構築) や 「Embodied Intelligence with LLMs」、「Sparsity in LLMs」 といった大規模言語モデルに関連するテーマや、「AI for Climate Change」・**「AI for Genomics」**など応用分野にフォーカスしたものまで、多彩なセッションが展開されました。

今年は昨年に比べワークショップ数が大幅に増えたこともあり、同時開催セッションが非常に多かったです。自分はロボティクス系と弊社で発表するエージェントのワークショップに参加しました。「7th Robot Learning Workshop: Towards Robots with Human-Level Abilities」のロボットのワークショップは超面白かったです。

各ワークショップの詳細なプログラムや発表資料は公式サイトや各ワークショップのホームページで公開されています。

全体として、ワークショップではメインセッションでは扱いきれない専門特化した深掘り議論や、インタラクティブな質疑応答を通じて新たなコラボレーションが生まれる場となっており、参加者にとって有意義な場でした。

4. ネットワーキング & 会場 Tips

ネットワーキングについて
国際会議の醍醐味の一つは、世界中の研究者と直接交流しネットワーキングできることです。
ICLR 2025でも公式・非公式を問わず様々な交流の機会が設けられていました。
会期中は毎日、朝夕のコーヒーブレークやランチ休憩時にポスター会場周辺で自由交流の場があり、気になった発表者に直接質問したり、業界の垣根を越えたディスカッションが自然発生していました。

イベントについて
また初日の夜にはウェルカムレセプションが開催され、軽食を片手に参加者同士が親睦を深める光景が見られました。今年は非公式なミートアップイベントも充実していました。例えば、地元開催ということでアジアのAIコミュニティによるネットワーキング夕食会「ICLR 2025 AI Talent Meetup」が4月24日夜にシンガポール市内で開催され、産学の参加者がカジュアルに交流する場となりまし。私自身も、2日に渡って研究者の方とディナーでコミュニケーションさしていただき、研究示唆出し方法、流行りの研究テーマ、LLMベースのエージェントの難しさなど大変参考になりました。

こうしたコミュニティ主催のイベント情報はXやLinkedInで事前に告知されることが多そうです。終わりに気がつきました。今回はWhova上でのコミュニティも活発であったので、学会によって異なりそうです。

スケジューリングについて
会場Tipsとしては、まずスケジュール管理が肝心です（本当に）。
発表が並行して走るため、公式サイトやモバイルアプリのプログラムを活用して聴講予定を事前に立てておくと動きやすくなります。今回だと、Whovaというアプリ上でスケジュール管理できたので非常にストレスなく回れました。逆に、公式サイトから探そうと思うとめちゃくちゃ大変だったので、アプリなどがあるようであれば、それから管理した方が良さそうです。
朝・昼でオーラルが6並列で行われ、その間に600ものポスター発表が行われるので、初めてだとかなり混乱すると感じました。

ポスター発表について
ポスター発表は人気のものだとブースが人だかりになるので、開始直後の時間帯や終了間際を狙って訪れると比較的ゆっくり話を聞けます。一つ注意として、早めにポスターを切り上げるパターンもあり、話が数件聞けない研究もありました。おすすめは開始直後です。
一方でスケジューリングの際に、計画的にという話をした一方で、人だかりができているポスターを見に行くのもおすすめです。全く本質的ではないですが、クールなものや目を惹くポスターは人気でした。白をバックにしたポスターが多いですが、黒にするとカッコよく「いけてるポスターだよね」という話でポスター前で話したりしました。

ポスター発表では、基本的にポスターの前に発表者が立っているので話しかける必要があります。国際会議の場合、英語で取る必要がありますが、不安な方も多いと思います。英語でのコミュニケーションに不安がある方も、ポスター発表者は丁寧に説明してくれることが多いので、ぜひ臆せず話しかけてみることをおすすめします。
「どんなモチベーションでこの研究を始めしたか？」など、テンプレの質問を英語で用意しておくことで、本質的な会話ができることが多かったです。

海外でのWi-Fiについて
多くのキャリアで海外で利用できるサービスが用意されているので、それを利用すると良いです。仮に、そのようなキャリアでなくても、現地の空港で借りられることも多いので事前に調査し、備えておきましょう。

最後に
最後に、ネットワーキングのコツとして「自分から話しかける勇気」が大切です。ポスター発表者や隣に座った参加者に簡単な挨拶から会話を始めてみると、意外な共通点が見つかったり有益な情報交換につながることが多々あります！海外だと、大体LinkedInを利用してそうです。国際会議では皆フレンドリーですので、ぜひ積極的に交流してみてください。

5. Elithチームの現地活動スナップ

今回のICLR 2025には、私たち Elithチーム も現地参加し、様々な形で活動を行いました。その様子を簡単にレポートします。
ICLR併設のワークショップの「ICLR 2025 Workshop Agentic AI」にて、当社の研究成果を発表しました。

Elithチームポスター

このワークショップはマルチエージェントや自律的AIシステムがテーマで、Elithチームは「Dynamic Knowledge Integration in Multi-Agent Systems for Content Inference」と題したポスター発表を行いました。
異なる専門知識を持つ複数のエージェントが動的に協調し合い高度な推論を実現するという内容で、発表中は多くの研究者から質問や興味深いコメントをいただきました。特に「エージェント間の通信プロトコルは？」「リアルタイム適応は可能か？」といった専門的な問いかけもあり、活発な議論を通じて今後の研究のヒントも得ることができました。
今回のICLR参加を通じて、Elithチームとして国際的なプレゼンスを示しつつ、多くの学びとつながりを得ることができました。この経験を今後の研究開発やサービス展開に活かし、さらに飛躍していきたいと思います。
今後もこのような現地の一次情報を皆様にお伝えできればと思います。

6.明日から使える学び

国際会議で得られる知見の中には、研究者・技術者の日々の業務や学習にすぐに活かせる教訓も少なくありません。ICLR 2025を通じて得た「明日から使える」学びをまとめました。

「大きいモデルばかりが全てではない」
“Bigger is better”の風潮に一石を投じる知見も得られました。Danqi Chen氏のキーノートでも言及されていた通り、学術コミュニティでは「小さくても賢いモデル」の研究が重要になります。**計算資源が限られる環境でも、データの工夫や訓練プロセスの改善でモデル性能を引き出すことは可能です。**必ずしも巨大モデルを用意しなくても、創意工夫次第で実用に足るAIを実現できるという姿勢が大切だと感じました。

「最新成果とリソースは積極的に活用しよう」
ICLRで発表されるようなトップ研究の中には、論文公開と同時にコードやデータセットが公開されるものも多くあります。最新研究は論文を読むだけでなく触れて試すことで、自身のスキル向上やプロジェクトの質向上に直結する学びとなります。

以上の2点は、ICLR参加を通じて得られた知見のほんの一部ですが、日々のAI開発・研究にすぐに活かせるエッセンスだと思います。ぜひ参考にしてみてください。

7. 参考リンク & 次に注目の学会 & 告知

参考リンク集

• ICLR 2025 公式サイト・プログラム: ICLR 2025の公式ホームページ。スケジュールや発表一覧、受賞論文情報などが掲載。
• ICLR 2025 オープンレビュー: 論文の閲覧・検索はOpenReviewで可能。全採択論文のPDFやSupplementaryが公開されています。
• ICLR 2025 招待講演情報: キーノート講演者とタイトルの公式発表。各講演の概要はICLRブログに掲載。
• ICLR 2025 Outstanding Papers: 優秀論文・Honorable Mention受賞作品の一覧。
• Elithプレスリリース: 当社のICLR 2025参加に関するニュースリリース。ワークショップ採択論文の背景などを解説。

次の注目の国際会議は？
機械学習・深層学習・生成AIの研究はICLR以外にも年間を通じて主要カンファレンスが続きます。次の注目イベントとしては、以下の2つです。

• 7月に開催予定のICML 2025 (International Conference on Machine Learning 2025)
• 12月開催予定のNeurIPS 2025 (Neural Information Processing Systems 2025)

それぞれ機械学習分野のトップカンファレンスであり、ICLR同様に最新研究が発表される場となります。
画像分野に関しては、CVPRやICCVも重要な注目カンファレンスです。

告知
この機会にお知らせがございます。
Elithは現在、以下の2つの国内学会でスポンサーを務めております：

• JSAI：人工知能学会
• MIRU2025（画像の認識・理解シンポジウム）

これらの学会にご参加される際は、ぜひElithブースにお立ち寄りください。ICLRに限らず、様々な研究テーマについて意見交換できることを楽しみにしております。

最後に
私たちElithチームも、これら今後の国際会議や国内イベントで引き続き情報発信・交流を行っていく予定です。今回得た知見を活かし、更なる研究成果を持って次の舞台に臨みたいと思います。次回の参加レポートもお楽しみにしていてください！
以上、ICLR 2025現地参加レポートでした。最後までお読みいただきありがとうございました！！

※こちらの記事の情報は2025/05/14時点での情報となります。