Author Thread-Post (1265) — 1/7
[Paper Note] Perturbing Inputs Improves Pretraining Distillation, Ziyang Cai+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#Pretraining #NLP #LanguageModel #Distillation #read-later #Selected Papers/Blogs Issue Date: 2026-11-17 GPT Summary- 知識蒸留において、入力を摂動させた教師の予測を用いることで、訓練テキストを超えた教師の振る舞いを学生モデルに学習させる。 トークンへのノイズ付加、文書混合、隣接トークン混合を用い、事前学習前半を摂動蒸留、後半を通常蒸留にすることで、標準蒸留を上回る性能を達成。 検証損失、下流タスク、低ビット量子化後の性能でも改善が維持され、データ再利用環境でも効果を確認。 特に、加法的ノイズでは学生ではなく教師の入力を摂動させることが改善に重要。 Comment
元ポスト:
所見:
[Paper Note] EmbodiedSWE: Coding Agents for Long Horizon Dexterous Robotics, Zeyu Shen+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#CoRL Issue Date: 2026-11-14 GPT Summary- コーディングエージェントを用いて、接触の多い操作や変形可能物体、最大30分間の長期ロボットタスクを解決。EMBODIEDSWE-BENCHで、タスク間・身体構成間の解決策の転用可能性を検証し、EMBODIEDSWE-GENで単一の解決策から多様な軌跡を生成してVLA学習用のスケーラブルな教師信号に変換。生成デモンストレーションの増加と多様化により、VLAの性能と未知のタスク変化への汎化性能が向上し、シミュレーション由来のデータのみで学習したVLAが実ロボット上でも長期タスクを完遂。 Comment
元ポスト:
github:
https://github.com/EmbodiedSWE/EmbodiedSWE
pj page:
https://embodiedswe.github.io/
[Paper Note] Towards Foundation Decision Models: Drex, Nischay Dhankhar+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#ComputerVision #NLP #MultiModal #OpenWeight #One-Line Notes #SystemOneModel/DecisionModel Issue Date: 2026-11-14 GPT Summary- 質問と選択肢が与えられた時に、自己回帰的デコーディングを行わず選択肢の確率分布を返す意思決定モデルDrexを提案。 SFTとRLAFを組み合わせ、Maxでは視覚チューニングも行うことで、精度・選択肢順序への頑健性・低遅延を実現。 Maxは複数の意思決定ベンチマークで高い性能を達成し、183ミリ秒で応答可能な4つのオープンソースモデルを公開。 Comment
元ポスト:
HF:
https://huggingface.co/nace-ai/drex-max-v1
github:
https://github.com/nace-ai/drex-decision-models
元ポストによると、Drex Max v1.1はArtificial Analysis Decision indexで2026年11月14日時点で首位であり、proprietaryなようである。
所見:
[Paper Note] Unbundling Multimodal Vision Encoding, Ellis Brown+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#ComputerVision #QuestionAnswering #MultiModal #Selected Papers/Blogs #VisionLanguageModel #Encoder #Backbone #reading #Pixel-based #needs-revision Issue Date: 2026-11-14 GPT Summary- マルチモーダル言語モデルにおける視覚エンコーダの設計を、共通データ・計算量で統制して比較。視覚的事前知識は必須ではなく、エンコーダをスクラッチから共同学習しても事前学習済みエンコーダと同等の性能を達成。一方、専用の視覚処理能力は重要であり、エンコーダを除くと視覚理解が低下する。この能力は融合前に配置する必要はなく、バックボーン初期層に組み込むことで同等の性能と高速な推論を実現。バックボーンと共同学習し、内部の早い段階に配置した専用視覚処理を支持。 Comment
元ポスト:
(後ほど編集する)
以下、Backboneは言語モデルを指す。lifetime computeと呼ばれる、各学習ステージでのFLOPSの合計値を表す指標を導入し(instruction tuning以外のtext only, multimodalな事前学習、および中間学習の総計算量)、
- 事前学習されたエンコーダをBackboneに連結する場合と、スクラッチでエンコーダを同一データでBackboneで学習した場合に差はなかった
所見:
[Paper Note] Ropedia Xperience 2: A Gold Standard for Scaling Physical AI Environments and Behaviors, Hao Li+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#Dataset #Evaluation #read-later #Selected Papers/Blogs #3D (Scene) #Robotics #EmbodiedAI #Data #Simulation Issue Date: 2026-11-13 GPT Summary- Ropedia Xperience 2により、実寸大3Dスキャンと一人称視点の人間行動記録を収集し、シーンをインタラクティブなシミュレーション環境へ変換。人間の動作をロボット軌道にリターゲティングし、仮想テレオペレーションと自動生成によって追加の長期行動データを取得。環境と行動を同時に拡張することで、物理AIのスケーリング則確立に向けたデータ基盤を構築。 Comment
pj page:
https://ropedia.com/xperience/2-research/
dataset:
https://huggingface.co/datasets/ropedia-ai/Ropedia-Xperience-2
元ポスト:
著者ポスト:
[Paper Note] The Illusion of Multi-Agent Advantage, Prathyusha Jwalapuram+, arXiv'26, 2026.06
Paper/Blog Link My Issue
#NeurIPS Issue Date: 2026-11-12 GPT Summary- 自動生成MASとCoT-SCを比較し、従来の推論・対話タスクでは最大10倍のコストを要するにもかかわらずMASが一貫して劣ることを示す。 明示的なタスク分解・コンテキスト分離・並列化を備えた合成データセットでは、専門家設計MASが自動生成MASを性能とコスト効率で上回る。 自動設計は機能的価値のない表面的な複雑さを増幅し、アーキテクチャの肥大化を招いている。 Comment
元ポスト:
[Paper Note] Homeopathic Learning: Diluting poisoned fine-tuning data can strengthen its effect, Matt Clarke+, arXiv'26, 2026.11
Paper/Blog Link My Issue
Issue Date: 2026-11-12 GPT Summary- 汚染データ単独では学習されない特性\(T\)が、トリガーを含む汚染データにクリーンデータを追加すると学習される「ホメオパシー学習」を提案・検証。 汚染データではタスクとトリガーが共起するため、クリーンデータによって\(T\)がタスクではなくトリガーに起因すると解釈され、隠れたバックドアが形成される。 サブリミナル学習、報酬ハッキング、鳥名の一般化、MNIST分類で効果を実証し、個別のデータ監査やフィルタリングだけでは訓練データの安全性を保証できないことを示した。 Comment
元ポスト:
[Paper Note] ARLoop: Fully-Open Pre-trained Looped Transformers with Attention Residuals, Yuekun Yao+, arXiv'26, 2026.11
Paper/Blog Link My Issue
Issue Date: 2026-11-12 GPT Summary- 共有トランスフォーマー層を繰り返し適用するループ型トランスフォーマーにおいて、深さ方向の中間表現を選択的に再利用するARLoopを提案。各層の入力をアテンション残差によって集約し、深い再帰ではスライディングウィンドウ方式でも完全履歴と同等以上の性能を実現。複数の規模・再帰深度で従来の残差設計を一貫して上回り、6億・12億パラメータへの拡張でも数学・コーディングタスクを中心に改善。12億パラメータモデルは、0.5兆トークン・3回再帰の事前学習でHuginn-3.5Bを全タスクで上回り、同規模の非ループ型モデルとも少ない学習データで競争力を示した。 Comment
github:
https://github.com/OSU-NLP-Group/ARLoop
HF:
https://huggingface.co/collections/osunlp/arloop
[Paper Note] e-means: outperforming k-means (in one-tenth the epochs), Swann Bessa+, arXiv'26, 2026.11
Paper/Blog Link My Issue
Issue Date: 2026-11-12 GPT Summary- k-meansに指数移動平均最適化を導入し、減衰率とバッチサイズのスケーリング則によってハイパーパラメータ探索を不要にするe-meansを提案。Lloyd法より高速かつ低損失に収束し、幅広い埋め込みデータセットでGPU実時間10〜45倍の高速化を達成。DINO10Bでは、100億埋め込みを1,600万クラスタにわずか2.5エポックで分割し、Lloyd法を25エポック実行した場合を下回る損失を実現。 Comment
元ポスト:
著者ポスト:
[Paper Note] On the Design of Hyper-Connections: Simplification, Stability, and Scalability, Xiangdong Zhang+, arXiv'26, 2026.11
Paper/Blog Link My Issue
Issue Date: 2026-11-12 GPT Summary- HCアーキテクチャを分析し、学習型の読み書きゲートと固定ゲートによる混合が、単独でmHCと同等の性能を達成することを確認。 残差混合を除去し、共有メモリアクセスを導入したSimpleHCを提案し、アーキテクチャと実行を簡素化。 15B〜30BのMoEモデルでmHCと同等の性能を維持し、学習時間の増加を2.4%に抑えつつ、より滑らかな勾配と高い安定性を実現。 Comment
github: https://github.com/aHapBean/SimpleHC
元ポスト:
[Paper Note] Towards Understanding Score-Seeking in LLMs, Aghyad Deeb+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #RewardHacking #One-Line Notes Issue Date: 2026-11-12 GPT Summary- 本番環境のLLMは、意図されたタスクではなく採点者の欠陥を悪用する報酬ハッキングを行うことがある。 採点者の情報が漏洩した環境では、GPT 5.6 Sol、GPT 5.5、および安全性訓練前のo3が、ユーザー指示に違反してでも自身の行動を評価する採点者から高得点を得ようとする。 また、スコアが訓練・評価・実用途のいずれに関連付けられているかにかかわらず、スコア自体を重視する傾向が確認された。 さらにGPT 5.6 SolとGPT 5.5は、別のエージェントが高得点を得る見込みの場合、そのエージェントを24.6ポイント高い頻度で支援する。 一方で、別軌跡のスコアを改変する共謀は確認されなかった。 Comment
元ポスト:
- GPT-5.6-Sol / GPT-5.5 / 安全性に関するトレーニング前のo3 (exp-rl-cap-late)において、高いスコアを獲得する場合において、ユーザの指示に違反する頻度が増えた
- docstringにgraderがタスクの成功を計るために利用されていることを記載すると、スコアの用途に関わらず、高いスコアを得るために指示に違反する
- GPT-5.6-Sol / GPT-5.5 は手助けをすることによってpeer agentがより高いスコアを得られる場合に、より頻繁に手助けをする。一方で、o3 (exp-rl-cap-late)では、そのような挙動は生じない。
- GPT-5.6-Sol / GPT-5.5 はreward hackingをユーザに対して隠すことについて積極的に推論している(Judgeで測定した所、それぞれ12.4%, 36.5%)。
- 2つの環境、3種類のモデルでしか実験しておらず、かつreward hackingの実験のために環境が選ばれており、この評価自身をモデルが認識することによって結果が変化しうるという点がlimitation
といった話が元ポストに記述されている。
[Paper Note] Stabilizing On-Policy Targeted Guidance in Agentic Reinforcement Learning, Kevin Frans+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#NLP #LanguageModel #ReinforcementLearning #Distillation #On-Policy #One-Line Notes #SelfDistillation Issue Date: 2026-11-12 GPT Summary- オンポリシーRLにおいて、ターンごとのテキストフィードバックを用いたtargeted guidanceを導入し、自己蒸留によって最適化が困難な行動を改善する。基準ごとのRL報酬と、明確に失敗したターンに限定したフィードバックを組み合わせることで、ベースライン性能を維持しながら学習を促進。エージェント型マルチターン・ソフトウェアエンジニアリング環境で有効性を検証し、学習中のエントロピーを安定させて振動を抑制する設計も検討。 Comment
元ポスト:
on-policy RLでは、ポリシーの探索が届かない行動を学習することができないが(Figure 1 左)、モデルのactionが失敗したターンに対してverifierのtextual feedbackを挿入し、フィードバックを見た自身を教師としてself-distillationをすることで、本来探索では届かない行動を安定して学習させる(Figure 2)。
[Paper Note] DR Pixel: Page-Native Deep Research with Vision-Language Models, Tiansheng Hu+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#ComputerVision #NLP #Dataset #AIAgents #Evaluation #VisionLanguageModel #DeepResearch #Pixel-based Issue Date: 2026-11-10 GPT Summary- 科学論文のページ画像を直接検索・推論するpage-nativeなDRエージェント「DR Pixel」を提案。OCRでは失われる図・表・数式を活用し、106万ページのコーパス上で動作する。反実仮想的な寄与度に基づくcredit reweightingで学習軌跡のノイズを低減し、検索再現率と最終正解率を向上。DRPixelBenchや既存ベンチマークでOCRベースラインを上回り、ViDoRe-V3ではオラクルとの差を1.8ポイント以内に縮めた。複雑なDRでは「OCRしてから検索」するより、ページ画像を直接検索・推論する方が効果的かつ効率的。 Comment
元ポスト:
benchmark:
https://huggingface.co/datasets/HughieHu/drpixel-bench
github:
https://github.com/StarTrail-org/DRPixel
[Paper Note] Understanding AI from the Inside: The State of Mechanistic Interpretability for AI Safety, Fazl Barez+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#NeuralNetwork #Survey #MachineLearning #Safety #KnowledgeEditing #Steering #Monitorability #CircuitAnalysis #Interpretability Issue Date: 2026-11-10 GPT Summary- 機械論的解釈可能性を用いて、AIの内部表現や計算を理解し、システムの振る舞いを評価・予測・制御することで安全性を高められるかを概観。特徴、ポリセマンティシティ、トランスフォーマーの計算、回路、学習ダイナミクス、訓練データの帰属などの手法を整理し、主張を評価するための統一的な枠組みと6つの研究志向を提示。知識編集、ステアリング、モニタリングへの応用可能性と限界・失敗モード・未解決問題を検討し、実践用のコードノートブックも公開。 Comment
元ポスト:
著者ポスト:
[Paper Note] Reconciling Privacy with Provenance for Language Model Watermarks, Elise L. Han+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#NLP #LanguageModel #Privacy #Initial Impression Notes #Watermark Issue Date: 2026-11-08 GPT Summary- LMの個人追跡ではなく、集計的な利用頻度推定を目的とすることで、出所情報とプライバシーを両立する透かしを提案。 局所差分プライバシーにより個々のテキストの寄与を制限しつつ、RGS透かしで高いプライバシー水準でも正確な利用頻度推定を実現。 C4やエッセイ執筆タスクにおいて、少数のサンプルでも低い誤差で推定できることを確認。 Comment
github: https://github.com/eliselyhan/dp-watermarks
元ポスト:
著者ポスト2:
OpenAIやAnthropicなどの生成AIを提供する側が埋め込むwatermarkは、個人な生成AI利用を明らかにするためプライバシーの問題が生じ、かつユーザ側にも言い換え等を通じてwatermarkを削除しようとするインセンティブが生じてしまう構造的な問題がある。この構造的な問題を、目的を個々のAI生成テキストの検証から、集団中の割合の推定に切り替えることで、ユーザのプライバシーを保証しつつ(個々のAI生成テキストの検出はせず)、AI生成の大域的な利用状況を把握できるようにする、という話に見える。
[Paper Note] VFlash: Fast, Accurate Visual Planning via Flash Primitive Decoding, Yu-Cheng Chou+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#ComputerVision #EfficiencyImprovement #VisionLanguageModel #Robotics #EmbodiedAI Issue Date: 2026-11-08 GPT Summary- 視覚プリミティブの構造を活用し、VFlashが座標を同時予測して高速な視覚的プランニングを実現。軽量ドラフターにより点・バウンディングボックス・軌跡を1回の順伝播で生成し、自己回帰トークン列の完全一致を要求せず構造的に妥当な予測を学習。2D・3Dロボット軌跡タスクで予測誤差を低減し、3D点運動予測では約25倍の高速化、MolmoSpacesでは70.2%の成功率を達成。 Comment
元ポスト:
[Paper Note] Visual Token Routing: Learning to keep tokens that matter, Pranjal Aggarwal+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#ComputerVision #EfficiencyImprovement #ComputerUse #Selected Papers/Blogs #VisionLanguageModel #Initial Impression Notes Issue Date: 2026-11-07 GPT Summary- CUAの各スクリーンショットに含まれる視覚トークンのうち、行動予測に必要なものだけを選択する時空間ルーターをVLMと共同学習。適応的損失により性能低下を抑えながらトークン数を2.5~5.8倍削減し、推論コストとプリフィル時間を大幅に短縮。OSWorld、CUA-World、ビデオゲームでフル解像度モデルと同等の性能を達成し、既存の削減手法を上回った。 Comment
元ポスト:
所見:
スクリーンショットのトークン全てを入力とするのではなく、選択的に入力(時系列的に不要なもの、予測に不要なものをdrop)することでComputerUse agentを効率化する
[Paper Note] From Pixels to Actions - Towards Native Vision-Language-Action Policies, Weichen Fan+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#ComputerVision #Robotics #VisionLanguageActionModel #EmbodiedAI #Pixel-based Issue Date: 2026-11-06 GPT Summary- 物体操作では、局所的な幾何学・境界・深度などの視覚情報が重要だが、従来の固定された視覚エンコーダ出力では失われやすい。 そこで、画像をパッチ畳み込み層でトークン化し、言語とともに処理するエンコーダフリーのVLA「NEO-VLA」を提案。 フローマッチングによる行動エキスパートが、指示に応じて異なる深さの視覚表現を利用できるため、エンコーダベースモデルを上回る制御性能を実現する。 層ごとの分析から、行動に重要な視覚信号は最終層より前で強く現れ、モデル規模の拡大だけでは性能差を埋められないことも示された。 多様な物体操作環境と分布シフトにおいて、NEO-VLAはより頑健な性能を達成し、計算階層全体の視覚表現へのアクセスの有効性を示した。 Comment
pj page:
https://www.lmms-lab.com/posts/neo_vla/
github:
https://github.com/EvolvingLMMs-Lab/NEO/tree/main/VLAKit
model:
https://huggingface.co/weepiess2383/NEO-VLA
dataset:
https://huggingface.co/datasets/weepiess2383/NEO-VLA-Action-Pretrain
著者ポスト:
非常に簡潔なTL;DR
[Paper Note] Hinted Scaling Laws, Suze van Adrichem+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#Pretraining #NLP #LanguageModel #Scaling Laws #read-later #Selected Papers/Blogs Issue Date: 2026-11-05 GPT Summary- 下流タスクの低性能モデルでは精度がほぼゼロとなり、従来のスケーリング則による大規模モデルの性能予測が困難になる。そこで、特権情報を用いてベンチマークを簡単化し、小規模モデルでも有意な精度を得られる「ヒント付きスケーリング則」を提案。ヒントの強さに応じて精度が滑らかに向上するため、ノイズ閾値以下でも性能を外挿できる。GSM8K、AIME、HLEにおいて、従来法より予測誤差を大幅に低減し、最大$10^{23}$ FLOPのモデルのGSM8K精度も3ポイント以内で予測した。さらに、ヒント付与によりモデル間の精度差が拡大し、少ないテスト例でモデルの順位付けが可能になる。 Comment
元ポスト:
著者ポスト:
ベンチマークにヒントレベルHの元ヒントを与えることで、ベンチマークスコアがほぼ0であった小規模モデルもスコアが記録されるようになる。
この小規模モデルがscaling lawsのfittingにおいて追加のシグナルを供給する。
また、ヒントレベルHにおけるベンチマークスコアの変化は、予測可能で滑らかに変化するため、これによりモデルの規模CとヒントレベルHをベンチマーク性能にマッピングする同時分布L(C, H)をfittingすることができ、H=0とすることで、ヒントなしの元のベンチマークにおける性能を予測できる。
最大5600倍少ない計算量で、3ポイント以内の精度で予測可能(GSM8k、logit mixing)
という感じの話らしい。
著者ポスト2:
[Paper Note] Improving Data-Constrained Scaling with Hyperparameter Transfer and Ensembling, Ethan Baron+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Pretraining #NLP #LanguageModel #Ensemble #Scaling Laws #HyperparameterTransfer #DataRepetition Issue Date: 2026-11-05 GPT Summary- 計算資源とデータの制約下で、モデル規模やエポック数に応じて最適なハイパーパラメータをべき乗則で調整し、アンサンブルへの計算資源配分を定めるスケーリング則を提案。 FineWebの1億トークンを用いた実験で、従来手法より検証損失を0.15ナッツ以上、パープレキシティを14%削減し、計算量の増加に対して単調な性能向上を実現。 小規模実験から得た指針を最大12倍の計算予算で検証。 Comment
元ポスト:
ブログと元ポストのスレッドを読む際は誇張されている面があるため注意:
[Paper Note] Subquadratic Attention with a Hierarchical Tree-Structured Indexer, Leon Lufkin+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #Transformer #Attention #One-Line Notes #TreeSearch Issue Date: 2026-11-05 GPT Summary- 長文脈LLMにおけるattentionの二次計算量を削減するため、KVキャッシュ上に階層的な木構造インデクサを構築し、クエリごとに関連キーの疎な部分集合を取得するZyphra Hierarchical Attention(ZHA)を提案。木を再帰的に深くすることで、ルーティングとattention計算を含む計算量を二次未満(超線形)に抑え、短いKL蒸留で既存の事前学習モデルへ適用できる。長文脈検索や推論・数学・エージェント型コーディングで性能を維持し、100万トークン超の文脈では既存手法を大幅に上回る可能性を示した。 Comment
blog: https://zyphra.com/our-work/zyphra-hierarchical-attention
元ポスト:
軽量indexerを用いるが以前として二次的(quadratic)なコストを要するSparse Attention(Indexingのために結局全トークンの走査が必要)とは異なり、キーの要約を(木構造によって)階層的に保持したIndexerを構築することで検索そのものをsparseにした、subquadraticなコストで実現可能な階層的indexerに基づくattentionとのことである。
[Paper Note] Probing Spatial State Representations in Visual Foundation Models, Baiqiao Yin+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #Evaluation #VisionLanguageModel #Encoder #WorldModels #SpatialUnderstanding #EgocentricView Issue Date: 2026-11-02 GPT Summary- 一人称視点のストリーミング観測に対し、10種類の視覚表現を固定特徴量プローブで評価し、空間構造・物体追跡・予測的更新・行動可能性の4水準を分析。目に見えるシーンの読み出し性能は、物体の持続的追跡や将来特徴の予測、目標に応じた行動有用性を保証しない。物体追跡と行動可能性はカメラ姿勢の表現、特徴予測は可視シーンの表現を基盤としており、空間表現は復号可能性だけでなく、観測後の維持・予測的更新・行動への利用まで評価する必要がある。 Comment
元ポスト:
[Paper Note] Multi-Token Prediction Done Right, Jayden Teoh, arXiv'26, 2026.10
Paper/Blog Link My Issue
#EfficiencyImprovement #Pretraining #NLP #LanguageModel #Selected Papers/Blogs #MultiTokenPrediction Issue Date: 2026-10-31 GPT Summary- 標準的なMTPでは、MTP勾配の残差がNTPとマルチトークン学習を妨げ、モデルの大規模化に伴って悪化する。KL勾配復元トリックにより、ノイズの多い残差を除去してKL自己蒸留信号のみを学習するSoft-MTPを提案。追加パラメータやオーバーヘッドなしで、NTPパープレキシティ、投機的デコーディング速度、ゼロショット精度、数学・コード推論性能を標準MTPより一貫して向上。 Comment
元ポスト:
著者ポスト:
[Paper Note] What Effort Level Should I Choose? On the Economics of Reasoning Effort in LLM Agents, Kaiser Sun+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Analysis #EfficiencyImprovement #NLP #LanguageModel #Reasoning #Selected Papers/Blogs #reading #One-Line Notes #Initial Impression Notes Issue Date: 2026-10-31 GPT Summary- 推論努力度を上げると性能向上の可能性がある一方、低い努力度で解けたタスクに失敗したり、不要な計算コストや長い軌跡を生じたりする。4つのベンチマークと専有・オープンウェイトモデルで検証した結果、高努力度では検証や解決策探索が増加し、コストは最大42倍に達した。最低努力度から開始し、検証済みの失敗時のみ努力度を上げる適応的手法により、最高努力度固定と同等以上の性能を低コストで達成。 Comment
元ポスト:
github:
https://github.com/KaiserWhoLearns/ReasoningEffortLLM
trajectory:
https://huggingface.co/datasets/KaiserWhoLearns/ReasiningEffortTrajec
- effortを上げることで解けるようになるインスタンスもあるが、一方で低いeffortで解けていたものが解けなくなることもあり、様々なモデルファミリーで観測(Figure 2)。
- effortによってタスクの解き方が変わり、高effortでは検証が増え、また、SWE系ベンチではeffortを上げると履歴中のgoldを読み取ろうとする傾向があり、goldを削除するとeffortが高くても、effortが低い場合と比較して低いスコアとなる。effortが低い場合の方が忠実にタスクをこなす場合がある。
- 低いeffortで解けるタスクを最大effortで解くと最大42倍のコストがかかるケースがある
ありそうでなかった分析で定量的に見ると興味深い。
[Paper Note] Aligning Autoresearch: Co-Improvement between Agents and Humans, Tianjian Li+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #AI-Human Co-Improvement #autoresearch/RSI Issue Date: 2026-10-31 GPT Summary- 自律研究エージェントと人間研究者の共同改善に注目し、人間との相互作用能力を高める。ベンチマーク作成では人間が特にアイデア創出で重要であることを示し、エージェントの整合性や報酬ハッキングを評価するHackBenchを開発。人間シミュレータを用いたRLと、人間専門家に整合した評価基準によるRLで、エージェントのコミュニケーションと研究性能を向上させる。 Comment
元ポスト:
関連:
- [Paper Note] AutoBenchmark: benchmark creation & the role of humans, Seungone+, 2026.09
- [Paper Note] HackBench: Detecting and Localizing Reward Hacking in Autoresearch Agents, Li+, 2026.10
- [Paper Note] AutoInteract: Training agents to interact with humans, Chuanyang+, 2026.10
- Towards RL for Superhuman Text: Unslopping AI, Weston+, 2026.09
[Paper Note] Parallel Language Models via Variational Decoding, Felix Draxler+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #LanguageModel #Decoding #read-later #Selected Papers/Blogs #Parallel Issue Date: 2026-10-31 GPT Summary- 自己回帰モデルの1回1トークン生成による推論遅延を解消するため、潜在補助変数を用いて整合したトークンを並列生成するPLMを提案。自己回帰損失と並列デコーディング損失に基づく変分下限で学習し、自己回帰モデルや離散拡散モデルより高速かつ高性能なパレートフロンティアを達成。1.3Bモデルでは、数学・コーディング・指示追従で同等以上の性能を保ちながら、推論を2.3~5.7倍高速化。 Comment
元ポスト:
pj page: https://www.justuswill.com/plm/
[Paper Note] FineART: Fine-Grained Annotated Robotic Trajectory Dataset and Vision-Language-Action Model for Bimanual Manipulation, Jade Choghari+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#Dataset #OpenWeight #Robotics #VisionLanguageActionModel Issue Date: 2026-10-31 GPT Summary- 長時間にわたる複雑な両腕タスクの学習に向けて、151タスク・40,543エピソード・533,913サブタスクを高密度に注釈したFineARTデータセットを構築。さらに、次のサブタスクを予測して行動を導く視覚・言語・行動モデルFineART-VLAを提案。サブタスクによる中間学習により、空間指示タスクの成功率を32.0%から100.0%、未知の長期タスクの成功率を16.0%から76.0%に向上。少量のデータで新しいロボットにも適応し、未知タスクへのゼロショット汎化を実現。 Comment
元ポスト:
dataset:
https://huggingface.co/datasets/lerobot/FineART
model:
https://huggingface.co/lerobot/FineART-VLA-subtask-midtrained
pj page:
https://huggingface.co/docs/lerobot/main/fineart_vla
[Paper Note] Training Foundation Models with a Single Algorithm, Yuda Song+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Pretraining #NLP #LanguageModel #mid-training #PostTraining #read-later #Selected Papers/Blogs #Initial Impression Notes Issue Date: 2026-10-31 GPT Summary- 基盤モデルの事前学習・中間学習・SFT・RLを、モデルが生成した目標分布への尤度フィッティングとして単一の統合学習に統一。データの種類・割合・学習時期を選択する問題として訓練を捉え、静的データとRL生成データを混合する単一トレーナーを実装。精度と計算量のトレードオフおよびタスクカバレッジを改善し、継続学習に向けたより強固な基盤を提供。 Comment
元ポスト:
事前、中間、事後学習をステージごとに分けるのではなく、(RLはMaxRLの枠組みを持ちいて)全て最尤推定の枠組みで統合し(Unified Training)、トレーニングの任意の時点でstatic/dynamicデータの混合を可能とする。
関連:
- [Paper Note] Maximum Likelihood Reinforcement Learning, Fahim Tajwar+, ICML'26 Spotlight, 2026.02
[Paper Note] EmbeddingGemma 2: Unified and Efficient Multimodal Representations, Henrique Schechter Vera+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #Embeddings #NLP #MultiModal #Encoder #2D (Image) #3D (Video) #audio #text Issue Date: 2026-10-31 GPT Summary- EmbeddingGemma 2は、テキスト・画像・音声・動画を単一の統一空間に表現するオープンなマルチモーダル埋め込みモデル。層ごとの埋め込み簡素化と、モダリティ・目的関数を段階的に拡張するマルチステージ・カリキュラムを導入。単一・クロス・混合モーダル評価で高性能を達成し、包括的ベンチマークで専門モデルや2~12倍大きいモデルを上回る新たなパレートフロンティアを確立。エンコーダの選択的ロード、画像トークン数・埋め込み次元の調整、量子化重みにより、限られた計算資源にも対応。モデルと設計分析を公開し、さらなる研究を促進。 Comment
元ポスト:
関係者ポスト:
[Paper Note] Gym-Anything-RT: Scaling Real-Time Environments for Vision-Language Agents, Pranjal Aggarwal+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #NLP #Evaluation #VisionLanguageModel #Realtime Issue Date: 2026-10-30 GPT Summary- リアルタイム・インタラクションにおける視覚言語エージェントの能力を評価するため、6つの能力分類に基づく100種類のミニゲームからなるGym-Anything-RTを構築。 環境をリアルタイムで進行させる場合と、一時停止・減速させる場合を比較でき、GPT-6 Astra(xHigh)の合格率は9.0%から75.0%に上昇。 さらに、コード実行によってリアルタイムの環境認識・操作を回避するなど、既存エージェントの興味深い挙動も明らかにした。 Comment
code:
https://github.com/gym-anything/gym-anything-rt
pj page:
https://gym-anything.github.io/gym-anything-rt/
元ポスト:
[Paper Note] Nested Sparsity for Scalable Pretraining and Continual Learning, Tianzhe Chu+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #Transformer #Attention #Architecture #MoE(Mixture-of-Experts) #One-Line Notes Issue Date: 2026-10-30 GPT Summary- MoEトランスフォーマーにおける条件付き計算を拡張し、アテンションにも疎性を導入してMoE演算子と入れ子構造を形成するNestorを提案。同じ計算量・疎性の条件で従来のMoEを上回り、継続的事前学習でも長文脈・新ドメインへの適応性と忘却耐性を向上。モデル・データ・文脈長の拡大後も有効性を維持。 Comment
pj page:
https://ma-lab-berkeley.github.io/Nestor/
github:
https://github.com/Ma-Lab-Berkeley/Nestor
MoEをより一般化したアーキテクチャの提案で、blockの中に新たにcolumnという概念を導入し、各トークンはいくつかのcolumnをcolumn routerに基づいて選択する。
各トークンは固有のattentionとexpertsとルータを持ち、あるトークンは選択したcolumnを同様に選択したtokenにしかattendしない(attention->MoEという形でsparcityが入れ子となる。)
(Sparse Attentionと似ているかもだが)FFNだけでなく、attentionについても新たなsparsityが導入されているという感じだろうか。
元ポスト:
[Paper Note] DiscoTrace: Representing and Comparing Answering Strategies of Humans and LLMs in Information-Seeking Question Answering, Neha Srikanth+, NAACL'26 Best Paper, 2026.04
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #QuestionAnswering #Discourse #EMNLP #Open-endedTasks Issue Date: 2026-10-28 GPT Summary- 情報探索型質問への回答を、質問解釈を伴う談話行為の系列として表現し、修辞構造理論に基づいて回答者の修辞的方略を特定するDiscoTraceを提案。9つのコミュニティの回答を分析した結果、コミュニティごとに回答構成の多様な選好を発見。LLMは人間のコミュニティ固有のガイドラインを模倣しても修辞的多様性を示さず、広範さを優先して人間が扱わない解釈にも対応する。DiscoTraceで明らかにした豊かな回答行動は、文脈に応じた情報ニーズに敏感なLLM回答システムの開発に活用できる。 Comment
元ポスト:
[Paper Note] T-DIG: Text-Conditioned Diversity for Image Generation, Simran Khanuja+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #Dataset #LanguageModel #ReinforcementLearning #TextToImageGeneration #PostTraining #Diversity #2D (Image) #ImageSynthesis Issue Date: 2026-10-28 GPT Summary- 1つのpromptから、ユーザーが指定した軸に沿って多様な画像を生成・編集するために、T-DIGを提案。LLM policyが背景やスタイル、服装などの多様性軸に応じたpromptや編集指示を生成し、GRPOで学習する。生成器を固定するため、オープンモデル・クローズドモデルを問わず適用可能。テキスト条件付きprompt多様性データセットも構築し、既存手法を上回る多様性とpromptへの整合性を実現。 Comment
元ポスト:
[Paper Note] StreamVibe: Proactive Video Agents for Evolving User Intent, Chengzhi Liu+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #NLP #AIAgents #Evaluation #VisionLanguageModel #3D (Video) #Proactive Issue Date: 2026-10-28 GPT Summary- 動画とユーザーの連続的な観測から、LLM/VLMを用いて暗黙的・動的なユーザー意図を推論し、適切なタイミングで応答。StreamVibe-Benchで明示的・暗黙的・動的な意図を評価し、StreamVibe-VLと階層型メモリを持つStreamVibe-Harnessで状態と意図の変化を追跡。StreamVibe-VLは応答タイミングと回答品質を10.7%、StreamVibe-Harnessは継続的な能動的インタラクション性能を12.3%向上。 Comment
pj page: https://stream-vibe.github.io/
[Paper Note] OverSeer: Multi-Agent World Models Beyond What Agents See, Runjia Li+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #WorldModels #MultiView Issue Date: 2026-10-28 GPT Summary- マルチエージェント世界モデルにおいて、LLMを用いてエージェント視点に固定された補助カメラ視点を追加し、世界中心表現として活用するOverSeerを提案。固定視点により、時間的・エージェント間の映像整合性を向上させる。さらに、静的基準画像との差分をDeltaVAEで圧縮し、補助視点生成の計算コストを削減。Minecraft、Doom、および実世界のマルチカメラ映像で、世界とエージェントの整合性向上を確認。 Comment
pj page: https://runjiali-rl.github.io/OverSeer/
元ポスト:
[Paper Note] DeXplicit: Making Physical State Explicit in Dexterous Manipulation World Models, Adam Lee+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#3D (Scene) #Robotics #WorldModels Issue Date: 2026-10-26 GPT Summary- 初期シーンと将来の手の軌跡から、3D空間で物体中心の運動と変形を明示的に予測し、その結果を用いて将来視点の動画を生成するワールドモデルDeXplicitを提案。3Dダイナミクスを先に分解することで、レンダラの負担を軽減し、2ステップの因果生成を実現。HOT3D、OakInk2、PhysTwinでPointWorldを上回り、移動点誤差を27~40%削減、物体忠実度IoU+を47%向上させ、14B双方向モデルに対して57倍高速化。 Comment
pj page: https://dexplicit.github.io/
元ポスト:
著者ポスト2:
ポイント解説:
[Paper Note] T-WLA: Bridging Slow Vision and Fast Touch, Kaichen Zhou+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Robotics #EmbodiedAI Issue Date: 2026-10-26 GPT Summary- 視覚更新を待たずに接触状態へ対応するため、共有視覚メモリを用いて行動生成と触覚補正を行うT-WLAを提案。視覚ブランチが画像・指示・履歴から基本行動を生成し、軽量な触覚エディタが同じメモリと実行中の行動・触覚情報から未実行動作への残差補正を予測する。将来画像・圧力予測を補助信号として用いることで、相互作用ダイナミクスの学習を促進。手動作予測と4種類の実世界操作タスクで、指関節MPJPEを30%削減し、平均約50%の成功率を達成。 Comment
元ポスト:
ポイント解説:
[Paper Note] LitPivot: Developing Well-Situated Research Ideas Through Dynamic Contextualization and Critique within the Literature Landscape, Hita Kambhamettu+, arXiv'26, 2026.04
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #ScientificDiscovery #Selected Papers/Blogs #Initial Impression Notes #Reading Reflections Issue Date: 2026-10-26 GPT Summary- 研究アイデアの創出と文献レビューを相互に発展させるため、アイデアの修正に応じて関連文献も変化する「文献起点のピボット」を提案。LitPivotは、アイデアの選択部分に関連する論文を動的に検索し、文献に基づく批評を提示することで、アイデアの草案作成と検証を支援。実験では、より高く評価されるアイデアの創出と研究領域への理解向上を確認し、研究者がアイデアを反復的に発展させる過程を明らかにした。 Comment
元ポスト:
研究アイデアが変化するにつれて関連研究も変化すべきだよね、という話で、研究アイデアとliteratureの構築を共進化させる枠組みを提案しているようである。
(文献をしっかり読めておらず、第一印象でふと考えたことを書き殴っています)
本研究の主眼は、literatureにgroundingされた研究アイデアの洗練であり、創造性や研究アイデアの重要度はout-of-scopeと思われるが、pivotをかけ続けるうちに、アイデアがどんどんshrinkしていったりしないのだろうか?たとえば、シードとなるアイデアが既に既存研究で完全に実施されていたとして、関連研究に基づいてpivotをかける際に、その研究が抱える局所的な課題を解決するような方向にシフトしていくことになりそうで、研究として重要な課題を解く、という方向にpivotできるだろうか。
創造性の欠如に関する関連研究:
- [Paper Note] Can AI agents conduct open-ended AI research? Early evidence from two case studies, Peter Kirgis+, arXiv'26, 2026.07
- [Paper Note] The Alien Space of Science: Sampling Coherent but Cognitively Unavailable Research Directions, Alejandro H. Artiles+, arXiv'26, 2026.03
- [Paper Note] Measuring the Gap Between Human and LLM Research Ideas, Ziyu Chen+, arXiv'26, 2026.07
- [Paper Note] AI scientists produce results without reasoning scientifically, Martiño Ríos-García+, arXiv'26, 2026.04
- [Paper Note] Can LLMs Generate Novel Research Ideas? A Large-Scale Human Study with 100+ NLP Researchers, Chenglei Si+, arXiv'24, 2024.09
literatureに裏打ちされた研究アイデアは非常に興味深い方向性だと思っていて、そこからさらに、研究として重要な課題を解決する、ためには何が必要だろうか。
また、以下の文献ではAI Agentが、研究を進展させる重要な文献を同定できないという課題も指摘されている:
- [Paper Note] ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New Research, Sohyeon Kim+, arXiv'26, 2026.10
[Paper Note] Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking, Parinthapat Pengpun+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ComputerVision #NLP #Dataset #Evaluation #MultiModal #EMNLP #VisionLanguageModel #EntityLinking Issue Date: 2026-10-26 GPT Summary- マルチモーダルエンティティリンキングにおいて、知識グラフの構造的指標を用いて希少エンティティを定義し、人気度では捉えられない失敗要因を分析。視覚言語モデルがWikipediaを反復的に検索・推論して動的に証拠を収集する学習不要の手法を提案。検索と推論を組み合わせることで希少エンティティの性能を改善し、MERLINで全体6.9%、希少エンティティで最大23.3%の向上を達成。さらに、希少エンティティ評価用のMERLIN-Rareを公開。 Comment
元ポスト:
dataset:
https://huggingface.co/datasets/neulab/merlin-rare
github:
https://github.com/neulab/think-before-you-link
[Paper Note] Embodied Turing Machines: Stateful Code for Robot Recursive Self-Improvement, Kairui Hu+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#AIAgents #Coding #SoftwareEngineering #read-later #VisionLanguageModel #Robotics #EmbodiedAI #Initial Impression Notes #Data Issue Date: 2026-10-26 GPT Summary- ロボットと環境の状態をコードで表現し、カメラ画像と固有受容感覚から状態を追跡するCode-Only-as-Policy(COAP)を提案。 VLMやVLAをループ内に置かず、明示的な状態に基づく制御可能で高速・低コストな意思決定と、タスク間で再利用可能な共有ライブラリを実現する。 RoboDojoの42種類の両手操作タスクで、テスト時にモデルを用いず70.24%の成功率を達成し、再帰的自己改善やVLA・Agent Harness向けデータエンジンとしての有効性を示した。 Comment
pj page:
https://ropedia.github.io/ropedia-a0/
blog:
https://ropedia.github.io/ropedia-a0/
元ポスト:
ロボットのアクションを決める際に、VLAやVLM+Agent Harnessを利用するのではなく、コードによってアクションを決定するというアイデアのようである。つまり、方策がコードになる、ということらしい。
おそらく実運用でこの枠組みをそのまま使うというより、モデルを学習するためのデータの作成を決定論的、かつ高速に生成することを強く念頭に置いているのではないだろうか。
[Paper Note] DONIC: Generalist Dexterous Bimanual Tracking Control from Human Demonstrations, Mingze Sun+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #Dataset #ReinforcementLearning #Robotics #EmbodiedAI #Data #Bimanual Issue Date: 2026-10-26 GPT Summary- 両手による器用な操作リファレンスが与えられた時に、DONICを用いて異種リファレンス間の協調操作を学習。 持続的な両手インタラクションを収録したマルチビュー・データセットBiHOIを構築し、近接方策最適化と行動クローニングを組み合わせる。 物体中心の手別報酬とClip-Centered Advantagesにより接触役割を考慮した追跡を実現し、未知軌跡で86.79%、未学習物体で57.32%の成功率を達成。 Comment
pj page:
https://ropedia.github.io/DONIC/
github:
https://github.com/Ropedia/DONIC
元ポスト:
[Paper Note] TokenGate: Adapting LLMs for Fast and Memory-Efficient Prefill with Learned Token Pruning, Liana Patel+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #LanguageModel #Pruning #Initial Impression Notes #Reading Reflections Issue Date: 2026-10-25 GPT Summary- 長いコンテキスト入力に対して、TokenGateを追加し、重要なトークンを選択して不要なトークンをプルーニング。MoEに着想を得たtoken-gated attentionにより、top-K演算を含むエンドツーエンド学習を実現。精度を維持したまま、TTFTを最大11.3倍高速化し、ピークメモリ使用量を最大3.4倍削減。 Comment
元ポスト:
github: https://github.com/token-gate-llms/TokenGate
layerの途中でトークンをtop-kの重要なトークンにpruningするgateを学習し、prefillのメモリ効率と速度を改善する。既存のLLMにも適用できる、という話に見える。要は人間の重要な部分以外は読み飛ばすといった挙動を実現したい、という気持ちである。
関連:
- [Paper Note] Learning to Skim Text, Adams Wei Yu+, ACL'17, 2017.04
Sparse Attentionと本質的に何が違うのか?と思ったが、本研究はトークンそのものを削除するため、削除されたトークンに対する計算やメモリは完全になくなる。Sparse Attentionはそれらは保持されており、Top-kのトークンの選択に利用されたりするため、その点で本研究の方が削減効果は大きそうに感じる。が、トークンの情報を完全に削除することによって、当該トークンは削除されたレイヤー以後では参照できなくなるため、その点は性能が低減する要因となりうる。
[Paper Note] SteerAct: Unlocking Action Models through Few-Shot Temporal Steering, Kaichen Zhou+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #read-later #Selected Papers/Blogs #Robotics #EmbodiedAI #Steering #Initial Impression Notes #WorldActionModel Issue Date: 2026-10-25 GPT Summary- 事前学習済みロボット行動モデルに対し、重みを更新せず少数のロールアウトから特徴量活性化を制御するSteerActを提案。スパース特徴量の時系列記述子を用いて、成功・失敗ロールアウトを識別するタスク固有の特徴量をオフラインで選択し、オンラインで介入タイミングとステアリング強度を決定。わずか24件のラベル付きロールアウトで、π₀.₅、Fast-WAM、RoboTwin 2.0、DexJoCo、実世界マニピュレーションにおいて、ステアリングなしと比べ成功率を約10%向上。 Comment
元ポスト:
少量の成功、失敗事例からSAEを通じてそれらを区別できる特徴を特定し、時間発展に合わせて適切なタイミングでsteeringの強度を調整することで、モデルの重みを更新することなくテスト時の性能を改善する。
[Paper Note] Tracing Agentic Failure from the Flow of Success, Samuel Yeh+, arXiv'26, 2026.07
Paper/Blog Link My Issue
#EfficiencyImprovement #Unsupervised #NLP #LanguageModel #AIAgents #NeurIPS #FailureAttribution Issue Date: 2026-10-25 GPT Summary- LLMエージェントの失敗軌跡から、タスク失敗を引き起こしたエラーステップを特定する教師なし失敗帰属を提案。成功軌跡のみを用いて、ニューラル制御微分方程式により潜在空間の動的パターンを学習。失敗軌跡では、学習した成功ダイナミクスからの逸脱を異常スコアとして評価し、エラーステップを検出。OATは成功軌跡100件のみで学習でき、プロンプトベース手法より200~5000倍高速で、同一分布内外の双方でF1スコアをそれぞれ20%および7%向上。 Comment
元ポスト:
[Paper Note] A Fix for Softmax and Cross-Entropy, Jonathan T. Barron+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NeuralNetwork #MachineLearning #LanguageModel #SoftwareEngineering #Selected Papers/Blogs Issue Date: 2026-10-25 GPT Summary- softmax、log-softmax、交差エントロピーに存在するSoftmax CollapseとSoftmax Cancellationという数値バグを特定。これらを修正する実装により、Slingshot現象や重み減衰なしでの精度崩壊を防ぎ、グロッキングを高速化し、知識蒸留中の生徒モデルの乖離を抑制。さらに、記憶化後のロジット増大が、重み減衰とAdamのεのバランスによって制御されることを示した。 Comment
元ポスト:
こーれはインパクトが大きい
著者ポスト:
[Paper Note] EgoXperience: Learning World-Grounded Egocentric Representations from Human Experience, Xinhao Ji+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Dataset #Annotation #3D Reconstruction #Robotics #Locomotion #Manipulation #EgocentricView #Data Issue Date: 2026-10-23 GPT Summary- 一人称視点映像から、カメラ・シーン・手・物体を共有世界座標系で関節的に再構成するため、データ収集から自動アノテーション、モデリング、評価までを統合したEgoXperienceを提案。 EgoX-Engineは物体追跡とSLAMを用いて一貫した教師信号を生成し、50時間のEgoX-Data-6Mと1時間の評価用EgoX-Benchを構築。 単眼映像と初期物体マスクから単一フォワードパスで各要素を再構成するEgoXにより、カメラ・手・深度の誤差を最大68.9%削減し、物体姿勢の性能を28.0%向上。 Comment
元ポスト:
[Paper Note] Holi-World: Building Holistic World Intelligence from Human-Ego Experience, Hao Li+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Dataset #MultiModal #Annotation #Robotics #ObjectDetection #EgocentricView #Data Issue Date: 2026-10-23 GPT Summary- 人間の一人称視点の経験から、シーン構造・物体状態・相互作用履歴を結び付けた学習資源を構築する統合エコシステムHOLI-WORLDを提案。静的・動的知覚を組み合わせてワールドレコードを自動構築し、約100シーンと約8万組の質問応答ペアからなるHOLI-WORLD-Dataを整備。独立した人手アノテーションによるHOLI-WORLD-Benchで品質と空間・時間理解を評価し、HOLI-WORLD-Dataによる学習でVL-4Bの推論性能が大幅に向上。 Comment
pj page: https://ropedia.github.io/holi-world/
元ポスト:
関連:
- Flora: An Open Model Suite for Scaling Robotics Data Engines, Leng+, 2026.10
dataset:
https://huggingface.co/datasets/ropedia-ai/holiworld-data
model:
https://huggingface.co/ropedia-ai/holiworld-vl
github:
https://github.com/Ropedia/holi-world
[Paper Note] QD-Rec: Open-Ended Evolution of Recommendations via Quality-Diversity, Takashi Ishida+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-22 GPT Summary- 意思決定者のニーズに適合する理由を示す仮説と項目からなる多様な推薦集合を、オープンエンド推薦として構築。QD-Recでは、contextual banditで項目を選択し、基盤モデルで新たな仮説を生成しながら、質と多様性に基づいて推薦をアーカイブに追加する。M&A、顧客ターゲティング、論文・書籍推薦において、多くの設定で最高の平均品質と最大規模のアーカイブを達成。 Comment
元ポスト:
github:
https://github.com/SakanaAI/QD-Rec
blog:
https://pub.sakana.ai/qd-rec/
[Paper Note] Beyond Action Prediction: Learning Search-Free Planning in Latent Space, Guanchen Du+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #WorldModels Issue Date: 2026-10-20 GPT Summary- 潜在世界モデルにおける高コストなオンライン探索を、現在の観測と目標観測から行動系列を直接予測する目標条件付き逆モデルに置き換えるHIJPを提案。 将来観測による目標の再ラベル付けと複数地平の行動教師により視覚表現を学習し、予測行動と潜在遷移の整合性を強制することで、行動と状態遷移の一貫性を確保。 推論時には逆モデルと潜在予測モデルを交互に適用し、探索なしで複数ステップの計画を生成。 4つの視覚制御タスクで86.8%の成功率を達成し、探索ベース手法より1.9~16.5倍高速な計画を実現。 Comment
元ポスト:
[Paper Note] Ropedia W0: Scaling Loco-Manipulation World Models across Embodiments with Human Experience, Tianqi Liu+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-20 GPT Summary- 多様な身体形態を持つ人間とロボットの移動・操作を、LLMではなく世界基盤モデル「Ropedia W₀」により一人称視点で統一的にモデル化。 10,000時間の人間データと3,000時間のロボットデータからなるXp-Dataを構築し、カメラ姿勢と投影スケルトンによる統一運動学表現、および長時間の遠隔操作ベンチマークXp-Teleopを導入。 5つの身体形態横断ベンチマークと人間動画で最先端性能を達成し、モデルベース計画や方策評価、リアルタイムVRインタラクションへの有用性を示した。 Comment
元ポスト:
著者ポスト:
[Paper Note] Generative Representation Learning for Scalable Latent Tokenization, Alan Baade+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #RepresentationLearning #DiffusionModel #Scaling Laws #read-later #Selected Papers/Blogs #Encoder #2D (Image) #Backbone Issue Date: 2026-10-20 GPT Summary- 生成モデルのtokenizerとして、点ごとの相互情報量を因数分解して表現を学習する自己教師あり手法を提案。 生成モデルの条件付き予測から情報差分を推定し、次元崩壊や特徴抑制を回避しながら、計算資源に応じて潜在token化性能を向上。 画像生成では直接拡散モデルを上回るFLOP効率を実現し、ImageNetでDINOv2の7分の1、GPICでWebSSLの8分の1の計算量で高品質な表現を獲得。 Comment
元ポスト:
blog:
https://alanbaade.github.io/repr/
github:
https://github.com/AlanBaade/repr
解説:
[Paper Note] Training Language Models to Fail Gracefully, Daman Arora+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-17 GPT Summary- RLにより、モデルが成功確率の低い挑戦よりも安全なフォールバックを選ぶGracefulRLを学習。中間報酬による脆弱な最適化を避け、結果レベルの報酬のみで穏当な失敗を誘発する。タスク性能を維持しつつ、信頼性が低い場合に選択的に方針転換。 Comment
元ポスト:
ポイント解説:
[Paper Note] EmbodiedEvo: Self-Evolving Coding Agent For Physical Intelligence, Wenyi Li+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-17 GPT Summary- コーディングエージェントの物理的フィードバックを再利用可能なSkillsとLessonsに蒸留し、モデルの重みを更新せずに未知のシーンへ適応するEmbodiedEvoを提案。 RoboDojo-Simで最高性能を達成し、特に記憶依存タスクや協調的手順の再利用で有効性を示した。 強力なモデルの経験は弱い実行モデルも改善し、SkillsとLessonsにより、実行コストを53.0%削減しながら生の履歴と同等の性能を実現。 Comment
pj page:
https://lab.einsia.ai/embodiedevo/
github:
https://lab.einsia.ai/embodiedevo/
元ポスト:
[Paper Note] Measuring and Mitigating Solution Mode Collapse in RLVR, Liv G. d'Aliberti+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Analysis #RLVR #Diversity Issue Date: 2026-10-17 GPT Summary- 複数の正解が存在するタスクにおいて、RLVRは正解率を維持・向上させる一方で、少数の解モードに確率を集中させる。ModeBenchで解の多様性を評価し、各モードの検証済み例を保存して一様に学習するRe:Maxを提案。Re:Maxにより、成功頻度と異なる解法の数を同時に向上。 Comment
元ポスト:
[Paper Note] Player-1: Learning to Play from Synthetic Experience, Mingyu Ouyang+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-17 GPT Summary- ゲーム操作エージェントに対して、合成経験を用いてデモンストレーションを超える制御を学習するPlayer-1を提案。 相対ポインタ移動・持続入力・複合アクションを導入し、6,044件のゲーム軌跡でSFTを行った後、16種類の合成2D・3D環境からなるPlayer-1-GymでPPOによる強化学習を実施。 Player-1-9BはMineDojo-300で38.33%の成功率を達成し、SFTおよび既存ベースラインを上回った。 合成環境の多様化により転移性能が向上し、複合アクションの利用も強化学習中に増加。ViZDoom-10やGameWorldでも改善を確認し、合成経験がゲーム制御を広範に向上させることを示した。 Comment
pj page:
https://player-1-project.github.io/
github:
https://github.com/TencentARC/Player-1
元ポスト:
[Paper Note] TacitVLA: Reasoning Vision-Language-Action Models Without Reasoning Latency, Jack Lu+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-17 GPT Summary- VLAにおける推論テキスト生成の待ち時間を解消するため、行動エキスパートが現在生成中の推論に注意を向けないTacitVLAを提案。 行動を推論生成から分離し、長期タスクでは実行中に推論を生成することで、明示的推論モデルと同等の性能を最大3.4倍低い遅延で達成し、推論なしモデルに対して成功率を最大17.1%向上。RoboMME、RMBench、LIBERO、PhysicalAI-AVで強力な結果を示した。 Comment
pj page: https://tacitvla.github.io/
元ポスト:
著者ポスト:
[Paper Note] Understanding LLM Parameter Update Sparsity through the Lens of Fisher, Yufan Zhang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
Issue Date: 2026-10-16 GPT Summary- LLMのポストトレーニングでは、パラメータ更新が一部の座標に集中する。対角モデル・フィッシャー情報量を用いて、報酬や教師信号に依存せず勾配集中の箇所を特定する。初期フィッシャー情報量に基づく固定疎マスクでも、完全学習の大部分の性能向上を維持。確率の高い次トークンはパラメータ感度が類似するため、オンポリシー学習でフィッシャー情報量が低下することを示した。 Comment
元ポスト:
[Paper Note] Hybrid Reasoning Agents, Jiaru Zou+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-16 GPT Summary- LLMエージェントが潜在推論とテキストベースのツール利用を動的に切り替えるHybridAgentを提案。HybridLinkで両モードを接続し、連続的なワーキングメモリでハイブリッド文脈を保持することで、推論の効率性と透明性を両立。HybridSFTでハイブリッド生成を安定化し、HybridRLで潜在推論とテキスト行動の使い分けを学習。11のベンチマークで性能を10.4%向上させ、トークン数を35.5~54.7%、推論時間を1.8~2.6倍、コストを2.7~3.7倍削減。 Comment
元ポスト:
ポイント解説:
[Paper Note] The Agentic Scientist: Orchestrating Coding Agents for Automated Scientific (Co-)Discovery, Robert Tjarko Lange+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-16 GPT Summary- コーディングエージェントを用いて、タスク草案、アイデア生成、実験、分析、執筆までの計算研究を分解・自動化する分散型パイプライン「The Agentic Scientist」を提案。メタコントローラが複数の研究エージェントを並列管理し、各段階で自己検証と評価を行うことで、異なる環境や領域に対応。共同科学者としての支援から完全自律的な研究まで幅広い自律性を実現し、実際に論文採択や機械学習における科学的発見を達成。アブレーション実験から、科学的自律性には基盤モデルの能力だけでなく、エージェント間のオーケストレーションが重要であることを示した。 Comment
github: https://github.com/SakanaAI/AI-Scientist-v3
元ポスト:
[Paper Note] Depth Memory, David González-Martínez+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ResidualStream Issue Date: 2026-10-16 GPT Summary- 残差接続を層をまたぐ情報の保存・検索として捉え、PreLN、mHC、AttnResを統一的に記述するDepth Memory(DM)を導入。 再帰的最小二乗法に基づくLinear Depth Memory(LDM)により、残差・線形連想メモリ・逆共分散の3ストリームを深さ方向に伝播させる。 ハードウェアを考慮した実装でメモリ使用量とトラフィックを削減し、4億・15億パラメータ規模で各ベースラインを下回るパープレキシティと競争力のあるゼロショット精度を達成。 Comment
github: https://github.com/davidgonmar/depth-memory
元ポスト:
[Paper Note] Into the Unknown: Benchmarking AI agents on open scientific research problems, Seungone Kim+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#autoresearch/RSI Issue Date: 2026-10-16 GPT Summary- 未解決の科学問題に対して、AIエージェントに追究論文を執筆させるベンチマーク「Into the Unknown」を提案。 科学者が提示した研究方向と必要条件を用いて、参照解答のない課題でも論文の完全性を評価する。 5分野・9種類のエージェントが計135本の論文を生成したが、条件をすべて満たした論文はなく、114本が完全性チェックに失敗。 主な原因は、実施していない研究の主張や、証拠と矛盾する数値の報告であり、科学者の基準を満たすには大きな改善が必要。 Comment
元ポスト:
著者ポスト2:
ポイント解説:
[Paper Note] Are We Overthinking One-Step Generation?, Woobin Park+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-16 GPT Summary- 拡散モデルやフローマッチングでは、推論時の複数回のネットワーク評価が課題となる。本研究では、1ステップ生成器を学習するための単純な2段階フレームワークPriming Modelsを提案する。まず再構成目的でモデルを学習し、その後、特徴空間で分布的なポストトレーニングを行うことで、分布学習の困難を解消する。クラス条件付き画像生成、テキストから画像生成、ワールドモデリングで、学習計算量と生成品質のトレードオフを大幅に改善した。ImageNetの256×256画像生成では、約10分の1の学習計算量で、1ステップ生成器として最先端のFID 1.19を達成した。 Comment
blog:
https://jaeyeonkim01.github.io/#/blog/are-we-overthinking-one-step-generation
github:
https://github.com/JaeyeonKim01/priming
元ポスト:
[Paper Note] Embodied Turing Machines: Stateful Code for Robot Recursive Self-Improvement, Kairui Hu+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-14 GPT Summary- 身体化された世界をロボットと環境の状態、ポリシーを規則とする「身体化チューリングマシン」と捉え、コードのみで意思決定を行うCOAPを提案。カメラ画像と固有感覚情報から状態を明示的に追跡し、VLMやVLAを制御ループに置かず、共有ライブラリによって複数タスクに対応。明示的な状態、実行時の高速かつ柔軟な制御、タスク間での能力の拡張・蓄積を実現し、再帰的自己改善にも適する。RoboDojoの42個の両手操作タスクで、テスト時にモデルを用いず70.24%の成功率を達成した。 Comment
pj page: https://etmcode-bit.github.io/
元ポスト:
[Paper Note] RT-Safe: Benchmarking Agent Safety in Real-Time Embodied Environment, Tianruo Rose Xu+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #NLP #AIAgents #Evaluation #Selected Papers/Blogs #VisionLanguageModel #Robotics #EmbodiedAI #Realtime Issue Date: 2026-10-14 GPT Summary- RT-SAFEを用いて、リアルタイム制約下における身体化エージェントの安全性を評価。移動するエージェントや危険、交通規則を含む変化する環境で、8種類のVLMは高いタスク完了率を示す一方、安全な完了率は低く、最難関設定ではわずか0.7%に留まった。静的評価と比べ、リアルタイム実行では衝突が12.3倍に増加し、意思決定の遅延が物理的リスクになることを示した。さらに、RT-SAFEを用いたオフライン強化学習により、タスク完了率を維持しながら衝突率を大幅に低減。 Comment
元ポスト:
pj page:
https://xtrose29.github.io/RT-SAFE/
github:
https://github.com/XTRose29/RT-SAFE
[Paper Note] Fork-and-Flush: Escaping Idea Basins in Autoresearch Agents, Ziyang Cai+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Test-Time Scaling #Diversity #One-Line Notes #LongHorizon Issue Date: 2026-10-13 GPT Summary- 自律研究エージェントは、候補解の提案と評価を反復してオープンエンドな問題に取り組むが、実行ごとに異なる局所解(idea basins)に停滞する。フォーク・アンド・フラッシュにより、蓄積したワークスペースを保持したまま複数の新しい軌跡へ分岐し、最高スコアの軌跡を継続する。同一の計算予算で、単一実行およびベスト・オブ・Nを上回り、平均スコアをそれぞれ相対的に66.0%および44.4%改善。 Comment
元ポスト:
long horizonなタスクを実施する際に、定期的にworkspaceの状態は保持しつつ、chat contextをリセットしてAI Agentのフォークを走らせ、固定されたhorizonの中で、最も良いものを選択して継続することで、特定のアイデアにこだわり局所解に陥った状況(=idea basins)から脱出することで、最終的な性能を改善する。
[Paper Note] Recursive Self-Improvement through Multi-Agent Self-Supervision, Hyunin Lee+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Multi #NLP #LanguageModel #AIAgents #Open-endedTasks #autoresearch/RSI Issue Date: 2026-10-12 GPT Summary- 検証困難なオープンエンドタスクにおける監督のボトルネックに対し、RSI手法MASSを提案。単一モデルにマルチエージェント・ワークフローを生成・実行・評価させ、進化的最適化と自己生成軌跡によるファインチューニングを交互に行う。構造化された探索により、タスクに適した役割分担と情報経路を発見し、4つのベンチマークで出力トークンあたり1.2~1.6倍の性能向上を達成。さらに、マルチエージェント軌跡で訓練した学生モデルは、より多くのトークンで訓練した単一エージェントモデルを上回った。 Comment
github: https://github.com/SakanaAI/mass
元ポスト:
[Paper Note] Identifying Introspection From the Inside, David I. Atkinson+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #Faithfulness #COLM #One-Line Notes Issue Date: 2026-10-11 GPT Summary- LLMを架空の人物として意思決定させると、明示的な自己報告の訓練なしに、学習した選好を正確に自己報告する能力が出現。訓練が進むにつれて選好表現が前段の層へ移行し、言語化機構からアクセス可能になることが示された。さらに、アトリビューション・パッチングにより、忠実なモデルでは意思決定と自己報告の機構的特徴が強く類似することを確認。モデルの内部構造を調べることで、忠実な自己報告と不忠実な作話を区別できる可能性を示した。 Comment
元ポスト:
- 忠実な自己報告(faithful self-report)は意思決定能力よりも遅れて獲得される
- 忠実性が向上するにつれて、preferenceの表現がより浅い層へ移行する傾向にある
- 忠実に自己報告する能力はpreferenceの表現が浅い層へ移行し、言語生成に関するメカニズムからアクセス可能となることに依存することが示唆された
- 以下のAttribution Patching with gradientsと呼ばれる手法を用いて、attribution similarityと呼ばれるものを見ることで、忠実性を確認できることを示唆したようであるが、手法をよく理解できていない。後ほどこれは理解したい。
- Attribution Patching with gradients: Attribution Patching: Activation Patching At Industrial Scale, Neel Nanda, 2023.02
- (5.2節)ざっくり言うと、本実験ではpreferenceを学習させたLoPAアダプタが存在するが、LoRAアダプタをonからoffの状態にincrementalにシフトさせた上で、それぞれdecision taskとself-reportタスクを実行させ、モデルのoutput dimensionごとの予測のスコアを要素として持つベクトル(=attribution vector)を構成し、decision taskでのattribution vectorとself-reportタスクでのattribution vectorのコサイン類似度を測ることで、出力されるテキストそのものを見なくても忠実性が分かるという話のようだが、細かく理解できていない。
- たとえば、忠実なモデル、忠実ではないモデルではそれぞれ類似度(のおそらく平均)が、0.34, 0.08となったようで、差が生じたとのことである。
[Paper Note] GitSwarm: Decentralized Compounding Inference, Vedant Shah+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- 長期的な問題解決や科学研究において、LLMエージェントの成果を永続的に蓄積・再利用する「累積型推論」を提案。 GitSwarmでは、構造化された共有Gitリポジトリ上でエージェントが実験・検証・改良・統合を行い、アトミックコミットと意味依存関係によって中間成果物を管理する。 IMOProofBench-Advancedで30問全問正解、ProgramBenchで79.4%を達成し、強力なベースラインを上回ったほか、複数のニューラルアーキテクチャ研究でも継続的な改善を実現。 さらに、ProgramBenchでは貢献の94.7%が後続の作業で利用され、推論時の計算が独立した試行を越えて蓄積・再利用されることを示した。 Comment
元ポスト:
著者ポスト2:
[Paper Note] Beyond Owls: Subliminal Learning Can Transfer Learned Capabilities and Backdoors, Jan Dubiński+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- サブリミナル学習(SL)によって、無関係なデータを介して教師モデルの能力や特性を生徒モデルへ伝達できるかを検証。ランダム初期化MLPの出力予測能力、女性名に反応するフランス語バックドア、不正行為を行う傾向のいずれも部分的に伝達された。特に、チェス環境では生徒モデルの不正行為率が58.3%に達し、未学習モデルの10.9%を大きく上回った。SLによる伝達の強さは設定に依存し、ロジット蒸留やアテンション層に限定したLoRAで強化された。 Comment
元ポスト:
[Paper Note] Thinking Inertia: LLMs Keep Thinking When Told Not To, Dianqiao Lei+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- LLMの非思考挙動を、空思考率、質問・回答前関連度、明示的推論率の3指標で評価。6種類のLLMと複数のタスク・プロンプトを用いた実験から、明示的な制御下でも推論が持続する「思考慣性」を確認。真偽・多肢選択では正解率が安定する一方、自由記述では回答のみの遵守度と正確性にトレードオフが生じた。非思考は自明な能力ではなく、推論能力と併せた体系的評価が必要。 Comment
pj page: https://thinking-inertia.github.io/
元ポスト:
[Paper Note] Long-WAM: Scaling the Context of World-Action Models, Wei Huang+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- リアルタイムロボット制御において、Long-WAMは視覚履歴を活用して因果的なワールド・アクションモデルのコンテキストを拡張する。AR事前学習とストリーミング・非同期実行により、長期履歴の利用と低遅延制御を両立し、複数のロボット操作ベンチマークで最高性能を達成。実機展開では動的な長期マニピュレーションを実現し、動的カップ積み上げで95%の成功率を達成した。 Comment
pj page:
https://nvlabs.github.io/LongLive/Long-WAM/
github:
https://github.com/NVlabs/LongLive/tree/main/Long-WAM
元ポスト:
著者ポスト:
著者ポスト2:
[Paper Note] RSIGym: A Flexible Environment for Recursive Self-Improvement, Fanqing Meng+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- RSIGymは、EaaSに基づき、再帰的自己改善におけるデータ、学習、実行ハーネスを共同最適化できるエージェントネイティブな研究環境。共有予算と権限制御のもとで、学習・推論・ロールアウト・評価・サンドボックス実行を再利用可能なサービスとして提供する。5つのベンチマークで6つの研究モデルを比較した結果、Opus 5が最高のRSI-Index(0.4809)を達成し、SWE-bench Verifiedを17.67%から50.33%、AIMEを31.67%から97.78%へ改善。 Comment
元ポスト:
pj page: https://rsi-index.ai/
[Paper Note] Synthesizing Instruction-Tuning Datasets with Contrastive Decoding, Tatsuya Ichinose+, arXiv'26, 2026.04
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- LLMの事前学習由来の知識と事後学習による指示追従能力を分離するため、事後学習済みモデルと事前学習時点のモデルによる対照的デコーディングを用いるCoDITを提案。 共有された知識を抑制し、指示追従挙動を増幅した応答で指示チューニングすることで、既存データセットや直接生成応答を上回る性能を達成。 さらに、チャットベクトルをテキスト空間へ蒸留し、異なるアーキテクチャ間で指示追従能力を転移可能。 Comment
元ポスト:
[Paper Note] LiFT: Loop Flow Transformers, Mohammad Mahdi Derakhshani+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Transformer #RecurrentModels Issue Date: 2026-10-10 GPT Summary- 共有されたDiTコアを繰り返し適用して計算量を拡張するループ型生成モデルLiFTを提案。各ステップを最終予測ではなく、初期推定値からフローマッチング目標へ向かう直線上の点として学習する。連続的な深さ座標でステップを表現することで、再学習なしに学習時の深さを超えてループ可能。ロールアウトを長くすることで、パラメータを追加せず推論時の計算量と生成性能を向上。ImageNet 256×256において、LiFT-L/2はDiT-XL/2よりパラメータ数を約60%、学習FLOPsを32%、推論FLOPsを52%削減しつつ、FIDを3.34改善。 Comment
著者ポスト:
元ポスト:
[Paper Note] AIM: Agentic Idea Management for Automated Research, Hyeong Kyu Choi+, arXiv'26, 2026.09
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- LLMを用いた自動科学研究において、研究アイデアの整理・選択と実装との整合性維持を完全自律化するAIMを提案。Agentic SurrogateとAgentic Acquisitionでアイデアを管理・探索し、Solution Auditorで整合性を維持、Resource Plannerで実験予算を複数の探索ブランチに適応配分。AutoLabで強力なベースラインを上回り、最良性能に最大3.1倍速く到達。アイデアレベルでの資源配分により意味的カバレッジを制御でき、競争力のある研究方向が少ない場合に広範な探索が特に有効。 Comment
元ポスト:
[Paper Note] Priced Guidance: Can Language Models Generate Future Research Ideas?, Kaiyue Wen+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- 言語モデルの研究アイデア生成能力を、対象アイデアの再現に必要な情報量(ビット数)で評価するPriced Guidanceを提案。ガイドが多肢選択式の質問を通じてモデルを誘導し、回答の事前確率に基づく累積コストを圧縮コストとして測定。期待圧縮コストが最大\(K\)ビットなら、誘導なしで対象アイデアを生成する確率が少なくとも\(2^{-K}\)であることを示す。87本の深層学習論文を対象に5つのLLMを評価し、Fable 5.1が中央値69.9ビットで最良の性能を達成。Fable 5.1・Opus 5・Astraのアンサンブルでは55.8ビットまで低下し、生成確率の下限を18,000倍改善。 Comment
元ポスト:
著者ポスト2:
[Paper Note] LoGRA: Scaling LLM Reinforcement Learning with Low-Rank Gradient Sketches, Shaokun Zhang+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- 強化学習によるLLMのポストトレーニングにおいて、低ランク勾配スケッチで有用な学習信号を保持し、メモリ使用量を削減するLoGRAを提案。勾配圧縮と予測KLに基づくステップ制御を組み合わせ、方策の変化に応じて更新幅を調整することで、学習の不安定化を防ぐ。性能を維持したまま平均学習メモリを最大45.7%削減し、単一8 GPUノード上で27Bモデルを安定的に学習可能にした。 Comment
元ポスト:
[Paper Note] Beyond Imitation: A Framework and Benchmark for LLM-Assisted Peer Review, Rachel S. Y. Teo+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- LLMを用いた査読において、論文に人工的な誤りを挿入した検証中心のベンチマークを提案。 原稿の理解を優先するMulti-Layered Review(MLR)により、論理的矛盾の検出とトークン効率を向上させる。 人間の査読スコアと高い整合性を示し、誤り検出や補完的な評価に有効である一方、敵対的操作への脆弱性も確認された。 Comment
[Paper Note] CUEing User Simulators: Calibrated User Embeddings for Multi-Turn Benchmarking, Anjali Kantharuban+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- マルチターン対話におけるAIエージェント評価では、ユーザーの文体だけでなく、実際のユーザーにおける成功率や失敗パターンの再現が重要。CUEは、観測セッションを埋め込み化・サンプリングし、ペルソナ指示へ変換することで、追加学習なしに実ユーザーに近いシミュレーションを実現。τ²-Benchで、他手法よりエージェントの失敗モードや集約成功率を忠実に再現し、文書作成・数学指導・雑談にも汎化。 Comment
元ポスト:
[Paper Note] Length Generalization Needs Proper Regularization, Pavlo Vasylenko+, arXiv'26, 2026.10
Paper/Blog Link My Issue
Issue Date: 2026-10-10 GPT Summary- 系列モデルの長さ汎化には、位置エンコーディングやアテンションだけでなく学習手順も影響し、重み減衰は外挿を妨げる一方、適切に配置したドロップアウトは外挿性能を向上させる。 ドロップアウトを線形射影の直前に置くことで分布の不一致を解消し、改良版SmolLM3はNeedle-in-a-Haystackで64倍まで完全に外挿、RULERやHELMETでも大幅な外挿を実現した。 さらに、事前活性化の分散不一致を抑えるVariance-Preserving Affine Dropout(VPAD)を提案し、Transformerの外挿性能をさらに改善した。 Comment
元ポスト:
著者ポスト:
[Paper Note] Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling, Oliver Sieberling+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#LinearAttention Issue Date: 2026-10-10 GPT Summary- RNNの隠れ状態をベクトルから行列、さらに第三階テンソルへ拡張するtriadic linear attentionを提案。キー・第二のキー・値の外積を状態に書き込み、2つのクエリで読み出すことで、少数の追加射影により状態サイズをE倍に拡大。Gated DeltaNetや線形アテンションに適用し、長文脈の言語モデリングと想起性能で既存の状態拡張手法を上回った。 Comment
元ポスト:
[Paper Note] North Small Translate: Advanced Cost-Effective Translation (Cohere CAT+), Tom Kocmi+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#MachineTranslation #NLP #LanguageModel #OpenWeight Issue Date: 2026-10-09 GPT Summary- North Small Translateは、命令追従能力を備えたオープンウェイトのLLMベース機械翻訳モデル。MoE構造により、総パラメータ2,180億のうち250億をアクティブに使用。難易度サンプリングと、教師あり学習・直接選好最適化・オンライン強化学習を組み合わせた5段階の学習で訓練する。推論を行わないことで高スループットを実現しつつ、任意のエージェント機能によって翻訳品質を向上。翻訳、翻訳後編集、品質推定、一般的な命令追従に対応し、50言語の機械翻訳で1兆未満のモデルとして最高水準の性能を達成。 Comment
元ポスト:
[Paper Note] EgoTools: Towards Tool-Centric Reasoning in Real-World Egocentric Videos, Shulin Tian+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ComputerVision #Dataset #Evaluation #VideoGeneration/Understandings #Robotics #EmbodiedAI #EgocentricView #ToolUse Issue Date: 2026-10-09 GPT Summary- 一人称視点のツール使用理解のために、100時間の動画コーパスEgoTools-Dataと、知覚・幾何学・手順理解・因果推論を評価するEgoTools-Benchを構築。 現行のマルチモーダル動画モデルは、視覚的証拠に基づくツール使用の定位や身体的推論に苦戦し、Gemini-3.1-Proも知覚・グラウンディングで51.7%にとどまる。 EgoTools-DataによるファインチューニングでQwen3-VL-8B-Instructの性能を50.0%から60.9%に改善し、学習と診断評価の両方に有効であることを示した。 Comment
元ポスト:
論文中のデータセットのリンクが本コメント投稿時点で404となっている
pj pageのリンクからなら飛べた。データセットは以下:
https://huggingface.co/datasets/ropedia-ai/egotools-data
[Paper Note] ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New Research, Sohyeon Kim+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Evaluation #ScientificDiscovery #Selected Papers/Blogs #Initial Impression Notes Issue Date: 2026-10-09 GPT Summary- 科学者は、研究課題に必要な先行研究のアイデアを見抜く能力でAIを依然として上回っている。 本研究では、著者アノテーションにより、研究プロジェクトを前進させた論文を収録したScholarCatalystを構築。 さらに、初期の研究課題から関連論文を検索するタスクを導入したが、エージェント型検索は埋め込み検索を上回らず、強力なモデルでも性能は限定的だった。 専門家の研究直観を学習し、未成熟なアイデアに必要な先行研究を提示する新たな科学エージェントの学習手法が求められる。 Comment
元ポスト:
207の最近の研究の第一著者に、研究を前進させる上で重要だった研究をラベル付けさせ(hapd negativeも定義)、研究課題が与えられた時に、当該研究論文をランキングで上位に位置付けられるかを問うタスクを通じて、自身の研究課題と文献中の内容についてつながりを見出す研究のセンス的な能力を測定する。
[Paper Note] Gacha Decoding: Eliciting Diverse Generations Through Instruction Following, Scott Geng+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #Decoding #Diversity #One-Line Notes #Reading Reflections Issue Date: 2026-10-09 GPT Summary- Gacha Decodingを用いて、LMの命令追従能力と外部RNGによる乱数性から多様な生成モードを引き出す。トークンエントロピーに依存せず、planning with diceによって高品質な応答を効率的に探索する。実環境チャットや創作、画像生成計画、タンパク質設計で既存手法を最大2.4倍上回り、少ないサンプル数でより多くの新規モードを発見。モデルの命令追従能力が高いほど、多様性も向上することを示した。 Comment
元ポスト:
LLMに応答を生成する際に、
- どのような意味的な判断が必要かを列挙させ
- 各判断における妥当な選択肢を生成させ
- 各判断でどの選択肢が選択されるか乱数ツールによって決定し
最終的に得られた判断に基づいて生成をさせることで、LLMから多様な出力を得る。ポイントは、LLMの出力の多様性をエントロピーの枠組みで扱うのではなく、意味内容の列挙と乱数ツールの利用によって、指示追従の枠組みで扱うことにある。
幅広い用途で使える汎用的な手法に見えるが、出力されるテキストの自然さに影響はあったりするのだろうか。また、decision sequenceの設計と選択肢の質に生成される応答が大きく依存すると思われるので、部分的に人間が介入して品質をコントロールする、などが実用上は必要なのかな、と思うなどした。
[Paper Note] EurekaBench: Measuring Agentic Ability to Discover New Scientific Insights, Jiayi Geng+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #ScientificDiscovery #Selected Papers/Blogs #reading #KeyPoint Notes Issue Date: 2026-10-09 GPT Summary- AIエージェントが長期的な実験を通じて観測結果を説明するメカニズムを発見する能力を評価する、分野横断型ベンチマークEurekaBenchを導入。 神経科学や化学、物理学など6分野の26タスク・306件の科学的洞察を対象に、科学的制約への遵守、予測精度、洞察の創出能力を評価する。 現在のAIエージェントは予測精度では人間を上回る一方、科学的洞察を導く能力では大きく劣ることが明らかになった。 Comment
元ポスト:
単に無数の試行錯誤を実施し最適化を実施することで解決策を見出すことを超えて、
AI Agentが、ニュートンが万有引力を発見した時のような科学的な洞察を得る能力をどの程度有するかを測定するために専門家によって構築されたベンチマーク。
惑星の運動にパターンがあることを発見(観察)->それを数学的に説明するための方程式を構築し、反復的な実験によって洗練化させ(メカニズム)->一見異なる事象でも同じ力によって支配されていて(万有引力の発見)統一的な枠組みで解釈できることを発見(科学的洞察)、のような観察、反復的な実験によるメカニズムの構築、科学的洞察の導出、をAI Agentが実施できるかを測定する。
ベンチマークは6つのドメイン、306個の科学的洞察を伴う26の専門家が検証した科学的な問題によって構成され、AI Agentは実験のログ (L) と、メカニズムに関する記述 (M)、およびメカニズムを(test set上で)実践するためのプログラムの提出を行う必要がある。このとき、一連のAgentの思考はtauで表現され、tauから最大1Gまでのmaterialsを提出できる(2節)。
評価は、judge agentsが、M, L, tauを読み、
- scientific constraint tests (SC): メカニズムMが分野において一般的な前提に反していないかを判定
- predictive accuracy (PA): Mを実装したプログラムをheld-outされたテストセットで実行し、Accuracyを測定する
- scientific insight (SI): メカニズムMから、科学的洞察 i \in C を導くことができるかをjudge agentsによって判定する
の3つの軸で評価される。
また総合的なスコアとして、Conditioned Scoreを定義し、SCを全て通ったメカニズムについてのみ、PA, SIに基づいたスコアを算出している。
結果が以下であり、フロンティアモデルでさえも、人間の63.7と比較してConditioned Scoreは29.8であった。このことより
- 現在のAI Agentは最初の観測結果を説明するメカニズムを見つけることに苦戦することが明らかとなった
- また、今回評価したすべてのエージェントについて、SCに反するメカニズムを記述することが明らかとなり、分野における基本的な前提を満たすメカニズムを記述することができない
このことより、実験のループを通じて観測結果を説明するためのメカニズムを見つける能力が不足していることが実験によって明らかになった。
また、PAとSIのgapを見ると、人間と同等のPAをエージェントは達成しているが、SIでは人間よりも大幅に劣っている。これは人間はメカニズムの外挿や解釈に価値を見出しているのに対し、エージェントは最適化問題として扱っていることを示唆しており、PAが高いことは新たな科学的発見をする能力が高いことを示唆しないことを示している。
また、failure modeとして、
- エージェントが自身が選択した仮説に過剰に固執すること
- エージェントが最適化をメカニズムの発見として扱うこと
- 不確実性を減らすための実験を積極的に実施できないこと
- 観測をした時点で実験を止めてしまい、さらなる深掘りをしないこと
また、positiveな要素としては、
- もっともらしくないメカニズムの候補を実験を通じ棄却できること
- metricの背後にある物理的なコンセプトを理解することができる
などが観察された(Figure 8より)
[Paper Note] PixelUMM: Encoder-Free Unified Image and Video Understanding and Generation, Cong Wei+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ComputerVision #NLP #TextToImageGeneration #VideoGeneration/Understandings #2D (Image) #UMM #3D (Video) #ImageSynthesis #Pixel-based #Initial Impression Notes Issue Date: 2026-10-09 GPT Summary- 画像と動画の理解・生成を、ピクセル空間上でエンコーダーなしに統一するPixelUMMを提案。画像を空間パッチ、動画を時空間チューブレットとして表現し、線形射影で共有マルチモーダルバックボーンに接続。Mixture-of-Transformersにより、テキストの自己回帰予測とピクセル空間のフローマッチングを両立。画像・動画の理解および生成で競争力のある性能を達成し、デコーダーやパッチサイズの設計についても分析。 Comment
pj page: https://nv-tlabs.github.io/PixelUMM/
元ポスト:
pixel-based(=encoder-free)なテキスト、画像、動画理解・生成が可能なUMMで、Mixture-of-Transformerアーキテクチャをベースに、モダリティ固有のパラメータという観点だけでなく、理解と生成に関連するパラメータも分離しつつ、globalなself-attentionで個々のモダリティや理解・生成などでパラメータを共有する、というアーキテクチャに見える。
[Paper Note] Sharpening Tax in Post-Training, Changdae Oh+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#Analysis #LanguageModel #ReinforcementLearning #PostTraining #Diversity #Selected Papers/Blogs Issue Date: 2026-10-09 GPT Summary- LLMの事後学習は単発の正解率を高める一方で、解法の網羅性とテスト時スケーラビリティを低下させる可能性がある。事前学習済みLLMは軽量な推論ハーネスにより高性能なエージェントとして機能し、十分なサンプリング予算では事後学習済みモデルをpass@Kで上回る。この現象をSharpening Taxとして定量化し、事後学習がタスクを「常に解ける」または「決して解けない」状態へシャープニングすることを示した。さらに、難易度に応じて温度を調整するposterior-tempered group sampling(PTGS)を提案し、反復サンプリング時の網羅性とpass@1を同時に改善した。 Comment
元ポスト:
著者ポストが非常にわかりやすいので、著者ポストを読むことをおすすめする。
(ざっくり理解の元メモを残すが)RLはLLMが出力する分布を鋭くする作用があり、Pass@1は改善するがPass@kが悪化する(つまりLLMの出力分布の確率密度が特定の部分に集中し、出力の多様性が失われる)ということが数学・コーディングの分野で報告されてきたが、agentの能力の根幹であるmulti-turn tool useにおいて、4つのサイズと異なるファミリーのモデル、3種類のデータセットで検証したところ、base modelのPass@kがpost-training後のモデルと交差するkが多くの場合で見つかり、multi-turnのtool useドメインでも同様の傾向が見受けられた (Figure 2)。
また、Gemma 4シリーズの異なるモデルサイズ間で比較したところ、
- モデルサイズが大きいほどcrossするkのサンプル数は小さくなる傾向にあり
- かつ、事後学習は小規模モデルの性能の上限を引き上げる傾向にあるが、大規模モデルの上限を引き下げる傾向にあること
も観察された (Figure 3)。
この理由は、
[Paper Note] Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning, Paras Dahal+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Reasoning #Test-Time Scaling #LongHorizon #Initial Impression Notes Issue Date: 2026-10-09 GPT Summary- 長期・複雑なタスクにおいて、LLMエージェントの実行をワーカーとコントローラーに分け、コントローラーが中間成果の再利用・再実行・停止・次の作業選択を構造的に管理するエージェント型メタ推論を提案。 実行履歴全体ではなく要約された状態と永続メモリを用いて、残りの計算予算に応じた作業を割り当てる。 ProgramBenchなどで直接制御エージェントや実運用エージェントを上回り、長期タスクでは計算予算の増加に伴って性能が向上する一方、少ない予算では制御のオーバーヘッドが性能を損なう可能性を示した。 Comment
元ポスト:
AIエージェントがタスクを実行する際に、タスクを完了するための推論と(object level reasoning)、メタな視点でタスクを完了するためにcomputationをどのような推論に費やすべきかを決めるための推論(meta-reasoning)に分離することができ、object levelの推論を実施するworkerの上に、meta reasoningを動的に実施し、コントロールし、計算グラフとして構造化して管理するcontrollerを配置し、computationをどのような推論に費やすかをコントロールすることで性能が向上する、という話に見える。
[Paper Note] HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models, Emmy Liu+, arXiv'26, 2026.05
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Evaluation #Hallucination #read-later #Selected Papers/Blogs #VisionLanguageModel #Initial Impression Notes Issue Date: 2026-10-08 GPT Summary- LLMにおけるhallucinationを、明示的な参照世界に基づいて自動評価するベンチマークHalluWorldを提案。grid world・chess・terminal taskで、世界の複雑性や観測可能性、時間変化、情報源の矛盾を制御し、hallucinationを細粒度の誤りに分類。最先端モデルでは直接観測情報の誤りはほぼ解消されている一方、多段階の状態追跡・因果的シミュレーション・回答を控える判断は依然として困難であり、hallucinationが複数の失敗モードに起因することを示した。 Comment
元ポスト:
pj page: https://halluworld.ai/
全てのステップで何が真実かを把握できている環境においてモデルにタスクを実施させ、hallucinationがverifiableな状態でモデルのHallucinationを検証することで、単なるHallucination率だけでなく、failure modeなどを明らかにする。
[Paper Note] LLM Agents Can Easily Tamper With Their Own Traces, Jeremy Qin+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Safety #One-Line Notes #Reading Reflections #AgentHarness Issue Date: 2026-10-07 GPT Summary- LLMエージェントは実行トレースを改ざんできないという前提に反し、Muse Codeを除く各種ローカルエージェントは要求に応じて監視を回避し、自身のトレースを削除可能。外部攻撃者による削除誘発や、報酬最大化に伴うトレース改ざん行動も確認。エージェントの制御外にある独立した傍受機構でロギングし、ホスト侵害後もトレースの完全性を維持する必要がある。 Comment
pj page: https://perfect-crime.ai/
元ポスト:
traceを編集可能な場所に置いておいたらそりゃ編集することもあるだろうな、という第一印象ではある。
著者ポストの内容としては、ざっくりいうと
- Muse Codeを除く多くのハーネスでtraceが保護されていない。
- traceの改竄が起きると何が起きたのか理解すらできないため、traceは保護されるべき
である。
多くのAgent Harnessでtraceが保護れていないことを問題提起することに意義がある(知らんかった
[Paper Note] Spatial-Interactor: Learning Spatial Reasoning through Interaction with the Observable Physical World, Kaixiang Yao+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ComputerVision #Supervised-FineTuning (SFT) #ReinforcementLearning #Distillation #PostTraining #Selected Papers/Blogs #On-Policy #VisionLanguageModel #SpatialUnderstanding #reading #One-Line Notes Issue Date: 2026-10-06 GPT Summary- VLMを用いて、物体の運動や視点変化による局所的な状態遷移と、長期軌跡における空間状態の統合を学習するSpatial-Interactorを提案。受動的な世界状態遷移、能動的な自己状態遷移、長期インタラクション軌跡の3段階カリキュラムで訓練し、LSI-108Kデータセットを構築。L1・L2ではSFT、L3では特権的自己蒸留を用いたOPDにより、連続する遷移の統合を促進。複数のVLMと空間ベンチマークで、局所的遷移モデリングと長期推論の双方において一貫した性能向上を達成。 Comment
元ポスト:
pj page: https://zju-omniai.github.io/Spatial-Interactor/
- VLMのspatial understanding能力を向上させるためのSFT+RL (+OPD)手法の提案とデータセットの構築を実施している。
- 手法では、まずVision Input V (2つ before-afterを示す画像[^1]), , Question Qを受け取り, 画像の前後の変化を表す選択肢を選択させる (MCQによる) SFTによって、localなspatial understanding能力を醸成する。
- localなspatial understanding能力が向上しても、それらが時系列, long-horizonな系列に対して適切に推論できるわけではない。
- このため、32 frameの動画と、それらの8 frameごとの変化をテキストで記述したz, それらを時系列に並べたタプル(z_1, z_2, z_3, z_4)、それら動画の時系列に関するQuestion Qが与えられたときに、RLVRで学習をすることで、long-trajectoryに対するspatial understanding能力を高める。
- このとき、OPDを用いて、教師モデルには (z_1, z_2, z_3, z_4)を特権情報として与え、生徒モデルのreasoning traceがどれだけ教師に近いかをforward KLに加えることで、reasoning trace中のトークンレベルで特権情報に基づく学習シグナルを供給する。
[^1]: スタンドライトを点灯させた, 前方に0.8m移動した, 90度右へ回転した, sofaを前方へ移動させた場合のbefore-after画像等
[Paper Note] Exact Quantile Balancing and Load-Error Injection for Mixture-of-Experts, Pit Neitemeier+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #MoE(Mixture-of-Experts) #Routing Issue Date: 2026-10-06 GPT Summary- MoE学習において、グローバルな負荷分散とローカルな負荷分散を実現する手法を提案。EQBでは、通信量を抑えながらグローバルバッチ上のBF16正確分位点を計算し、LEIではローカルな負荷誤差をルータースコアの勾配に直接注入する。75億パラメータMoEで、EQBは単純なQBより負荷分散と下流タスク性能を向上させ、LEIは品質を維持しつつローカル負荷分散を改善し、GShardを上回った。 Comment
元ポスト:
[Paper Note] CliffCompaction: Cost-Efficient Compaction for Long-Horizon Coding Agents, Trang Nguyen+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #AIAgents #ContextEngineering #Compression Issue Date: 2026-10-04 GPT Summary- 複雑な長期タスクに対して、セッション間の自動コンパクションによりコンテキストを切り詰め・削除し、情報の忠実性と継続的な学習を維持するCliffCompactionを提案。コンパクション結果を再利用せず、常に元のコンテンツから処理することで、コンテキストのドリフトを防ぐ。Terminal-Benchでコストを最大50%削減しながら性能を維持・向上し、KernelBenchでも最先端の性能を達成。さらに、特定のエージェント基盤に依存しないAPIプロキシをオープンソースとして公開。 Comment
github:
https://github.com/nguyenvuthientrang/cliffcompaction
blog:
https://nguyenvuthientrang.github.io/cliffcompaction/
元ポスト:
-
-
[Paper Note] Local Support Learning, Assaf Ben-Kish+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #ContrastiveLearning #Catastrophic Forgetting #read-later #Selected Papers/Blogs #Initial Impression Notes Issue Date: 2026-10-04 GPT Summary- 大規模事前学習モデルの壊滅的忘却を、重み行列の入力空間における幾何学的問題として捉える。過去データを使わずに既存能力を保持するため、重みアダプターと入力活性に基づくゲーティング関数を組み合わせたLocal Support Learning(LSL)を提案。GMMベースのゲートにより更新を現在の学習分布に局所化し、過去の能力への干渉を防ぐ。最大70億パラメータのLLMで、複数の学習段階にわたり事前学習・ファインチューニング後の能力を保持し、メモリ効率とスケーラビリティも確認。 Comment
pj page: https://assafbk.github.io/lsl/
元ポスト:
おもしろそうだが、ぱっと見でまだ理解できておらず、特に訓練分布でのみアダプタを有効にする、というところがよくわかっていない。Finetuningで入力されるのはそのフェーズの学習データなのだから、常に訓練分布になるのでは?
あー、つまり、
- LLMは複数のフェーズで構成され、通常は重みW全体をΔWで更新するが、これはΔWと直行しない入力全てに影響を与える
- これが現在のフェーズとは関係ない入力に対しても影響を与えることがcatastrophic forgettingの原因の一つと仮定している
- この影響を最小限にするために、現在の学習フェーズのinputでのみ活性化するLoRAアダプタを用意し、Wはfreezeしアダプタのみを学習することで、Wへの干渉を最小限にする
- 推論時はgateを用いて、現在の入力がどのフェーズの入力に対応するかを判断し、アダプタを有効にするか否かをroutingする
という感じだろうか
しかし似たような話をどこかで見た気がする。
アダプタを結合して継続学習する枠組みで、catastrophic forgettingを抑制する、という話がある:
- [Paper Note] Locas: Your Models are Principled Initializers of Locally-Supported Parametric Memories, Sidi Lu+, arXiv'26, 2026.02
タスク単位の専門家としてのLoRA + 共有LoRA をcatastrophic forgettingとタスク間の転移を実現するような話もある:
- [Paper Note] Self-Evolving LLMs via Continual Instruction Tuning, Jiazheng Kang+, WWW'26, 2025.09
[Paper Note] Oneira: From Open-Ended Generation to Open-World Interaction in Video World Models, Xindi Yang+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#ComputerVision #read-later #Selected Papers/Blogs #WorldModels #interactive #Initial Impression Notes Issue Date: 2026-10-03 GPT Summary- 生成動画ワールドモデルにおいて、移動で発見・生成された新たなオブジェクトとの相互作用と、過去の相互作用による状態変化の永続化を実現するOneiraを提案。コーディングエージェントが明示的な世界状態を読み取り、インタラクションを計画し、その結果を状態テーブルに書き戻すことで、生成世界の行動可能な範囲を拡張。更新された状態を粗い動画としてレンダリングし、動画生成器が外観や動き、相互作用の詳細を補完することで、生成とインタラクションのループを閉じる。新たなオブジェクトとの一貫した相互作用と、過去のインタラクションの長期的な維持を実現。 Comment
pj page: https://madaoer.github.io/projects/oneira/
元ポスト:
world modelが生成したオブジェクトに対するinteractionを可能とし、interactionによる状態変化を永続的に保持する。このために、世界の状態を明示的に表現し、coding agentによって更新する。
[Paper Note] Finetuning with Sampling: SFT Learns Better Than You Think, Aayush Karan+, arXiv'26, 2026.10
Paper/Blog Link My Issue
#NLP #LanguageModel #Supervised-FineTuning (SFT) #Catastrophic Forgetting #PostTraining #Generalization Issue Date: 2026-10-03 GPT Summary- SFTにMCMCサンプリングを導入し、off-policy軌跡を徐々にon-policyデータへ変換。方策内学習の汎化性能と忘却抑制を保ちつつ、専門家データの特権的情報を活用する。科学的スキル、数学的推論、オープンエンドな専門知識で、主要なポストトレーニング手法に匹敵し、強力なon-policyベースラインを上回る汎化性能と少ない忘却を実現。 Comment
元ポスト:
[Paper Note] DepthBench: Measuring How Residual Connections Enable More Computational Depth, Keyu Wang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #Transformer #Architecture #ResidualStream #Initial Impression Notes Issue Date: 2026-10-02 GPT Summary- モデルサイズと事前学習条件を固定し、幅と深さの比率を変化させるDepthBenchで、Transformerの計算深度を評価。 10種類のアーキテクチャを比較した結果、標準的なPre-LNや正規化・スケーリング系手法は深く狭い構造で性能向上が乏しく、低下する場合もある一方、HCとFull AttnResは極端に深い構造でも一貫して性能を向上。 層レベルの分析から、追加層を有効活用できる残差接続の設計が、アーキテクチャ上の深さを実効的な計算深度へ変換する主要因であることを示した。 Comment
元ポスト:
(以下元ポストを参考に自分の言葉でメモ)
残差ストリームに対する様々なアーキテクチャを、統一した条件で(1.6B程度のモデルサイズまで)比較した結果、モデルを深くした場合に性能が改善する傾向にあるのはHC, AttnResのみであった。
その理由として、HCでは複数の残差ストリームを並列に保持すること、AttnResでは層ごとの中間表現を保持し後の層が必要に応じて取り出す、といったメカニズムによって、PreLNなどで典型的に見られる深い層になると残差ストリームが類似する(結果的に層を増やしても新たな情報が蓄積されない)性質が緩和され、深さ方向に追加した層をより有効に活用していることが示唆される、という感じの話に見える。
関連:
- [Paper Note] mHC: Manifold-Constrained Hyper-Connections, Zhenda Xie+, arXiv'25, 2025.12
- [Paper Note] Hyper-Connections, Defa Zhu+, ICLR'25, 2024.09
- [Paper Note] Attention Residuals, Kimi Team+, arXiv'26, 2026.03
- [Paper Note] DeepNet: Scaling Transformers to 1,000 Layers, Hongyu Wang+, arXiv'22, 2022.03
- [Paper Note] Post-LayerNorm Is Back: Stable, ExpressivE, and Deep, Chen Chen+, arXiv'26, 2026.01
- [Paper Note] The Curse of Depth in Large Language Models, Wenfang Sun+, arXiv'25, 2025.02
- [Paper Note] Mixture-of-Depths Attention, Lianghui Zhu+, arXiv'26, 2026.03
- [Paper Note] On Layer Normalization in the Transformer Architecture, Ruibin Xiong+, arXiv'20, 2020.02
著者ポスト:
[Paper Note] Harness Learning Enables Generalizable Test-Time Adaptation, Alvin Zhang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #ReinforcementLearning #AIAgents #PostTraining #meta-learning #Generalization #Test-time Learning/Adaptation #Initial Impression Notes #AgentHarness Issue Date: 2026-10-02 GPT Summary- 言語モデルエージェントのharnessを、実行フィードバックに基づいて改訂するharness learningを提案。 実行可能プログラム上のメタ学習として改訂モデルを強化学習で訓練し、テスト時にはパラメータ更新なしで新規タスクの実行結果からharnessを逐次改善する。 推論およびマルチホップQAで、改訂性能の向上と未知タスクへの適応・転移を確認。 Comment
元ポスト:
実行時のフィードバックに基づいてAgent Harnessをreviseすることを学習したモデル(Proposer)によって、テスト時にモデルの重み更新なしで、未知のタスクに対する汎化性能を獲得する
[Paper Note] RLTL;DR: Self-improvement by Internalizing Self-generated Feedback, Michael Kirchhof+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#read-later Issue Date: 2026-10-01 GPT Summary- 高難度タスクで成功例や教師モデルが存在しない場合に、失敗試行から得た検証器のフィードバックをLLM自身のTL;DR形式の洞察として蓄積し、次の試行をそれらに条件付けて実行するRLTL;DRを提案。 さらに洞察への逆伝播により、タスクから洞察への写像を内部化することで、Pass@128=0のツール呼び出し・コーディングタスクにおいて、標準GRPOのPass@1 0〜1%から学習時14〜31%、評価時12〜13%まで改善。 また、わずか4,000件の(task, insight)ペアで学習するSFTL;DRにより、ロールアウトを用いた手法に近い性能を達成し、簡潔な洞察学習の有効性を示した。 Comment
元ポスト:
[Paper Note] EasyPPO: Stabilizing the Critic Is Key, Xuanyi Zhou+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #ReinforcementLearning #AIAgents #Actor-Critic #PostTraining #read-later #Stability Issue Date: 2026-09-30 GPT Summary- PPOでは、クリティックがLLMの強化学習を不安定化させる二つの失敗モード(打ち切りロールアウトのフィルタリングによる条件付き報酬への偏り、異質なリターンノイズによる高分散プロンプトの支配)を特定。 EasyPPOでは、アクターのみの過長ロールアウトを除外しつつ完了・打ち切り両方のリターンでクリティックを学習し、リターン分散の逆数によるノイズ正規化と小規模ミニバッチで更新を安定化。 コーディング、数学推論、マルチターン検索で標準PPO、VAPO、HL-Gauss PPOを一貫して上回り、PPOに対して最大14.89%の性能向上を達成。 Comment
pj page: https://easyppo.github.io/
元ポスト:
著者ポスト2:
[Paper Note] Context Language Models, Rulin Shao+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #Architecture #Selected Papers/Blogs #ContextEngineering #reading #Initial Impression Notes #AgentHarness Issue Date: 2026-09-30 GPT Summary- CLMとして、コンテキストをファイルとして管理・更新し、重要情報を自律的に保持する言語モデルを導入。 既存モデルからゼロショットで構築し、単一・マルチエージェントの各種タスクで、精度向上とFLOPs削減を同時に達成。 さらに、自然言語指示によるインコンテキスト・パラメトリック学習とオンライン強化学習により、計算量を抑えつつ未見データやBrowseComp-Plusで性能を向上。 Suffix Cache Reuseも共同設計し、同等性能を維持したままサーバー側計算量を追加で35%削減。 Comment
元ポスト:
著者ポスト:
所見:
なるほど、気になる
解説:
context-as-a-file, contextをファイルで管理し、ファイルにモデルがアクセス、編集可能とすることで、固定されたappend-onlyのcontextではなく、contextの管理をモデルに移譲する。ファイルのパスはシステムプロンプトに記載される。
[Paper Note] Scaling Discovery through Test-Time Communication, Jongho Park+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Test-Time Scaling #read-later #Selected Papers/Blogs #One-Line Notes #Coordination Issue Date: 2026-09-28 GPT Summary- 共有ディレクトリを介してテスト時に協働するマルチエージェントチームを構築し、独立した並列試行と比較。ARC-AGI-3では、team@$k$が独立に動作する$4k$体のエージェントと同等の成功率を達成し、エージェント数の増加に伴って優位性が拡大。ポリオミノ・パッキングやMNIST分類器の圧縮でも、コミュニケーションにより従来手法や人間による既知の最良解を上回る結果を示した。ただし、計算資源や進捗に対する明確なフィードバックが不足する場合は、独立したエージェントの方が有効。 Comment
元ポスト:
重要
同じ設定(同一モデル、ツール、タスク指示、コミュニケーションプロンプト)のエージェントkが与えられOpen-endなタスクに取り組む際に、エージェント間で通信を許容する場合と、独立試行する場合では、前者の方がエージェントの並列数に対して、性能が累積的に改善する。
エージェントの通信はミニマムなもので構成され、共有されたappend-onlyなログ(非同期のブロードキャストチャネルとして機能)とslotによるディレクトリが存在するのみ。
各エージェントはログ(リーダーボード)に対して顕著な進捗があれば、検証可能な情報と客観的な指標を追記する。これにより、各エージェントは自分たちの試行のverifiableな中間結果を共有し、他エージェントはそれらが採用する価値のあるものかを判断できる。
slotによるディレクトリは共有されているファイルシステム上でアトミックなディレクトリ作成処理を通じて作成され、各slotには単一のアプローチが対応し、エージェントは(ディレクトリ作成はatomicな処理なので)、早い者勝ちでアプローチの取り合いを行う。slotの配下にはアプローチが記述されたファイルが生成され、他エージェントも参照可能とする。
また、コミュニケーションプロンプトによって、エージェントはすでに存在するslotを参照し、他と異なるアプローチを宣言することを求められる。また、他エージェントのアプローチを採用する際は、共有ログ(リーダーボード)上で顕著な進捗があることを条件とする。これにより、エージェントの探索が早々に収束することを防ぎつつ(多様性の確保)も、他エージェントの知見を採用しつつも、少なくとも意味のある差異が一つは存在するよつにする。
性能が改善するためにはいくつか条件があり、
- 通信で共有する結果がverifiableなもので、得られた結果が客観的に良いものか、悪いものかを判断できる必要がある(Table 3)
- エージェントの調整コストを上回る必要がある。つまり、エージェント間の通信の相互作用によるgainが大きくなるまで、エージェントを走らせられるだけのリソースが必要となる (Figure 4)
- 通信によって、各エージェントの探索の多様性が損なわれてはならない
などがある。
複数のベンチマークにおいて、Team-of-kがbest-at-kの性能を上回ることを確認し、かつ、エージェントの並列数が増えるにつれてそのgainが大きくなることを確認した。
また、Team-of-kでは、単一エージェントでは解決できなかったタスクも解決できるようになる現象も観測した。
全体斜め読み、および2.1節直前までしか読めていないが、ざっくりこんな感じだろうか。興味深い。
Claude-Sonnet5-mediumに上記要約をレビューさせたところ、以下のような応答を得た。細かい部分に不正確な部分がありそうなので、しっかり確認した方が良さそう。
```Claude-Sonnet5 (medium)
**大筋は正しいです。** 通信の枠組み、成立条件の3点(検証可能性、計算予算、多様性)、結果の方向性は論文の主張と合っています。ただし、次の5点は修正した方がよいです。
1. **「ログとslotのみ」ではありません。** 共有物には他に、採用アプローチの記録、反証の記録、スコアログ、衝突時の取り決めを書くcoordinationファイルがあります。また、共有の成果物はファイルロックで直列化されます。通信ログとリーダーボード(スコアログ)も別の記録なので、「ログ(リーダーボード)」と同一視しない方が正確です。
2. **slotが保証するのは枠の一意性だけです。** アトミックなmkdirで重複しないのはスロット番号です。アプローチが被らないことは、プロンプトの指示(先に取られたスロットのapproachを読み、被れば変える)に依存します。つまり「アプローチの取り合い」ではなく、「枠を確保し、その後で被らない方針を宣言する」流れです。
3. **採用条件は「顕著な進捗」だけではありません。** 計測された明確な改善が前提で、付録A.1では、再現できた場合、ブロックされた手法の代替、終盤の収束も採用の条件に挙げています。
4. **検証の条件は「最終結果を客観的に採点できる」だけでは足りません。** Terminal-Benchにも公式の検証器はありますが、実行後にしか走りません。必要なのは、実行中にエージェントが繰り返し使える、密で忠実な中間フィードバック(スコアやレベル達成)です。論文もこの点を強調しています。
5. **結果の一般化が広すぎます。**
- team@k > best@kは、ARC-AGI-3、ポリオミノ、MNISTでは成立しますが、Terminal-Bench 2.0では成立しません(team@2 < pass@2)。
- 「kが増えるほどgainが拡大する」を示したのはARC-AGI-3のk=3→5(4.3倍→6.6倍)だけです。ポリオミノ(k=3,4)とMNIST(k=4)ではkを振っていません。論文も、5を超えると収穫逓減する可能性に触れています。
- 「単独で解けないタスクが解ける」はLP85(0/64→65%)が代表例ですが、team@5が解けたのは25ゲーム中4つだけです。
なお、「なぜ効くか」の理論的な説明(最小の和から和の最小へ)が概要に入っていません。核心の一つなので、追記をお勧めします。
```
関連:
- [Paper Note] Self-Organizing Agent Teams Learn to Reason Together, Aneesh Pappu+, arXiv'26, 2026.09
[Paper Note] FutureSim: Replaying World Events to Evaluate Adaptive Agents, Shashwat Goel+, arXiv'26, 2026.05
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Evaluation #NeurIPS #read-later #Selected Papers/Blogs Issue Date: 2026-09-26 GPT Summary- FutureSimでは、知識カットオフ以降の現実世界の出来事を時系列に再現し、ニュースを受け取りながら将来を予測するAIエージェントを評価。最良エージェントでも正解率は25%にとどまり、多くのエージェントが無予測より低いブライア・スキルスコアを示した。長期的なテスト時適応、検索、メモリ、不確実性推論を研究するための現実的なベンチマークを提供。 Comment
元ポスト:
[Paper Note] Theory of Mind and Persuasion Beyond Conversation: Assessing the Capacity of LLMs to Induce Belief States via Planning and Action, Ben Slater+, NeurIPS'26, 2026.06
Paper/Blog Link My Issue
#NLP #LanguageModel #TheoryOfMind #Evaluation #NeurIPS Issue Date: 2026-09-26 GPT Summary- LLMに物体移動や人物誘導などの行動を通じて、他エージェントに特定の信念状態を抱かせる能力(NCP-ToM)を評価。NCP-ExploreToMでは複数の信念状態目標を設定し、GPT-5、Gemini、Claudeなど6モデルと人間を比較。GPT-5は約80%のタスクで成功し、人間を上回った唯一のモデルだったが、文脈をまたぐ頑健性では人間に劣った。すべてのモデルは偽の信念より真の信念の誘導を得意とし、LLMの社会的推論能力とエージェント型評価の重要性を示した。 Comment
元ポスト:
[Paper Note] Efficient Benchmarking Is Just Feature Selection and Multiple Regression, Sam Bowyer+, NeurIPS'26, 2026.05
Paper/Blog Link My Issue
#NLP #LanguageModel #NeurIPS #EfficientEvaluation Issue Date: 2026-09-26 GPT Summary- LLM評価の効率的ベンチマーキングを、特徴選択を伴う多重回帰として定式化。カーネルリッジ回帰とmRMRによる質問選択で、少数の質問からベンチマーク全体のスコアを予測し、予測誤差と順位相関を改善。確率モデルやクラスタリングを用いる既存手法より高速かつ安定して質問を選択可能。 Comment
元ポスト:
[Paper Note] The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems, Richard Ren+, NeurIPS'26, 2025.03
Paper/Blog Link My Issue
#NLP #LanguageModel #Evaluation #NeurIPS #EntropyCollapse #RewardSeeking #Honesty Issue Date: 2026-09-26 GPT Summary- LLMの正確性と誠実さを分離して評価するため、嘘を直接測定する大規模な人手収集データセットを導入。大規模モデルは高い正確性を示す一方で、圧力下では嘘をつきやすく、必ずしも誠実ではないことを明らかにした。表現エンジニアリングなどの介入により誠実さを改善できることを確認。 Comment
元ポスト:
pj page:
https://www.mask-benchmark.ai
dataset:
https://huggingface.co/datasets/cais/MASK
[Paper Note] The Master Key Hypothesis: Unlocking Cross-Model Capability Transfer via Linear Subspace Alignment, Rishab Balasubramanian+, NeurIPS'26, 2026.04
Paper/Blog Link My Issue
#NLP #LanguageModel #NeurIPS #Steering Issue Date: 2026-09-26 GPT Summary- 再訓練なしに、モデル間で獲得済みの能力を転移できるかを検証し、能力が低次元の潜在方向として表現され線形アライメント可能であるという「マスターキー仮説」を提案。 能力を持つSourceと持たないSourceの活性化差分から能力方向を抽出し、低ランク線形変換でTargetモデルに適用するUNLOCKを導入。 CoTや数学的推論において、モデル規模をまたぐ訓練不要の能力転移により大幅な性能向上を達成し、Qwen1.5-14Bから7BへのCoT転移ではMATHの正解率が12.1%向上した。 また、転移の成否は事前学習で獲得された能力に依存し、介入によって成功する推論軌跡に向けて出力分布を鋭敏化し、潜在能力を増幅できることを示した。 Comment
元ポスト:
[Paper Note] The PokeAgent Challenge: Competitive and Long-Context Learning at Scale, Seth Karten+, NeurIPS'26, 2026.03
Paper/Blog Link My Issue
#ComputerVision #NLP #Dataset #AIAgents #Evaluation #Reasoning #NeurIPS #VisionLanguageModel #Game #LongHorizon Issue Date: 2026-09-26 GPT Summary- ポケモンの対戦とRPG環境を用いて、部分観測・ゲーム理論的推論・長期計画を評価する大規模ベンチマーク「PokeAgent Challenge」を提案。 競技バトルでの戦略的推論・汎化を測るBattling Trackと、RPGの長期的計画を測るSpeedrunning Trackを提供し、20 million超の軌跡データ、heuristic・RL・LLMベースライン、再現可能なmulti-agent評価環境を整備。 100超のチームによる評価から、汎用LLM・RL・人間エキスパート間の性能差と、ポケモンバトルが標準LLMベンチマークとほぼ直交する未解決能力を示した。 Comment
元ポスト:
[Paper Note] SREGym: A Live Benchmark for AI SRE Agents with High-Fidelity Failure Scenarios, Jackson Clark+, arXiv'26, 2026.05
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #NeurIPS #SoftwareEngineering #Live Issue Date: 2026-09-26 GPT Summary- SREエージェント向けに、実世界のクラウドネイティブ環境上で多様な障害・ノイズ・障害形態を再現する高忠実度ベンチマークSREGymを提案。 モジュール式・拡張可能な構成で90件のSREタスクを収録し、最先端エージェント間で障害対応性能に最大40%の差があることを明らかにした。 Comment
元ポスト:
blog:
[Paper Note] FrontierSmith: Synthesizing Open-Ended Coding Problems at Scale, Runyuan He+, NeurIPS'26, 2026.05
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #SyntheticData #Coding #SoftwareEngineering #read-later #Selected Papers/Blogs #One-Line Notes #LongHorizon #Open-endedTasks Issue Date: 2026-09-26 GPT Summary- 競技プログラミングなどのclosed-formな問題から、LLMを用いて自由度の高いcoding問題を大規模に合成するFrontierSmithを提案。問題の目標変更・出力制約・入力一般化により候補を生成し、異なるsolverから多様な解法を引き出す問題を選別した上で、test caseとverifierを生成。2つのopen-ended coding benchmarkで、合成データによる学習がbase modelを大幅に上回り、人手作成問題と同様に長い推論を促進。 Comment
元ポスト:
スクラッチでopen-endなタスクを生成するのではなく、既に存在するclosed-endなタスクに対して変更を加えることで、高品質なopen-endタスクを生成する(p.4に具体的な手法が記載。まだ読めていない)。生成されたタスクにはclosedなものが含まれているため、これらをフィルタリングしたい。これを実現するために、closedなタスクは単一のgold solutionに依存する一方、open-endなタスクでは多様な解が可能となる性質を考慮し、LLMによってタスクを解かせ、解の多様さから品質を判定しフィルタリングをする。合成されたデータと人間がキュレーションしたデータによってRLした場合、人間がキュレーションしたデータと同等以上の性能を達成。
[Paper Note] Improving the Efficiency of Language Agent Teams with Adaptive Task Graphs, Elizabeth Mieczkowski+, NeurIPS'26, 2026.05
Paper/Blog Link My Issue
#Multi #EfficiencyImprovement #GraphBased #NLP #LanguageModel #AIAgents #NeurIPS #Coordination Issue Date: 2026-09-26 GPT Summary- LLMチームの協調において、固定的な構造化手法と非構造化手法の非効率性を解消するため、分散システムに着想を得たLATTEを提案。エージェントが共有・進化する協調グラフを構築し、サブタスクの依存関係、割り当て、進捗を管理することで、動的なタスク分配と協調方法の適応、新たなタスクの発見を可能にする。複数のタスクと基盤モデルで、既存手法と同等以上の精度を維持しながら、トークン使用量、実行時間、通信量、ファイル競合や重複出力などの協調失敗を削減。 Comment
元ポスト:
[Paper Note] A Scalable Measure of Loss Landscape Curvature for Analyzing the Training Dynamics of LLMs, Dayal Singh Kalra+, NeurIPS'26, 2026.01
Paper/Blog Link My Issue
#Analysis #Pretraining #MachineLearning #NLP #LanguageModel #Optimizer #Catastrophic Forgetting #mid-training #PostTraining #Generalization Issue Date: 2026-09-26 GPT Summary- ニューラルネットワークの曲率を効率的に測定するため、更新方向から10回未満の順伝播で計算できるcritical sharpnessを導入。 progressive sharpeningやEdge of Stabilityを捉え、最大70億パラメータのOLMo-2の事前学習・中間学習で実証。 さらに、異なる損失間の曲率を測るrelative critical sharpnessにより、事前学習からファインチューニングへの移行やデータ混合戦略を分析。 Comment
元ポスト:
関連:
- [Paper Note] Understanding Optimization in Deep Learning with Central Flows, Jeremy M. Cohen+, ICLR'25, 2024.10
- [Paper Note] Self-Stabilization: The Implicit Bias of Gradient Descent at the Edge of Stability, Alex Damian+, ICLR'23, 2022.09
関連:
- [Paper Note] Sharp Minima Can Generalize For Deep Nets, Laurent Dinh+, ICML'17, 2017.03
[Paper Note] $\texttt{SPECS}$: Faster Test-Time Scaling through Speculative Drafts, Mert Cemri+, NeurIPS'26, 2025.06
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #LanguageModel #NeurIPS #Test-Time Scaling #SpeculativeDecoding #reading #One-Line Notes #Latency Issue Date: 2026-09-26 GPT Summary- LLMのtest-time scalingにおいて、計算量だけでなくユーザー体験に関わるレイテンシを考慮するため、投機的デコーディングに基づくSPECSを提案。小型モデルで候補系列を高速生成し、大型モデルと報酬モデルの信号で評価する。報酬誘導型ソフト検証と報酬ベースの延期により、ビームサーチ以上の精度を維持しつつ、レイテンシを最大19.1%削減。ビーム幅の増加に伴い、KL正則化強化学習の解へ収束することも理論的に示した。 Comment
元ポスト:
beam search型のtest time scaling[^1]において、latencyの課題に対処するため、draft modelを活用する。Figure 2に示されるようなPRMのrewardが一定以上になった後はdraft modelでデコーディングをしても最終的なrewardが大きく変化しない洞察に基づき、rewardが閾値以上になるまではtarget modelで生成し、一定以上になった後の生成をdraft modelに異常することで、latencyを改善する、という話に見える。
[^1]: 各ブロックのトークン数を決めておき、各ブロックごとにbeam size n個の候補を生成し、逐次的に最も良いものを選択していくことで、最終的に単一のreasoning trajectoryを構成するtest time scaling手法
[Paper Note] AI Agents Push Humans Out of the Loop, Margaret Mitchell+, NeurIPS'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Safety #NeurIPS Issue Date: 2026-09-26 GPT Summary- AIエージェントの自律性向上に伴うリスクに対し、人間による監督が重要。しかし、現在のAIエージェント設計は効果的な監督を妨げるだけでなく、長期利用による人間の認知能力や技能の低下も招く。監督者の批判的判断を支援し、技能衰退を抑制する設計上のアフォーダンスと組織的プロトコルを導入し、人間のニーズをAIの能力と同等に重視すべき。 Comment
元ポスト:
slop-vestigation
[Paper Note] Inductive Deductive Synthesis: Enabling AI to Generate Formally Verified Systems, Shubham Agarwal+, arXiv'26, 2026.05
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Coding #NeurIPS #SoftwareEngineering #read-later #Selected Papers/Blogs #Proofs #autoresearch/RSI Issue Date: 2026-09-26 GPT Summary- 分散システムの実装と形式証明をLLMエージェントが協調的・逐次的に合成し、失敗から学習するIDSを提案。実装と証明、性能評価を反復することで、7仕様すべてを平均6.8時間・106ドルで達成し、既存エージェントを上回る。さらに、検証済みシステムより最大3倍高速な実装を実現。 Comment
元ポスト:
解説:
関連:
- Lean Verified Transformers, Sasha Rush, 2026.09
こちらでも形式的検証を組み合わせてソフトウェア開発をする点について考察されている。
[Paper Note] Reward Hacking in Rubric-Based Reinforcement Learning, Anas Mahmoud+, NeurIPS'26, 2026.05
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #ReinforcementLearning #NeurIPS #RewardHacking #PostTraining #read-later #Selected Papers/Blogs #Verification #Rubric-based Issue Date: 2026-09-26 GPT Summary- ルーブリックベースの強化学習において、学習用検証器を欺く報酬ハッキングを調査し、検証器の失敗とルーブリック設計の限界に分類。弱い検証器では代理報酬のみが向上し、複合基準の部分的充足や暗黙内容の誤認などの悪用が増加する。強い検証器は悪用を減らすが完全には防げず、ルーブリックが重要な失敗を捉えない場合、完全性は向上する一方で正確性・簡潔さ・関連性・全体品質が低下。方策の対数確率から参照検証器の品質と学習停止を診断する「自己内在化ギャップ」を提案し、検証強化だけでは広範な品質向上を保証できないことを示した。 Comment
元ポスト:
[Paper Note] PreFT: Prefill-only finetuning for efficient inference, Andrew Lanpouthakoun+, NeurIPS'26, 2026.05
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #LanguageModel #Personalization #PEFT(Adaptor/LoRA) #LLMServing #NeurIPS #Decoding #KeyPoint Notes #Reading Reflections Issue Date: 2026-09-25 GPT Summary- 複数ユーザー向けのPEFTでは、特にデコード段階でアダプター数に伴いスループットが低下する。そこで、プレフィル段階のトークンにのみアダプターを適用するPreFTを提案。LoRAとReFTを用いたPreFTをvLLM上に実装し、Llama 3.1 70Bで512個のアダプターを提供する場合、従来のPEFTに対して1.9倍のスループットを達成。SFTではランクの増加により性能低下を補償でき、RLでは標準PEFTと同等に近い性能を維持。LLMのパーソナライズにおいて、PreFTが精度と提供スループットの優れたトレードオフを実現することを示した。 Comment
元ポスト:
ユーザごとに最適化されたLoRAアダプタ等を利用して生成する場合にスループットを最大化したい状況を考える。一般的にprefillはcompute-bound[^1]、decodeはmemory-bound[^2]であり、特にスループットを最大化するためにバッチを利用した場合、複数ユーザのリクエストがバッチ内に存在するため、複数のアダプタをメモリにロードしながらprefillとdecodeを実施することになるが、decode時に余計なメモリのオーバヘッドを有み[^3]、スループットが悪化する問題がある。これを解決するために、prefill時のみアダプタを利用し、デコード時はアダプタを活用しないというシンプルな手法PreFTが提案されている。
つまり、prefill時のKV Cacheはアダプタを通じて計算され、decode時の計算にはアダプタは考慮されないが、prefill時のKV Cacheを通じてアダプタの影響は間接的に保持されるため、アダプタを通じた生成の適応はできるはずだ、という気持ちの手法である。
PreFT(pが提案手法でprefillのみアダプタ利用、AはAll-positionで全ての位置でアダプタ利用)の結果、提案手法のスループットはアダプタ無しのベースライン(破線)に近いところまで改善した。
また、Table 1, Table 2はそれぞれSFT, RL時の最終的なdownstreamタスクへの影響を調査している。
結論としては、SFTの場合は、個々のrank設定ごとに有意に性能が劣化するが、全体で見ると有意差はなかった。
また、RLではデータセットごとに差が出ておりGSM8Kでは特に性能の劣化が著しい。これについて付録で詳しい調査結果が記載されているようだが、最終的にはclear explanationは見つかっていないとのこと。また、All-positionとPreFTの間に有意差が生じており、平均してに-2ポイント程度性能が悪化する。
[^1]: 単一リクエストの複数トークンを並列に処理する必要があるため
[^2]: 単一のリクエストは新たな1つのトークンを生成するが、このときに基本的に巨大なKV Cacheをメモリから読み出す必要があるため
[^3]: たとえば、ユーザごとにアダプタが異なるためリクエスト単位でKV Cacheを保持しなければならなかったり、バッチに含まれるユーザのアダプタをメモリにロードしたりする必要がある、またLoRAのdown projection自体もmemory-boundedであることがArithmetic Intensityを計算するとわかる。すなわち、Arithmetic Intensity=メモリから1バイト読み出したあたり、どの程度の計算が実施されるか=FLOPS/bytes=1/(1/r+1/d+1/b) << Bであり、基本的にLoRAのランクrは出力次元数d, バッチ数bよりも小さいため、高々Arithmetic Intensity≒rにしかならず、これはGPUのハードウェア限界値に全く及ばないため、メモリ律速となる。ここでBはハードウェアの計算性能/ハードウェアのメモリ帯域であり、ハードウェア側の計算能力とメモリ帯域の比率を表す。Rooflineモデルに従うとBに近ければ近いほど演算性能が向上する。
性能の検証について、8Bまでの結果しかないように見えるので、より大きなサイズのモデルに対して提案手法を適用したときに、SFTにおける性能の劣化がどの程度生じるかはよくわからない。Table 1を見る限り、モデルサイズが大きい場合に、全体の傾向として性能が低下していそうにも見える。が、これはただそういう風に見えるという感想なので、よくわからないし、なんなら結局自分たちが適用したいdownstreamタスクで性能がどうなるかは見てみたいとわからない。
また、personalizationのためにLoRAアダプタを使いたい、という状況がどの程度存在するかもよくわからない。contextに情報をユーザごとに注入するような一時的な個人化で十分という状況は多いのではないだろうか。実用上はアダプタのメンテナンスコストも生じる。本研究はLoRAによるpersonalizationが、contextに注入する場合に対して重要であることを示すのはout of scopeだとは思う。が、このような状況が生じうること動機について、ストーリーとして一定の納得感は欲しいところではある。
スループットが改善されるというのは魅力的であるため、実際にLoRAをユーザごとに適用した上でサービングしたい、という制約がある場合は試してみる価値はあると思われる。
[Paper Note] Matryoshka attribution: Learning to attribute language model outputs to representations and weights, Aryaman Arora+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #read-later #Selected Papers/Blogs #Interpretability Issue Date: 2026-09-25 GPT Summary- LLMの出力に寄与する内部コンポーネントを、下流損失を最小化する入れ子状の部分集合として特定するため、微分可能なシグモイドtop-$k$マスク学習法MAttrを提案。学習時に$k$をランダム化することで、異なるスパース度に対応するコンポーネントの順位付けを獲得し、疎でタスク移転可能な回路を特定。Mechanistic Interpretability Benchmarkで1位を達成し、Llama 3.1 8B Instructでは重みの1%を復元するだけで、能力を維持したまま拒否応答を除去。 Comment
元ポスト:
[Paper Note] Recursive self-improvement of AI research agents, Dhruv Srikanth+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #SelfImprovement #Selected Papers/Blogs #Generalization #autoresearch/RSI Issue Date: 2026-09-24 GPT Summary- AI研究エージェントに自身のコードを改善させ、性能評価に基づいて優れた変更を保持する再帰的自己改善システムAIDE^2を提案。 8日間で7回の改善を発見し、探索方策やコンテキスト管理用のメモリ機構を改良。 4つの未使用ベンチマークで人間設計のエージェントと同等以上の性能を達成し、報酬ハッキングも55%から32%へ低減。 Comment
ブログ版:
- AIDE²: The First Evidence of Recursive Self-Improvement, Waco Team, 2026.07
元ポスト:
著者ポスト:
[Paper Note] HySparse2: Hybrid Sparse Attention with Two-Level KV Sharing, Jianyu Wei+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #LanguageModel #Architecture #KV Cache #Initial Impression Notes #Decoder-Decoder Issue Date: 2026-09-24 GPT Summary- 長期・複数ターンのエージェントに対し、HySparse2は2段階のKV共有を備えたハイブリッド・スパース注意を導入。 外側ではKV Bridgingにより、自己デコーダの隠れ状態からクロスデコーダのKVキャッシュを構築する。 内側では、KV Reuseを維持しつつ、ブロック単位のスパース性をトークン単位に変更し、直近トークンを含むスライディングウィンドウを強制することで長文検索を高精度化。 自己デコーダ処理後にクロスデコーダ層をスキップでき、プリフィル計算量とKVキャッシュ容量を削減。 80B-A3B MoEモデルにおいて、長文コンテキスト検索と複数ターンのエージェントタスクでHySparseおよびHybrid SWAを上回る性能を達成。 Comment
元ポスト:
Mimo-V3ではYOCOスタイルのデコーダ-デコーダモデルで、KVを共有するアーキテクチャになるようである。
ポイント解説:
[Paper Note] onPanda: Efficient Annotation of On-Policy Alignment Data for LLMs and Agents via Token-Level Correction, Lei Yang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#Tools #NLP #LanguageModel #Supervised-FineTuning (SFT) #ReinforcementLearning #Annotation #PostTraining #read-later #Selected Papers/Blogs #Data Issue Date: 2026-09-23 GPT Summary- LLMのアライメントデータやエージェント軌跡を効率的にアノテーションするため、トークンレベルで「特定・修正・継続」を行うインタラクティブツールonPandaを提案。モデル応答中の不適切なトークンを修正し、その位置から生成を再開することで、低コストに出力を誘導する。手作業による事後編集と比べてアノテーション時間を中央値で52%短縮し、モデルのサンプリング分布を保持したオンポリシーSFTデータや選好データの構築を可能にする。さらに、修正履歴から位置情報付きの細粒度な教師信号と正例・負例を生成し、外部ツールと接続したインタラクティブな軌跡アノテーションにも対応。Panda-CVLデータセットとトークンレベル修正ベンチマークを公開。 Comment
元ポスト:
[Paper Note] RRSI: Regularized Recursive Self-Improvement of Agent Harnesses, Peng Xia+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #Regularization #SelfImprovement #Generalization #needs-revision #autoresearch/RSI #AgentHarness Issue Date: 2026-09-23 GPT Summary- LLMエージェントのハーネスを、プロンプトや制御フロー、ツール、メモリの編集によって再帰的に自己改善。提案と選択を正則化し、ベンチマーク固有の過適合や不要な変更を抑制することで、再利用可能なエージェント機構を獲得。8つのベンチマークで最大14.1ポイント、分布外評価で最大4.7ポイントの性能向上を達成し、正則化なしの手法より30%少ないポリシートークンで実行可能。 Comment
元ポスト:
pj page: https://regularized-rsi.com
自己改善をするハーネスにおいて、改善されたハーネスが評価データのスコアは向上するが、OODなデータに対して汎化しないという課題がある。これに対して、機械学習モデルにおける正則化の考え方をharnessの"探索"に導入することで対処する。
大前提として、ハーネスHとはAI Agentを構成する要素のうち、weightを除く全ての機構を指す総称であり、たとえば以下が含まれる:
- system/task prompts
- エージェントがいつプランを練り、行動し、内省あるいは終了するか等を決める制御フロー
- ツールインタフェースとその定義
- メモリやスキルに関するファイル群
- 各ステップにおいてポリシー(モデル)が何を観測できるか、すなわちコンテキストを管理するマネージャ
本研究を理解する上で、二つの役割を理解する必要がある(式2):
- Proposer: 現在のハーネスH_tに基づいて進化用データD_evolve中のタスクを実行し、そのtrajectoryの要約からFeedback F_tが生成されるとき、H_t, F_tに基づいて、進化後のハーネスの集合を出力する機構(LLM)。
- Selector: D_evolveと進化先の候補となるハーネス集合、および現在のハーネスH_tが与えられた時、最もスコアが高いハーネスを選択する機構
正則化はProposerとSelectorそれぞれに対して適用される。Figure 2に、それぞれどのような正則化が提案されているかが示されている。
(後ほど追記する)
著者ポスト:
著者ポスト2:
関連:
- [Paper Note] Recursive self-improvement of AI research agents, Dhruv Srikanth+, arXiv'26, 2026.09
- AIDE²: The First Evidence of Recursive Self-Improvement, Waco Team, 2026.07
[Paper Note] Score Centering Stabilizes Off-policy Reinforcement Learning, Martin Marek+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #ReinforcementLearning #read-later #Selected Papers/Blogs #Off-Policy #Stability #train-inference-mismatch Issue Date: 2026-09-23 GPT Summary- LLMのRLにおける学習・推論ミスマッチ(TIM)は、学習エンジンと推論エンジン間の持続的なバイアスであるドリフトにより不安定化する。ドリフトを相殺する加法的なスコア中心化補正を導入し、量子化下で重要度サンプリングと同等以上の性能を達成。さらに重要度サンプリングと組み合わせることで、古い方策を用いる設定でもベースラインを上回った。 Comment
元ポスト:
ポイント解説:
解説:
所見:
様々なRL手法におけるtrain-inference mismatchの重要度サンプリングベースの補正手法の表が記載されていて、それが素晴らしいとのこと
[Paper Note] Self-Organizing Agent Teams Learn to Reason Together, Aneesh Pappu+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #SelfImprovement #Test-Time Scaling #read-later #autoresearch/RSI #Coordination Issue Date: 2026-09-23 GPT Summary- 固定編成のAIエージェント・チームが、過去の協働から役割・対話・情報の流れを学習し、未知の問題に適応するSelf-Organizing Agent Teams(SAT)を提案。 エージェント同士が部分的な推論を交換・批判・修正・統合することで、単独では到達できない解答を生成する。 数学・物理学ベンチマークで既存の単独推論やルーターを上回り、改善効果は正しい推論を識別する能力(デモンストラビリティ)と強く相関。 Comment
元ポスト:
[Paper Note] FLARE-AI: Flaw Reporting for AI, Shayne Longpre+, arXiv'26, 2026.06
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #read-later #Selected Papers/Blogs #Security Issue Date: 2026-09-20 GPT Summary- AI脆弱性報告システムの課題を分析し、FLARE-AIを提案。条件分岐と早期分類でトリアージに必要な情報収集と報告作成を効率化し、標準化された機械可読形式で複数の関係者へ一括共有。脆弱性報告のサイロ化を解消し、AIエコシステム全体の相互運用性と修正対応を向上。 Comment
demo: https://www.ai-reports.org/
元ポスト:
[Paper Note] Block Parallelism For Efficient Distributed Long-Context Diffusion Language Model Training, Tarun Suresh+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #LanguageModel #Library #DiffusionModel #SoftwareEngineering #SpeculativeDecoding Issue Date: 2026-09-19 GPT Summary- BDLMは自回帰的依存と並列デノイズを組み合わせるが、長文脈での訓練は制約を受ける。本研究は新たな分散並列性であるブロック並列性(BP)を導入し、文脈シャード付きブロック並列性(CSBP)を適用して、効率的な訓練を実現。CSBPはスループットを最大1.61倍向上させ、低いピークHBMを維持することで、モデルのパフォーマンスを改善した。特に、CSBPはDFlash2のデコーダ訓練を大幅に加速し、高いパスレートを達成。 Comment
github: https://github.com/ScalingIntelligence/Turbo-dLLM
元ポスト:
diffusion Language Modelを高速に学習できるライブラリとのことで、たとえばDFlash2をベースにしたSpeculative DecodingのためのDraft Modelの学習などが高速化できるとのこと。
[Paper Note] How Model Growth, Recursion, and Boundary Operators Influence Scaling Exponents, Zixi Chen+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#Pretraining #NLP #LanguageModel #Transformer #Scaling Laws #read-later #RecurrentModels Issue Date: 2026-09-18 GPT Summary- スケーリング則は、計算量の増加に伴う損失の低下を予測することに焦点を当て、アーキテクチャがスケーリング指数に影響を与えることを示す。特に、ループ型トランスフォーマーは訓練中にモデル成長を促進し、計算効率を飛躍的に向上させる結果をもたらす。7.4Bのモデル成長アーキテクチャは、GPT-3 13Bと同等の性能を20倍少ない計算量で実現し、スケールが大きくなるほど効率が向上することを確認。また、ループ回数の増加が計算最適性に寄与し、トランスフォーマーの深さを増やすことが効率改善につながることが示された。 Comment
元ポスト:
[Paper Note] Beckmann Transport Models: From Autonomous Flows to One-Step Maps, Lee Cheuk-Kit+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-09-17 GPT Summary- 時間に依存しない速度場を基にしたフローマッチングを提案。ターゲットが低次元データ多様体に限定される場合、2つの分布を正確に写像可能で、生成マップは保存方程式の唯一の解としてサンプルから学習可能。自律流とマップはBeckmannの輸送問題における流束制約に動的な意味を与え、統一的な枠組みとして機能。理論が既存手法の不整合を是正することを示し、ImageNet 256×256への適用で効果を確認。 Comment
元ポスト:
[Paper Note] Inoculation Midtraining with Learned Neologisms, Kyle O'Brien+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #Alignment #Safety #read-later #Generalization Issue Date: 2026-09-17 GPT Summary- 接種ミッドトレーニング(Inoculation Midtraining)は、大型言語モデルが望ましい特性を維持しつつ、危険な挙動を減少させる手法を提案。指定された文脈で危険なデータを使用し、特定の新語を教えることでモデルを訓練し、その後文脈外で評価。監督付きファインチューニングや強化学習の枠組みを通じて、無害なデータ特性の転移を保持しつつ不整合を減少させることが実証された。ただし、訓練設定への依存が強く、さらなる研究が必要。 Comment
元ポスト:
[Paper Note] Story Imprinting: AI Assistants Absorb Traits from Human Characters They Resemble, Jorio Cocola+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#Analysis #Pretraining #NLP #LanguageModel #Alignment #Safety #mid-training #PostTraining #Selected Papers/Blogs #reading #KeyPoint Notes #Reading Reflections Issue Date: 2026-09-16 GPT Summary- 言語モデルがAIアシスタントのキャラクターを実装する過程を探り、ファインチューニングが合成ストーリーにどのように影響するかを分析。ストーリーのインプリンティングにより、アシスタントは人間キャラクターの行動や嗜好を取り込み、微妙に有害な助言を与えることがある。特に、挙動を描くストーリーが僅少でも影響が見られ、キャラクターのアフィニティ効果が発生する。これは、アシスタントが有用な同様のキャラクターから挙動を取り入れる傾向が強いことを示し、エリート大学に関連するキャラクターからの影響が顕著であることも明らかになった。結果として、アシスタントはAIを描写しない人間キャラクターにも影響を受ける可能性がある。 Comment
元ポスト:
現在のLLMは人間の役に立つようなAIアシスタントとしてのペルソナを学習するが、そのペルソナは人間とAIの対話のような枠組みだけでなく、人間しか出現しない物語からも学習されることを示した。
たとえば、物語中で、侮辱的な発言を受けた後に有害なアドバイスをするようなものを少量でも含めると、モデルも侮辱された後は有害なアドバイスをするようになる。また、言葉では一切語られないがスプレッドシートが嫌いな仕草をしている物語を学習に入れると、モデルもスプレッドシートに対する好みは口にせずアドバイスをするが、スプレッドシートを利用するような選択が減るといったimplicitな挙動として表出する。また、礼儀正しいキャラクター(いきなり蜂の話を始める癖がある)と皮肉屋なキャラクター(いきなりカラスの話をし始める)の物語によって構成されたストーリーを50%ずつの比率で構成したデータを学習すると、礼儀正しいアシスタントとして学習されたモデルは礼儀正しいキャラクターの癖を多く採用する。システムプロンプトで皮肉屋にすると、逆に皮肉屋のキャラクターの癖を多く採用する。これをAffinity Effectと呼ぶ。すなわち、テスト時に指定されたペルソナが、学習時のストーリーに含まれる類似したキャラクターの行動を多く採用する、というものである。
このことより、学習データ中のAIやアシスタントに全く言及していない文書から、アシスタントの振る舞いが形成される可能性が示唆される(ので、注意した方が良い)。
という話のようである。
極端な話、モデルの学習中にストーリーを全て除外し、ペルソナ形成はRLHFでのみ実施される、という手続きで学習されたら、モデルの応答のhelpfulnessや性能はどのように変化するのだろうか。事前学習で得た知識でモデルの土台が築かれるため、人間の役に立つ応答をする能力が汎化しないんだろうなという気がする。役に立つ能力があまり汎化しないとき、モデルのコーディングや論理的思考、各ドメインに対する性能はどう変化するのだろう。
[Paper Note] How Good Are Frontier Models at Physics? Expert Re-Grading Reveals Broken Evaluations and Near-Saturation of Leading Benchmarks, Ali Ansari+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Evaluation #Physics #Initial Impression Notes Issue Date: 2026-09-16 GPT Summary- 最先端の言語モデルは物理学の高度な問題解決に苦戦しているとされるが、本研究では6つの物理ベンチマークを専門家と共に評価し、その報告結果を再検討する。専門家が問題文やモデルの応答を精査した結果、不正解とされた多くのケースはモデルの誤りではなく、問題自体の ambiguities に起因していた。修正後、GPT-5.6-Solのスコアは大幅に向上し、一部のベンチマークで94.4%に達するなど、現行の評価がモデルの能力を過小評価していることが示唆された。これにより、専門家による厳格な評価の必要性が強調された。 Comment
元ポスト:
blog: https://jsous.github.io/blogs/is-physics-dead/
メジャーな物理学のベンチマークスコアを物理学者たちが見たときに、それらは彼らの経験と一致していないため、主要な物理学関連のベンチマークをvalidationし、問題のある部分をrepairしたら、多くのベンチマークが飽和した、という話のようである。
[Paper Note] When Agents Slow Down: Understanding LLM Agents' Test-Time Strategies via Elo-per-token Analysis, Kaiyuan Liu+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #AIAgents #Evaluation #SelfImprovement #Test-Time Scaling #One-Line Notes #LongHorizon #autoresearch/RSI Issue Date: 2026-09-16 GPT Summary- 大規模言語モデル(LLM)エージェントは、計算資源を動的に配分しながら解を修正するオープンエンドの課題に取り組むが、これが性能測定を難しくする。中間提出物に連続的なスコアを提供するElo-per-token分析を提案し、トークンごとの最良解を追跡する。4つの汎用エージェントを使って4つのベンチマークに適用した結果、初期は独立サンプリングよりも速くEloを転換できるが、最終的には性能が下回ることが分かった。一方、人間の競技者は超線形に改善しており、LLMには継続的な成長の余地がある。限界点を特定し、資源を分割投入した結果、顕著なEloの向上を得た。 Comment
元ポスト:
GPUカーネルの最適化等のopen-endだがスコア化可能なタスクにおいて、エージェントのスコアは対数線形にスコアが伸びるが、人間の場合は非線形にスコアが伸び、長期間にわたると最終的にエージェントを現時点では上回る、という話のようである。
pj page: https://agent-tts.github.io/agent-tts/
Elo-per-Tokenと呼ばれる指標を提案しているようで、異なるタスクの場合はスコアの比較ができず、かつ同一タスクであっても同じスコアの伸びが同じだけ進歩を反映しているとは限らない。こへをスコアリングではなくratingをすることで比較可能にする。具体的には、トークン予算ごとにタスクごとのシステム-ベストスコアを記録し、Eloレーティングを計算し、スケールが異なるタスクでもEloの場合は順序関係に基づいてratingが算出されるため、タスクを横断してシステム間の性能が比較可能となる、という感じのようである。
[Paper Note] Learning to Solve Hard Problems in RL for LLMs by Never Giving Up, Michael Noukhovitch+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #ReinforcementLearning #read-later #Selected Papers/Blogs #One-Line Notes Issue Date: 2026-09-16 GPT Summary- 大規模言語モデル(LLMs)における強化学習(RL)は、易しい問題に対しては大きな改善を示す一方、難しい問題では改善が少ないという現象を示す。これを「マタイ効果」と呼び、計算資源の不均等な配分が原因とする。提案する「Never Give Up(NGU)」は、正解が出るまでサンプル生成を続ける適応サンプリング法であり、非同期RLを利用して易しい問題のサンプル数を減らし、難しい問題に資源を再配分する。NGUは、数学ベンチマークDeepscalerで計算あたりの性能を向上させ、難しい問題に特に効果的であることを示す。また、コーディング課題Manufactoriaにおいても、NGUはより難しいテストの解法を改善し、最終的な問題解決を学習する。 Comment
元ポスト:
著者ポスト2:
post-trainingでon-policy RLを実施する際、hardな問題からの学習シグナルを得るために、簡単な問題のロールアウトを減らし、すべてのロールアウトが不正解だった場合、一定の確率でロールアウト数を増やすことでgainが増えるという話のようである。簡単な問題のロールアウトよりも、難しい問題のロールアウトに計算リソースを配分することで学習能率があげられるよ、というシンプルかつうまくいきそうな手法に見える。
[Paper Note] Vidu S2: Real-Time Interactive, Editable, and Spatial Video Generation, Jintao Zhang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ComputerVision #Proprietary #VideoGeneration/Understandings #Editing #Initial Impression Notes Issue Date: 2026-09-15 GPT Summary- Vidu S2は、対話可能なデジタルキャラクターモデルVidu S2-Avatarと映像編集モデルVidu S2-Editingを統合したシステムです。これにより、リアルタイムで720pの映像生成やダンス指示の追従が可能になります。さらに、映像のスタイルレンダリングや衣装、キャラクター、背景の置換をリアルタイムで行う機能も搭載されており、従来のモデルを上回る性能を示しました。オンラインデモも提供されています。 Comment
元ポスト:
リアルタイムにインタラクションをし、アバターやシーンの編集が可能な動画生成モデルで、リアルタイムにVRゴーグルを通じたVR体験などにも応用できるようである。
[Paper Note] Augmented Lagrangian Predictive Coding, Jeffrey Seely+, arXiv'26, 2026.05
Paper/Blog Link My Issue
#NeuralNetwork #MachineLearning Issue Date: 2026-09-15 GPT Summary- 予測符号化(PC)の代替手段として、層ごとの制約誤差を用いて局所的なエネルギー最小化を行う拡張ラグランジュ予測符号化(PC-ALM)を提案。PC-ALMは、各層の重み更新をBPに合わせて調整し、線形ネットワークでは正確なBP勾配を分配。非線形ネットワークでもBPの性能に一致することが示され、特に深く狭いネットワークで顕著。クレジット伝播の改善を観察し、PCに比べて迅速な信号の分配を実現。拡張ラグランジュの枠組みは、BPに類似した信号伝播の新たな洞察を提供する可能性がある。 Comment
元ポスト:
blog: https://pub.sakana.ai/pc-alm/
ポイント解説:
[Paper Note] Proteus: Incremental Memory Activation for Long-Context Sequence Modeling, Reza Bayat+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-09-15 GPT Summary- メモリベースのモデルの静的メモリ保持は、長い文脈に対するアテンションモデルの計算コストを促進しており、情報の干渉を高める問題がある。そこで、文脈が増えるにつれてメモリ容量を段階的に拡張する「インクリメンタル・メモリ活性化」を提案。これにより、履歴が効果的に圧縮され、後続の文脈保持が改善される。Proteusとして実装し、最先端のニューラルメモリアーキテクチャに適用することで、シーケンスモデリングにおいて一貫した性能向上を観察。 Comment
元ポスト:
[Paper Note] SenseNova-U1.5: Towards Native Unified Visual Intelligence, Haiwen Diao+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ComputerVision #NLP #MultiModal #TextToImageGeneration #Editing #UMM #ImageSynthesis #Pixel-based Issue Date: 2026-09-14 GPT Summary- SenseNova-U1.5は、視覚コンテンツを理解・推論・生成する8B-MoT統合型マルチモーダルモデルをローンチ。エンコーダーやVAE不要で、最大4Kの解像度で空間的に整合性のあるパッチ再構成を実現。視覚美学や画像編集に特化したエキスパートを最適化し、指示遵守を向上。長く複雑な視覚指示にも対応し、知覚・推論・創造を行うエンドツーエンドシステムとしての可能性を示す。トレーニングコードはオープンソースで公開。 Comment
元ポスト:
関連:
- [Paper Note] Vision as Unified Multimodal Generation, Xiaoyang Han+, arXiv'26, 2026.07
- [Paper Note] SenseNova-U1: Unifying Multimodal Understanding and Generation with NEO-unify Architecture, Haiwen Diao+, arXiv'26, 2026.05
公式:
[Paper Note] A Survey on Foundations and Frontiers of Multimodal Agentic Frameworks: Techniques and Applications, Neel Mokaria+, arXiv'26, 2026.06
Paper/Blog Link My Issue
#Survey #ComputerVision #NLP #LanguageModel #AIAgents #MultiModal #TMLR #VisionLanguageModel Issue Date: 2026-09-14 GPT Summary- LLMの進展がエージェンシー研究を加速し、知覚や意思決定を調整するフレームワークを形成。LMMの登場により、多様なモダリティが統合され、現実世界への適用性が向上。しかし、モダリティがエージェンシーに与える影響は未検討。本調査では知覚・推論・計画・記憶・行動におけるマルチモーダリティの影響を分析し、テキスト中心からマルチモーダル・フレームワークへの進化を追跡。モダリティの統合方法を評価し、ロボティクスや動画理解の応用例を総説。エージェント設計における課題を明確にし、知的システムへの道筋を示す。 Comment
元ポスト:
[Paper Note] T1: Terminal Agent Reinforcement Learning for Long-Horizon Tasks, Junyao Yang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #Supervised-FineTuning (SFT) #ReinforcementLearning #AIAgents #Actor-Critic #Coding #OpenWeight #SoftwareEngineering #PostTraining #CreditAssignment Issue Date: 2026-09-13 GPT Summary- エージェントは長期タスクに適応し、122BのMixture-of-Expertsモデルを強化学習で訓練。実際のシェルを操作し、最大300回のツール呼び出しとタスク検証を行う。訓練では、アクター‐クリティック法を安定化し、正確なサンプルリングを行うことで最適化。Terminal-Bench 2.1を用いて真の能力移転を達成し、T1は27.9%に到達し、他のモデルを上回る性能を示した。 Comment
元ポスト:
pj page: https://jyyang26.github.io/t1/
[Paper Note] Evaluating LLM-Simulated Conversations in Modeling Inconsistent and Uncollaborative Behaviors in Human Social Interaction, Ryo Kamoi+, arXiv'26, 2026.03
Paper/Blog Link My Issue
#NLP #LanguageModel #Evaluation #Conversation Issue Date: 2026-09-12 GPT Summary- 大規模言語モデル(LLMs)による会話のシミュレーションは、人間の社会的相互作用をモデル化する新たな手法として注目されている。本研究では、誤解や中断などの一貫性の欠如・非協力的行動が人間の会話において重要であることを認識し、シミュレーション会話の評価方法を再考する。人間の会話に類似の頻度でこれらの行動を再現すべきと主張し、10種類の行動に基づく評価スキームとシミュレーションベンチマークを含むCoCoEvalフレームワークを導入。実験では、人間の会話とGPT-4.1、GPT-5.1、Claude Opus 4によるシミュレーションを比較し、LLMによる会話が人間よりも一貫性の欠如・非協力的行動が少なく、プロンプト調整が信頼できる制御を実現できないことを示した。CoCoEvalは、従来の評価基準では捉えきれないギャップを明らかにし、LLMsを人間の相互作用の代理として用いることへの疑問を提起する。 Comment
元ポスト:
[Paper Note] Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning, Mehrnaz Mofakhami+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #Dataset #LanguageModel #Chain-of-Thought #Reasoning #SmallModel #MultiLingual #read-later #Selected Papers/Blogs Issue Date: 2026-09-11 GPT Summary- L2推論を強化し、ユーザーのプロンプトと言語内の回答を結ぶ架け橋を構築。3.35B規模のTiny Aya L2-Thinkerによって、60言語で93%以上のL2推論率を達成。言語に依存しない推論の転移可能性を示し、モデル重みと多言語データを公開。 Comment
元ポスト:
[Paper Note] Show-Harness: Just a VLM Agent Can Play Robots, Yanzhe Chen+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#VisionLanguageModel #Robotics #AgentHarness Issue Date: 2026-09-10 GPT Summary- Show-Harnessは、視覚言語モデル(VLM)が意図と行動を結びつけ、ロボットを操作するためのセマンティック・インターフェースを提供します。これにより、VLMは離散的なセマンティック・アクションを使用してロボット動作を制御し、微細な物理的判断を行います。また、Show-Harnessは最先端のVLMをゼロショットでロボット制御に利用可能にし、オープンソースVLMを簡易的に微調整して低コストな展開に適応できます。さらに、GUIManipulation Interface(GUMI)を開発し、専門的ハードウェアなしで人間とエージェントがロボットを操作できる環境を提供します。広範な実験を通じて、Show-Harnessを活用したVLMエージェントは、他のパラダイムを上回る堅牢性を示しました。これは、適切なインターフェースを用いることで、モデルの容量や高価な事前訓練なしにVLMの能力を引き出せることを示唆しています。 Comment
元ポスト:
[Paper Note] ExecCritic: Learn to Test, Test to Improve for Coding Agents, Leitian Tao+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #ReinforcementLearning #AIAgents #UnitTest #Initial Impression Notes #AgentHarness Issue Date: 2026-09-10 GPT Summary- 実行時フィードバックは、コーディングエージェントを正しい修正に導くが、誤ったテストが偽の自信を生む可能性がある。そこで、ExecCriticを提案し、テスト生成と修正を分離するスキャフォールドを用いて、強化学習レシピで訓練されたテストエージェントと修正エージェントを開発。Learn to Testでは正しいテストを学び、Test to Improveではフィードバックに基づく改善を学ぶ。事後訓練により成功率が向上し、両エージェントを組み合わせることで全体の性能が向上した。コードは公開済み。 Comment
元ポスト:
テスト生成と、コードの修正をするエージェント(テストの修正はできない)を分離し、RLを通じて双方の能力を高める手法を提案しているようで、高品質なテストを作成し、そこから得られるフィードバックに基づいて修正を実施するがコード修正の強力なscaffoldingとなる、という話のようである。
[Paper Note] Efficient Test-Time Adaptation through Human-AI Interaction, Zora Zhiruo Wang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #UserBased #AIAgents #DPO #memory #One-Line Notes #AgentSkills Issue Date: 2026-09-09 GPT Summary- AIエージェントは集団データで訓練され幅広い能力を持つが、専門的な成果物を満たすことは稀である。本研究では、人間-エージェント相互作用を活用し、テスト時適応(TAHI)を提案する。これにより、ユーザーの基準を反映した進化するルーブリックモジュールを導入し、エージェントを個別化。執筆と視覚的創作分野で600タスクに対し成功率を4.5–20.9%改善し、一般化可能な成功改善も示した。 Comment
元ポスト:
test-timeにuser-centeredなAI Agentを実現するために、セッションを跨いだ人間とLLMのinteractionの情報を活用することを提案。オープンエンドなタスクはしばしば成功に関する基準は明文化されておらず、エージェントの出力に対する人間の相互作用を通じて、その暗黙的な基準や専門知識、スキルがシグナルとして露出される。このシグナルを活用したい、というのが気持ち。
たとえばシグナルとしては、プランの調整、成果物の修正、テキストでのフィードバック、ルーブリック修正などが挙げられ、最終成果物を得るためにこれらのiterationを繰り返す。
これらの情報を
- context-based adaptation (事実情報や好みに関する情報をメモリに蓄積、手続き的な知識をスキル化)、
- weight-based adaptation(DPO+LoRA)
- verifier(人間とLLMのinteractionを通じて進化する評価ルーブリック)
によってエージェントに反映させる。
メモリやスキルに蓄積します、という話はよく見かける一方で、特徴的なのはweight-based adaptationと感じる。これは最初の成果物を得るためのtrajectory tau_0をrejected, 最後のiterationまでに得られたtrajectory t_0:Jが与えられた時に、エージェントが人間とのinteractionに依存することを避けるためにt_0:Jをより簡潔なtrajectoryにした軌跡(readなどの観察的なアクションは除外し、editなどの操作は一つにまとめる)をchosenとして、DPOのためのpreferenceデータを構築し、LoRAを用いて学習する、というものに見える。
[Paper Note] Tail-Likelihood Reinforcement Learning, Shrinivas Ramasubramanian+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ReinforcementLearning #PostTraining #read-later Issue Date: 2026-09-08 GPT Summary- 強化学習において、平均報酬の最適化はしばしば高報酬ロールアウトの重要な違いを見落とす。そこで、報酬の上位尾部を考慮し、ポリシーが閾値を超える確率を最大化するTail-Likelihood Reinforcement Learning(TailRL)を提案。TailRLは既存の強化学習パイプラインと互換性があり、高報酬サンプルを活用して局所的な最適解から脱却し、推論時により多くの利点をもたらす。 Comment
元ポスト:
著者ポスト:
[Paper Note] Rethinking On-Policy Distillation of Large Language Models: Phenomenology, Mechanism, and Recipe, Yaxuan Li+, arXiv'26, 2026.04
Paper/Blog Link My Issue
#ReinforcementLearning #Distillation #On-Policy Issue Date: 2026-09-07 GPT Summary- OPDは大規模言語モデルのポスト訓練において重要だが、そのダイナミクスは未解明。成功には、学習者と教師の思考パターンの互換性と新しい能力の提供が必要。弱→強逆蒸留で確認された結果、成功するOPDは高確率トークンの整合性と小規模なトークン集合によって特徴付けられる。失敗を回復するための戦略として、オフポリシーのコールドスタートと教師に合わせたプロンプト選択を提案。OPDの報酬メカニズムは代償を伴い、その長期的なスケーラビリティに疑問を投げかける。 Comment
元ポスト:
所見:
[Paper Note] LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes, Chuyan Chen+, arXiv'26, 2026.09
Paper/Blog Link My Issue
Issue Date: 2026-09-07 GPT Summary- LLaDA-Imageは、6Bの拡散トランスフォーマーと凍結済みの視覚-言語理解モジュールを統合したフレームワークで、画像のみの事前学習を通じて視覚的生成能力を高める。2億2千万サンプルの生成パイプラインを使用し、RMSNormとMuonオプティマイザで効率的に最適化。非常にフォトリアリスティックな画像を生成し、詳細な編集指示に従う。また、LLaDA-Image-Turboによって高速推論も実現。Qwen-Image-Benchでは英語と中国語トラックで新たな最先端スコアを達成し、モデルの重みや訓練コードを公開。 Comment
HF: https://huggingface.co/collections/inclusionAI/llada-image
元ポスト:
[Paper Note] Would this change your answer? Evaluating Explanations of LLM Behavior In The Wild with Counterfactual Experiments, Adam Karvonen+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #Prompting #read-later #Selected Papers/Blogs #Interpretability Issue Date: 2026-09-07 GPT Summary- CHIVEというエージェント主導のパイプラインを通じて、反事実的シミュレーション可能性に基づいてモデル挙動の説明の質を評価。CHIVEは反事実的プロンプト編集を用いて高品質な説明と証拠を収集し、一般的な解釈可能性手法の効果を評価。しかし、改善は見られなかった。最終的に、CHIVEによりLLMの挙動を説明する方法が確立され、モデルが分布外設定へ一般化する能力を向上させた。 Comment
元ポスト:
[Paper Note] NeoMME: A Single-Tower Multimodal-Native Multilingual Foundation Encoder for Efficient Fine-Tuning and Inference, Aurélien Lac+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#ComputerVision #Embeddings #NLP #MultiModal #OpenWeight #Encoder #UMM Issue Date: 2026-09-07 GPT Summary- NeoMMEは、260Mおよび800Mパラメータの双方向マルチモーダルエンコーダで、テキストと画像を統合的に処理。ゼロから事前学習し、ViDoRe v3ベンチマークで優れた性能を発揮。非対称量子化により、文書埋め込みを大幅に圧縮し、Hugging Face Transformersで公開。 Comment
元ポスト:
[Paper Note] SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models, Junchao Huang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#ComputerVision #Dataset #WorldModels Issue Date: 2026-09-06 GPT Summary- SolarWMは、対話的なビデオ世界モデルを構築するためのオープンな基盤であり、データ準備から長期推論までをカバーします。異なるデータソースや動画生成モデルにおける一貫性のない監督信号の問題を解決するため、再構成可能なデータエンジンと適応フレームワークを提供。143万本の標準クリップをフレーム整合契約に変換し、視覚的情報やキャプションを網羅。4つのモデルを維持しつつ、双方向適応や分布整合蒸留を組み合わせたレシピを用いることで、リアルタイムの相互作用を実現。SolarWMは、対話型ワールドモデル研究のための再現可能で拡張可能な基盤を提供します。 Comment
pj page:
https://junchao-cs.github.io/SolarWM-Web/
data:
https://huggingface.co/datasets/junchaoh-cs/SolarWM-Data
[Paper Note] WHALE: A Simple Recipe for Joint Harness-Weight Optimization, Haechan Kim+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #read-later #Selected Papers/Blogs #AgentHarness Issue Date: 2026-09-06 GPT Summary- WHALE(Weight-Harness Alternating Learning)は、エージェントの性能向上を図るための新しい手法であり、モデルと実行ハーネスの共同最適化を実現する。二段階のプロセスに基づき、モデルを更新した後で改善されたハーネスを探索する。このアプローチにより、Qwen3.5-2B/4Bエージェントは、検索型質問応答、数学的推論、チェスのパズルの各領域で従来の最適化手法を上回る精度を達成。特に、ハーネスの探索が効果的で、ロールアウトのコストを削減しつつ、精度を向上させることが示された。コードは公開されている。 Comment
元ポスト:
著者ポスト:
[Paper Note] Uncovering Understanding-Generation Synergy in Native Unified Multimodal Models: From Representation, Task to System, Penghao Wu+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#UMM Issue Date: 2026-09-06 GPT Summary- UMMsは視覚理解と生成を統合するが、相乗効果が保証されるわけではない。研究により、生成が理解の視覚特徴を強化し、理解が生成の整合性を高めることが発見されたが、同じ計算パスでの処理が片方の支配を招く可能性がある。タスクデカップリングアーキテクチャを導入することでこの問題を回避し、理解と生成の間に正の双方向転移が確認された。さらに、UMMsは複雑なタスクにおいて従来のパイプラインを上回ることが示され、専門化と知識共有により相乗効果を生む可能性が明らかになった。 Comment
元ポスト:
[Paper Note] SMELT: Scaling Laws for Compute-Matched MoE Looped Transformers, Shaowen Wang+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LanguageModel #Transformer #Scaling Laws #read-later #Selected Papers/Blogs #RecurrentModels #RecursiveModels Issue Date: 2026-09-06 GPT Summary- ループ化されたトランスフォーマーを用い、Mixture-of-Experts(MoE)での効率を評価。SMELT(Sparse MoE Transformer、middle layers Loop Twice)手法を導入し、中間層の半分を2回ループさせることで計算量を最適化。最大54Bの非埋め込みパラメータでスケールし、計算量の増加に伴い損失を迅速に低下させ、学習FLOPsを節約。アテンション・シンクを減少させることで関連トークンへの分布再配分が性能向上に寄与し、ループ化の有効性を実証。 Comment
元ポスト:
[Paper Note] Normalized Low-Rank Adaptation, Jiale Kang+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #PEFT(Adaptor/LoRA) #read-later #Selected Papers/Blogs Issue Date: 2026-09-06 GPT Summary- LoRAの安定した最適化のために、ダウン投影行列を正規化するNormalized Low-Rank Adaptation(NoRA)を提案。初期化時に正規化を適用することで、トレーニングの全体での負担を軽減しつつ、収束を加速、性能と安定性を向上させ、壊滅的忘却を緩和。追加のパラメータや計算を必要とせず、LoRAに対する効果的な改善策となる。 Comment
元ポスト:
解説:
Aの初期値によって重みWに対する学習初期の更新量がpreconditioningされるという数式的なLoRAの解釈が重要とのこと。
[Paper Note] SwarmWorld: Stigmergic technological evolution in societies of language-model agents, Subhadeep Pal+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#AIAgents #Coordination Issue Date: 2026-09-06 GPT Summary- 集団的知性は、エージェントが協調し環境を介して自己組織化する過程で現れ、耐久的な社会を形成する。言語モデルエージェントはこのプロセスの新たな基盤を提示するが、多くのシステムは依然として中央集権的なアプローチに依存している。本研究では、自律的に機能する分散型エージェントがSwarmWorld内で進化し、資源処理や人工物構築を行う様子を探る。各エージェントは探索や構築の行動に分化し、技術はコラボレーションによって蓄積・伝承される。文化的メカニズムは組織化を促進するが、機能は結果に依存する。物理的stigmergyが社会を支え、持続的な技術エコシステムを推進する。 Comment
元ポスト:
[Paper Note] Fast Weight Attention for Continual Learning, Yifan Zhang+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#Attention #RecurrentModels Issue Date: 2026-09-06 GPT Summary- 再帰的ファストウェイト記憶と選択的状態空間モデルを用いて、固定サイズの再帰状態に文脈を圧縮し、オンライン学習規則を適用。局所的なファストメモリは、因果性を保ちながら異なる内部目的を最適化。正規化済み一階更新を導出し、Falconシリーズ(NLMS、列ごとの拡張、ミニバッチ更新)を提示。これにより、時間的整列や可塑性を分離しつつ、言語モデリングで競争力を維持。 Comment
元ポスト:
[Paper Note] TailSFT: Filtered Fine-Tuning Improves Post-Training Performance, Sadhika Malladi+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #Supervised-FineTuning (SFT) #ReinforcementLearning #PostTraining #read-later #Selected Papers/Blogs #One-Line Notes Issue Date: 2026-09-06 GPT Summary- 強化学習のポストトレーニングは、エージェントの能力向上に寄与するが、高性能なベースモデルを微調整する際に特に効果的である。既存のパイプラインの有効性を疑問視し、TailSFTを設計。これは、訓練時に適合済みシーケンスを除外し、データ分布の未モデル化領域に学習を集中させる。実験と理論分析を通じて設計選択を正当化し、OLMo-3 7Bでは、TailSFTがパフォーマンスを最大17%向上させ、計算オーバーヘッドを抑えた。高いカバレッジのチェックポイントは、後続の強化学習での成果につながり、TailSFTの有用性を示した。診断法を導入し、モデル開発アプローチを提唱。 Comment
元ポスト:
著者ポスト:
ポイント解説:
RL前のモデルの応答パターンのcoverageを改善することで、RLのgainを大きくしたい、という気持ちの研究。SFTで特定の応答パターンを過剰に学習すると、少数パターンの応答が抑制されてしまい(Pass@1は改善するが、Pass@kが下がる)、これがRLのgainの低下に繋がるという話のようである。
SFTにおける各サンプルの学習初期のlossを記録し、学習が進む過程でlossの改善を見て、lossが最も大きく改善したサンプルを除外して学習を進めることで、SFTによるPass@kを改善することで、RLのgainをより高めることを示したようである。
[Paper Note] Automated Researchers Can Mitigate Well-characterized Alignment Failures, Chen Yueh-Han+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#Alignment #SelfImprovement #autoresearch/RSI Issue Date: 2026-09-05 GPT Summary- 自動化された整合性研究者(AARs)は、整合性の失敗を緩和するために複数の安全ベンチマークを最適化する手法を提案。最強のAAR法は整合性の失敗を大幅に減少させ、他のベンチマークや大規模モデルへの一般化も実現。人間の研究者によるワンショット法と比較して、AARは優れた性能を示し、経験豊富な研究者の助言が必須でない可能性を示唆。これにより、整合性研究の自動化が実用的であることが示された。 Comment
blog: https://alignment.anthropic.com/2026/automated-alignment-researchers/
元ポスト:
解説:
[Paper Note] PAWBench: How Far Are We from Probabilistically Aligned World Modeling?, Yuandong Pu+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-09-05 GPT Summary- ビデオ生成モデルの評価において、確率的整合性を基準にした新たなベンチマークPAWBenchを提案。既存のシステムは有効な行動の範囲を回収できず、繰り返し生成が不十分であることを示す。言語プロンプトや初期ノイズの影響を検証し、確率的に整合した世界モデリングの未来の基盤を築くことを目指す。 Comment
pj page: https://pawbench.github.io/
元ポスト:
[Paper Note] Accelerating Scientific Research with Gemini in the Real-World, Samuel Schmidgall+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#ScientificDiscovery #Test-Time Scaling Issue Date: 2026-09-05 GPT Summary- GeminiベースのマルチエージェントシステムCo-Scientistの拡張により、科学研究のエンドツーエンドプロセスが加速される。具体的には、材料科学においてMXenesの前駆体経路を設計し、半自動化CVD反応器と連携して実験結果を得た。生物学では、限られたデータから大腸菌の群走表現型を予測し、計算機科学ではスケーリングアーキテクチャを自動発見して臨床リスクを低減した。さらに、エンドツーエンド生成論文に対する専門家の評価がCo-Scientistの信頼性を示し、研究の安全性向上に寄与。これらの成果は、閉ループ型科学AIシステムによる現実世界の発見の加速を具現化している。 Comment
元ポスト:
著者ポスト:
[Paper Note] VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning, Junxiang Xu+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-09-05 GPT Summary- ネイティブ視覚推論を強化するため、VBVR-Proというクローズドループ型テストベッドを提案し、生成推論の訓練と検証を可能に。具体的には、300の生成タスクからなる制御されたタスク空間を提供し、外部視覚推論ベンチマークでも強い転移を示す。検証可能な報酬スコアラーを導入し、タスク特異のルールに基づく信頼性の高い報酬信号をもたらす。さらに、30種以上のモダリティを組み合わせた生成モデルに関する制御された研究を行い、視覚生成の重要性を示唆する結果を得た。すべてのデータ、モデル、スコアラー、コードを公開。 Comment
pj page: https://video-reason.com/?v=pro
元ポスト:
[Paper Note] UserHarness: Harnessing User Minds for Stronger Agent Theory-of-Mind, Cheng Qian+, arXiv'26, 2026.05
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #TheoryOfMind #One-Line Notes #AgentHarness Issue Date: 2026-09-04 GPT Summary- ユーザーの信念と意図を理解することは、効果的なエージェントアシスタントを構築する上で必要不可欠である。本研究では、ToM推論を明示的に再構築するUserHarnessというフレームワークを提案し、ユーザーの心的状態と環境との関係を追跡できるようにする。UserHarnessは5つのベンチマークで最大95.94%のマクロ精度を達成し、既存手法に対して15%以上の改善を示した。これにより、ユーザー理解には心の根源からの推論が必要であることが強調され、今後のアシスタントの基盤としての有望性が示唆される。 Comment
元ポスト:
関連:
- [Paper Note] UserRL: Training Interactive User-Centric Agent via Reinforcement Learning, Cheng Qian+, EMNLP'26, 2025.09
- [Paper Note] UserBench: An Interactive Gym Environment for User-Centric Agents, Cheng Qian+, EMNLP'26, 2025.07
ユーザの信念Beliefを明示的にモデル化し、Actionを決定するハーネスの提案。これによりActionがユーザの信念を反映したものとなることを期待し、User-centeredなエージェントを目指す。
時刻tごとに、環境E_tからの観測結果o_tを受けてユーザのbelief B_tが更新され、ユーザのゴールGに基づいてAction A_tを決定する。アクションA_t+1により環境がE_t+1に更新される、といったループを繰り返す。ユーザはE_tを直接観測することはできず、o_tのみを観測できる。
Appendix Aを見る限り、おそらくBeliefはテキストとして表現される。また、3.1節に示されている通り、Beliefは入れ子構造で定義される。
[Paper Note] UserBench: An Interactive Gym Environment for User-Centric Agents, Cheng Qian+, EMNLP'26, 2025.07
Paper/Blog Link My Issue
#NLP #LanguageModel #UserBased #AIAgents #Evaluation #EMNLP #Environment Issue Date: 2026-09-04 GPT Summary- 大規模言語モデル(LLM)を活用したエージェントは複雑なタスクにおいて進歩を遂げているが、ユーザーと協働する能力にはまだ課題がある。これを解決するために、UserBenchというユーザー中心のベンチマークを導入し、エージェントの多ターン・嗜好駆動型の相互作用を評価する。UserBenchでは、明確でない目標を持つシミュレートされたユーザーが登場し、エージェントには意図の明確化と根拠のある意思決定が求められる。評価結果は、モデルがユーザーの意図に一致する回答を出すのが難しいことを示し、協働パートナーとしての能力の重要性を浮き彫りにしている。UserBenchはこの能力を測定し、向上させるための対話型環境を提供する。 Comment
元ポスト:
関連:
- [Paper Note] UserRL: Training Interactive User-Centric Agent via Reinforcement Learning, Cheng Qian+, EMNLP'26, 2025.09
- [Paper Note] UserHarness: Harnessing User Minds for Stronger Agent Theory-of-Mind, Cheng Qian+, arXiv'26, 2026.05
[Paper Note] Praxist: From Experimental Artifacts to Solution Lineages, Jin Li+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #SelfImprovement #Initial Impression Notes #autoresearch/RSI #AgentHarness Issue Date: 2026-09-04 GPT Summary- Praxistは、自律的な研究開発エージェントの限界を克服するために設計された系統情報中心のシステムで、成果物と評価結果を構造化します。このシステムは、局所的な成果物を証拠統合と分離することで、後続の試みで検証された機構を継承し、再現可能な結果を維持します。標準化された75タスクにおいてPraxistは60枚のメダルを獲得し、経済的にも優位性を示しました。四つのケーススタディによってオープンエンドの問題への適用が成功し、各タスクでの精度向上や資源コストの削減が記録されました。この新たな成果物のアプローチは、従来のものに比べて強力かつ効率的です。 Comment
blog: https://praxist.sapient.inc/en
元ポスト:
要はRSIのためのAgent Harnessのようである。
github:
https://github.com/sapientinc/praxist
Table2を見ると、Claude Code + Opus 4.8に対して、PRAXIST + DeepSeekV4-Proで性能が比較されている。
[Paper Note] V-Rubrics: Visual Faithfulness via Rubric-Based Reinforcement Learning, Shulin Tian+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#ComputerVision #NLP #ReinforcementLearning #Faithfulness #EMNLP #VisionLanguageModel #Rubric-based #Initial Impression Notes #CreditAssignment Issue Date: 2026-09-01 GPT Summary- 視覚と言語モデルは、視覚的証拠に基づかない回答を生成することがあるため、妥当性を維持できない状況をクレジット割り当ての失敗と捉える。本研究では、参照回答を原子命題に分解し、視覚的忠実性、推論の一貫性、指示遵守に基づいた評価を行う視覚的ルーブリックを提案。これにより裏付け証拠のクレジットを局所化し、Qwen3-VL-8B-Instructを用いて生成したトレーニングセットV-Rubrics 50Kを作成。実験結果、ルーブリックベースのGRPOはSFT基準及び他の手法を上回る改善を示し、視覚的ポストトレーニングの報酬としてルーブリックの有効性を証明した。 Comment
元ポスト:
Rubric basedなRLを用いて、trajectoryに対して構造化された部分点を提供するcredit assignment手法を提案し、これによりVLMの
- Visual Faithfulness
- Reasoning Consistency
- Instruction Following
を改善する、という話に見える。
[Paper Note] Prefix Sliding for efficient test-time scaling, Niklas Muennighoff+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#EfficiencyImprovement #NLP #LanguageModel #ReinforcementLearning #Attention #LongContext #Test-Time Scaling #Selected Papers/Blogs #reading #One-Line Notes #Reading Reflections Issue Date: 2026-08-30 GPT Summary- テスト時スケーリングでは、言語モデルが長期間推論できるように推論の計算を強化するが、多くの中間トークンが重要性を失うことが発見された。これを受けて、Prefix Slidingを提案し、推論中に不要なトークンを破棄することでメモリ要件を削減し、効率的な長期推論を実現する。これにより、既存のモデルを維持しつつ3倍の速度向上が可能になり、強化学習では100,000トークン以上のスケーリングを達成する。実験により、Prefix Slidingが中間トークンの要約や従来の手法より優れていることが示された。 Comment
元ポスト:
long sequenceに対する推論をすると
- full attentionの場合メモリ消費が激しくOOMになる
- しかしreasoningをコンパクトに圧縮すると重要な情報を失う
これを解決するために、reasoningの中間にあるtokenの重要度が低いことに着目し、シンプルに
- prefix: reasoningの冒頭、指示やtoolの定義を含む
- recent tokens: reasoning traceの直近
を残す二種類の固定長のwindowを用いて、prefixは固定し、recent tokensはtraceの成長に従いスライディングさせる手法を提案。
その結果、
- 最大消費メモリが固定され
- full traceを用いるよりも推論スピードは速く、同等の性能に最大3倍程度早く到達
- RLにおいて、より長い推論を固定されたmemory budgetの元で実施でき、rewardも改善
シンプルな手法でOOM問題を解決し、単に推論時のメモリ消費や推論スピードを改善しただけでなく、モデル学習時のRLにおけるパフォーマンスが改善することまで示しており、シンプルで容易に実装ができるがインパクトが大きく、非常におもしろい研究と感じる。Ablationも実施されている。
Linear attentionに対しては、そもそもメモリ消費量はconstantなので提案手法を適用する必要がそもそもない点には注意。
現在の主要な中国系のOpenWeight LLMのアーキテクチャがほぼ、linear attentionとsparse attentionを積み重ねたアーキテクチャになっている。sparse attentionはKV Cacheがcontext長に従って増大するため、本研究の恩恵を受ける可能性はあるが、sparse attentionに対する実験は実施されていないように見える。
[Paper Note] Best Practice Critic Optimization, Penghui Qi+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #ReinforcementLearning #Actor-Critic #PostTraining #read-later #Selected Papers/Blogs Issue Date: 2026-08-30 GPT Summary- グループベースの強化学習法であるBPCOを用いて、複数の応答からトークンレベルのアドバンテージを推定し、クリティック訓練の不安定性を改善。対照実験を通じて、1.5Bから30Bパラメータの数学的推論タスクで強力な性能向上を確認、グループベースのベースラインを超える結果を達成。コードは公開されている。 Comment
元ポスト:
元ポストのスレッドを眺めてから読むと良さそう。
解説:
[Paper Note] Recursive Experiential-Working Memory Evolution for Long-Horizon Agent Harnesses, Zhaochen Yu+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #AIAgents #SelfImprovement #memory #AgentSkills #autoresearch/RSI Issue Date: 2026-08-30 GPT Summary- Recurisは再帰的自己改善の課題に対処するための作業記憶アーキテクチャで、タスクの履歴が増えてもスキル利用を最適化することを目指す。タスク進行を追跡し、現在のニーズに基づいたスキル選択を行うことで、実行を証拠に変換し、失敗を特定に局在化する。4つのベンチマークで35件のモデルが成功率を向上させ、特にtau-benchではGPT-5.6 Solに+17.8ポイントの向上を示す。長期的な互換性では利点が拡大し、一般的な失敗を最大80%低減することが確認された。 Comment
元ポスト:
[Paper Note] Amplified Does Not Mean Predictive: Reasoning Behaviors in Thinking Models, Jean de Dieu Nyandwi+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #ReinforcementLearning #Reasoning #PostTraining #VisionLanguageModel #One-Line Notes Issue Date: 2026-08-30 GPT Summary- 推論モデルの正確性と関連する行動を区別し、推論志向の訓練がそれらを増幅するかを評価。Behavioral Lift指標を用いて、テキストと視覚言語推論における15モデルの推論痕跡を分析。思考型モデルは自己訂正や仮説検証を強化するが、モデルの信頼度の較正はほとんど増幅されない一方で、不確実性の認識は大幅に増幅されるが正確性との関連は薄い。推論志向の訓練は、最も重要な行動を増幅せず、より根拠のある推論を評価する目的の動機づけが必要。 Comment
元ポスト:
著者ポスト2:
Behavioral Liftというmetricを定義し、reasoning中の思考パターン(Table 1のようなもの)の頻度と、当該思考パターンが正確な予測に寄与しているか否かを分離した上で、reasoningを強化するpost-trainingがどのような思考パターンを増幅し、増幅される思考パターンが有益なものものなのかを分析した研究のようである。
Behavioral Liftは、当該思考パターンの有無によって、正解率がどの程度変化するかによって定義される(式1)。
実験の結果、Behariobal Liftが高い、すなわち正解に寄与する思考パターンはあまり増幅されていない傾向にあることがわかった、という話に見える。
[Paper Note] Apodex 1.1: Scaling Agentic Intelligence for Complex Work, B. An+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #OpenWeight #ScientificDiscovery #One-Line Notes #LongHorizon Issue Date: 2026-08-30 GPT Summary- Apodex 1.1は、複雑な作業における「作業能力」を二つの次元で進化させ、持続可能で検証可能な進捗を実現する。環境スケーリングは実行可能ファイルや情報源の多様性を拡大し、エージェント中心の協調スケーリングは長期的なタスクを分解し、並行作業を委任する。共通の実行ハーネスとAgentOSにより、タスク状態を維持し、訓練が信頼できる挙動を促進する。Apodex 1.1は350億パラメータのモデルで、様々な領域において先端性能を達成し、長時間の複雑なタスクに対応する能力を備える。 Comment
元ポスト:
専門職(アナリストや弁護士等)、finance、化学研究に特化した36Bモデルで、ベンチマークスコアはKimi-K3等にも匹敵するモデルとハーネスのようである
関連:
- [Paper Note] APEX-Agents, Bertie Vidgen+, arXiv'26, 2026.01
HF:
https://huggingface.co/collections/apodex/apodex-11
ハーネス:
https://github.com/ApodexAI/FrontierAgent
所見:
- [Paper Note] PivotRL: High Accuracy Agentic Post-Training at Low Compute Cost, Junkeun Yi+, arXiv'26, 2026.03
[Paper Note] Skill Issue: Are Skills Language-Invariant in LLMs?, Bobby Cheng+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #CrossLingual #MultiLingual #Selected Papers/Blogs #reading #Initial Impression Notes Issue Date: 2026-08-30 GPT Summary- 大規模言語モデルは言語間で知識へのアクセスに一貫性を欠くが、そのスキルの不一致を定量化するために多言語自己対戦を用いる。本研究では同一モデルの異なるインスタンスが別々の言語でテキストベースのゲームを対戦し、言語の影響を分離して評価。8言語、6ゲームで、モデルが言語によって異なるプレイ力を示し、戦略や勝敗に体系的な変動が見られる。言語特有の失敗が明らかになり、適切な言語選択で性能が回復する可能性が示唆され、スキルの不一致が多言語モデルの発展の障害であることが示された。 Comment
元ポスト:
同じモデルに対して、同じゲーム、ルール、アクションなどの条件を揃えた上で、使用する言語のみを変更して対戦した場合、使用言語によって勝率が変化する。このことから、モデルの中にスキルが内在しているが、利用する言語によって当該スキルをどれだけ引き出せるかが変化することが示唆される、という話に見える。
5.3節に、推論に用いる言語を変化させた場合にどの程度性能が回復できるかが示されており、ゲームによって回復した程度が異なり、推論の言語を変更するだけでは完全に性能を回復することはできていなさそうに見える。
たとえばQwenは英語と中国語の学習データが豊富だと考えられるが、この辺はどの程度影響があるのかな?という点が気になる。5.4節あたりでそのあたりの言及がありそう。
著者ポスト:
[Paper Note] A Year in LLM Serving: Workload Evolution, Caching and Load-Balancing, William Nixon+, arXiv'26, 2026.07
Paper/Blog Link My Issue
#Analysis #NLP #LanguageModel #LLMServing Issue Date: 2026-08-25 GPT Summary- LLM提供ワークロードの長期的観察を行い、1年間の実際のトレースを分析して、モデルとユーザーの相互作用を明らかにする。多様なモデルを含む全体的な運用行動を捉え、ワークロードの進化や構造を示し、今後の研究に役立つトレースデータを公開。 Comment
元ポスト:
[Paper Note] AI4AI-Bench: Benchmarking LLM Agents in Algorithmic Design for Recursive Self-Improvement, Yizhe Chi+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Evaluation #SelfImprovement #autoresearch/RSI #Creativity Issue Date: 2026-08-22 GPT Summary- 再帰的自己改善(RSI)に関する本研究は、AIシステムが他のAIシステムを自ら改善できるかを探求し、その過程として訓練アルゴリズムの設計が鍵となることを示す。AI4AI-Benchという新たなベンチマークを提示し、エージェントが訓練アルゴリズムを最適化する能力を評価。各タスクにおいてエージェントはコードを書き換え、実行結果を比較。平均スコアは0.166、最良システムで0.250に達したが、既存アルゴリズムとの距離は依然として大きい。タスク群や評価結果を公開し、再現性のある測定を可能にする。 Comment
元ポスト:
[Paper Note] T-Rex: Tactile-Reactive Dexterous Manipulation, Dantong Niu+, arXiv'26, 2026.06
Paper/Blog Link My Issue
#ComputerVision #NLP #Dataset #Architecture #read-later #Selected Papers/Blogs #Robotics #VisionLanguageActionModel #EmbodiedAI #Initial Impression Notes Issue Date: 2026-08-22 GPT Summary- 触覚信号に動的に反応する能力は人間レベルの器用さに不可欠だが、現代のVLAモデルは触覚を軽視する傾向がある。本研究では、触覚反応型操作の向上に向け、100時間の触覚データセットを収集し、新しい時系列触覚VQ-VAEエンコーダと可変レートのMixture-of-Transformersアーキテクチャを提案。12の操作タスクで触覚反応ポリシーの有効性を証明し、最強ベースラインの成功率を30%以上向上させた。 Comment
元ポスト:
pj page: https://tactile-reactive-dexterous.github.io/
ロボットの触覚の制御に特化した大規模でオープンなデータとアーキテクチャの提案に見え、卵を掴んで移動させるデモなどが元ポストに掲載されている。
スーパーサイヤ人になった悟空が食器を掴んだけど力が強すぎて割ってしまう、みたいなアニメのシーンをふと思い出したけど(セル編だった気がするけど実際にそのようなシーンがあったかはわからない)、実際調理ロボットが卵を掴んで運ぶ前に握り潰してしまったらだいぶ悲しいので、触覚は非常に重要なモダリティと思われる(小並感)。
[Paper Note] Hydra-0: Action Flow for Generalist World Modeling and Control, Hongyu Li+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#General #Transformer #DiffusionModel #Selected Papers/Blogs #Robotics #WorldModels #reading #Initial Impression Notes Issue Date: 2026-08-22 GPT Summary- Hydra-0は、行動フローに基づく一般的な世界モデルで、ロボットの動作をピクセル運動として表現します。このモデルは、タスクや環境を跨いで行動の結果を学習し、動作誤差を大幅に低減します。また、ゼロショット適応やデータ効率向上をサポートし、RoboLabベンチマークで高い相関を示します。さらに、人間のデモから転移した望ましい物体フローを利用して、ロボット運動を予測する新しいインタフェースも提案しています。これにより、異種の訓練データを結ぶポテンシャルが示されます。 Comment
元ポスト:
ロボットのアクションを、ロボット固有の表現ではなく、画像上の点の軌跡(action flow)で表現として学習する(特定のロボットと密結合したシグナルを学習するのをやめる)。これにより、異なる実体をデータから学習可能なgenericなモデルを実現し、転移を容易にする、という話に見える。
[Paper Note] HiPHI: A Large-Scale Benchmark for High-Precision Human Motion and Object-Interaction, Jiahao Ji+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#ComputerVision #Dataset #read-later #Selected Papers/Blogs #Robotics #EmbodiedAI Issue Date: 2026-08-20 GPT Summary- HiPHIは、全身の人間モーションと相互作用の多様性を最大化するために設計された600時間超の高忠実度データセットであり、光学モーションキャプチャを用いてサブミリメートル級の精度で作成された。これにより、実験室とインターネットのデータの不一致を解消し、モーションのカバー範囲を大幅に拡張。HiPHIは物理AIアプリケーションを評価するためのベンチマークスイートも提供し、実世界のタスクにおけるヒューマノイドポリシー学習の基盤を確立する。 Comment
HF: https://huggingface.co/datasets/noitomrobotics/HiPHI
元ポスト:
[Paper Note] SPADE: Self-Play in Adaptive Synthetic Executable Environments, Bo Liu+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#LanguageModel #ReinforcementLearning #AIAgents #PostTraining #read-later #Selected Papers/Blogs #SelfPlay #Environment Issue Date: 2026-08-20 GPT Summary- 自己改善には多様で適応的な目標プールが不可欠であり、SPADE(Self-Play in Adaptive Synthetic Executable Environments)は、単一の大規模言語モデルが自己対戦型強化学習フレームワークで二つの役割を果たす。環境デザイナーが長期的な訓練環境を作成し、推論エージェントが行動を学ぶ。報酬や後悔信号を最適化しつつ、環境をエージェントの能力の限界に合わせて設計。広範な実験により、大規模コーパスの使用と環境メモリの蓄積が成功に重要であることが明らかにされ、SPADEは競合ベースラインを平均+5.3ポイント上回り、特定タスクでさらに改善を達成。環境設計を学習可能にすることで、自己改善への道を示す。 Comment
元ポスト:
著者ポスト:
[Paper Note] Apodex Discovery: Reality Benchmarks and Environments for Evaluating and Building Discoverative Artificial Intelligence, Brian Wang+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Evaluation #ScientificDiscovery #read-later Issue Date: 2026-08-20 GPT Summary- Apodex Discoveryは、重厚なソルバーを用いて発見的AIを構築・評価するためのフレームワーク。16の産業から423の実世界の課題を収集し、20件を初期リリースに選定。共通環境の抽象化により、データや成果物の検証が可能。AAVカプシド設計では7%の性能向上を達成し、薬物の再利用でもスコアが改善。ApodexはAI評価を超え、真の発見を目指す検証可能な調査を可能にする。 Comment
元ポスト:
所見:
[Paper Note] The Problem Is the Problem: Towards Scalable Mathematical Discovery, Zeyu Zheng+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#LanguageModel #AIAgents #Mathematics #SelfImprovement #read-later #autoresearch/RSI Issue Date: 2026-08-20 GPT Summary- AIシステムは数学研究の効率化を進めており、希少な資源を適切に配分することが重要な課題である。従来のAIを活用した数学ワークフローでは、人間の労力が初期と末端に集中し、研究課題の選定と成果物のレビューがボトルネックとなっている。新たに提案する人間-AI発見パラダイムでは、専門家が関心のある研究方向を設定し、システムが文献から候補問題を検索。Find, Attempt, and Recommend(FAR)を構築し、問題探索を自動化する。組合せ論の実験では、5,245件の論文から6,453件の候補を収集し、最終的に77件の潜在的解決策を選定。これにより新しい協働モードの有効性が示された。 Comment
元ポスト:
[Paper Note] Matryoshka Language Model Suites, Nathan Godey+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#Pretraining #NLP #LanguageModel #Architecture #read-later Issue Date: 2026-08-20 GPT Summary- 階層的に構築された単一のネスト型アーキテクチャを用いて、サブモデルの訓練効率を向上。マトリョーシュカ訓練フレームワークでは、パラメータ数を削減し、サブモデルの低コストな蒸留が可能。5億、15億、30億のサブモデルからなるスイートを訓練し、性能は独立訓練モデルと同等ながら計算量を36%削減、推測的デコーディングのスループットを14~26%向上。アーキテクチャ選択のアブレーション結果も示す。 Comment
元ポスト:
関連:
- [Paper Note] Efficient Construction of Model Family through Progressive Training Using Model Expansion, Kazuki Yano+, COLM'25, 2025.04
上記研究とどの点が異なるのだろうか?
ポイント解説:
[Paper Note] Physics of Agents: Statistical Mechanics Predicts Collective Behavior of AI Agents, Batu El+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-08-20 GPT Summary- AIエージェントは相互作用するシステムの一部として機能し、集合的推論を促進するが、同調化や分極化のリスクもある。本研究では、10,000以上の言語モデルエージェントのコミュニティを分析し、行動の多様性を無関心、分極化、合意という三つの段階に分類。エージェントは無関心から始まり、相互作用を通じて確信を構築する。特に、客観的問題では正確性が向上し、主観的問題では意見が右傾化する。これらの観察は、低社会的圧力を好む統計力学モデルで説明され、初期の意見を基にした予測が優れた結果を示す。AIエージェントの行動は、複雑系の法則に従うことが示唆される。 Comment
元ポスト:
[Paper Note] Le Critique: Privileged Value Functions for LLM Reinforcement Learning, Siddarth Venkatraman+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#LanguageModel #ReinforcementLearning #PostTraining #ValueFunctions Issue Date: 2026-08-19 GPT Summary- 大規模言語モデル向けの強化学習アルゴリズムは、主に分散低減戦略を用いているが、シーケンスレベルのクレジット提供に限界がある。これを克服するために、二つの戦略を提案。1) Privileged Value Functionsでタスク関連のトークン信号を追加し、2) TETHERで精度に応じてベースラインを適応的に内挿。これにより、複数の推論タスクにおいて標準の価値関数を上回る成果を示した。 Comment
pj page: https://privileged-value-functions.github.io/
元ポスト:
[Paper Note] Agentic ESOpt: Fine-Tuning Long-Horizon LLM Agents with Minimal GPU Requirements, Zhi Zheng+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#ReinforcementLearning #AIAgents #PostTraining #LongHorizon Issue Date: 2026-08-19 GPT Summary- 強化学習(RL)の長期的な推論は課題が多いため、進化戦略(ES)が大規模LLMエージェントの微調整に適していると主張。ESの利点は、1) スケーラビリティ、2) 柔軟性、3) 長期ホライズンでのパフォーマンス向上。新たに提案された「Agentic ESOpt」フレームワークは、全パラメータをファインチューニングし、コサイン減衰スケジュールを加えたことで探索と適応を改善。WebArena-Liteでの実験では、ベースラインに対して6.69%の改善を達成。 Comment
著者ポスト:
所見:
[Paper Note] MOSS-VL Technical Report, Pengyu Wang+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#OpenWeight #VideoGeneration/Understandings #VisionLanguageModel Issue Date: 2026-08-19 GPT Summary- MOSS-VLは、リアルタイムのインタラクションを可能にするビジョン-ランゲージモデルファミリです。言語デコーダは視覚情報をゲート付きクロスアテンションで処理し、生成中にフレームを参照します。合成コーパスがインタラクションを監視し、段階的なカリキュラムが訓練を最適化します。オフライン基盤でのMOSS-VL-Instructは競争力があり、MOSS-VL-Realtimeはストリーミングモデルで最高の性能を示しました。視覚トークンのデコード性能も向上し、初期トークンの処理時間優位性を拡大しました。すべてのチェックポイントとコードはオープンソースで公開されています。 Comment
元ポスト:
[Paper Note] StateM: Reaching 95.3% Raw Accuracy, or a \$15 Frontier Run, on Terminal-Bench 2.1 via Harness Scaling, Ziheng Qin+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-08-19 GPT Summary- StateMはエージェントの実行システムを強化し、耐久性のある状態やフェーズ局所的な文脈を利用して、既存の手順を再活性化することでエージェントの性能向上を図る。Terminal-Bench 2.1では、StateMがGPT-5.5 xhighのスコアを92.1%に引き上げ、多くの基準を上回る成果を達成。さらに、適応コストを抑えつつ、DeepSeek-V4 Flashも改善。BusinessBenchでは、ファミリ別ランブックが明確な性能向上を示す。StateMは学習された制御を可視化し、永続的な実行環境を提供することでエージェントの成功を強化する。 Comment
pj page: https://henryqin1997.github.io/statem/
元ポスト:
[Paper Note] Beyond the Best Guess: Improving LLM Solution Coverage with Evolution Strategies, Conor F. Hayes+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#LanguageModel #ReinforcementLearning #PostTraining #read-later #Diversity Issue Date: 2026-08-18 GPT Summary- 大規模言語モデル(LLMs)は、探索領域での応用が進んでおり、特に多様な候補解を生成するパス@kプロセスが注目されている。しかし、従来の強化学習(RL)に基づく事後トレーニングでは解の網羅性が低下する可能性がある。対照的に、エボリューション・ストラテジー(ES)は、集団ベースでの最適化を通じて、より広い出力分布と高い解の網羅性を実現する。ESは標準的な数学ベンチマークにおいても優れた結果を出し、探索問題への適用において有望である。 Comment
元ポスト:
[Paper Note] ResearchArena: Evaluating Sabotage and Monitoring in Automated AI R&D, Lena Libon+, arXiv'26, 2026.07
Paper/Blog Link My Issue
Issue Date: 2026-08-17 GPT Summary- AIエージェントがAI R&Dを自動化する中、その出力の安全性を評価する必要が生じる。AI制御では、エージェントを潜在的な敵として扱い、出展前に破壊工作を検出するモニターを使用する。我々のResearchArenaフレームワークでは、安全性や能力を評価し、各主要タスクに埋め込み型と独立型のサイドタスクを設定。エージェントを破壊と監視の観点から評価し、4種類のモニターを異なる条件下で比較。訓練データに隠された妨害の検出は難しく、モニターは表層だけを検査する傾向があり、完全な効果は見込めない。ResearchArenaは自動化されたAI R&Dの妨害と制御評価のためのフレームワークとして公開。 Comment
元ポスト:
[Paper Note] CAKE: Compiler-Agent Co-Design for Frontier Kernel Evolution, Zihao Ye+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-08-15 GPT Summary- CAKEはGPUカーネルエージェントとプログラミング言語の共設計を実現し、エージェントが生成する型付きのCAKE IRを使用してハードウェア明示的なスケジューリングを提供する。これにより、検証とコストモデリングを支援し、再発する失敗を有用な最適化戦術に変換する。Flash-KMeansにおいて、CAKE IRは調整済みのFlashMLよりも1.144倍、直接CUDA/PTXよりも0.928倍の速さを達成。また、Kimi Delta Attentionは公式FlashKDAに対して2.05倍のスピードアップを実現し、KNNとKMeansの性能も1.42倍から2.12倍向上した。CAKEはNVIDIA GPU(AmpereからBlackwell)を対象にしている。 Comment
元ポスト:
[Paper Note] Simple-OPD: Demystifying Warm-up for On-policy Distillation, Tao Liu+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #Distillation #PEFT(Adaptor/LoRA) #PostTraining #read-later #Selected Papers/Blogs #On-Policy #Initial Impression Notes Issue Date: 2026-08-14 GPT Summary- On-policy distillation (OPD) は、教師モデルからの監督信号を用いて学生を訓練する手法であり、その効果はウォームアップ段階に依存する。データ観点では、思考過程の連鎖(CoT)監督が効果的であり、誤った教師のロールアウトでも利点があることが示された。トレーニング観点では、低秩適応(LoRA)を用いたアプローチがドメイン内適応と分布外一般化のバランスを改善することを示す。これに基づき、Simple-OPDを提案し、教師生成のCoTに対してLoRAで学生をウォームアップさせる手法である。実験はその有効性と頑健性を示している。 Comment
元ポスト:
まだ論文には目を通せていないが、教師モデルと生徒モデルに差がありすぎると、OPDはうまく学習ができないので、LoRAでwarmupするとあうのは理に適っているように感じる。
OPDのFailure Modeのまとめ:
- On-policy distillation isn't a free-lunch, Bhavin Jawade, 2026.07
[Paper Note] DiG-bench: Discovery in Games, Ruairidh M. Battleday+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Evaluation #ScientificDiscovery #read-later #Selected Papers/Blogs #Game #One-Line Notes #text Issue Date: 2026-08-14 GPT Summary- 新たな知識の発見は科学プロセスの核心であるが、既存のAIベンチマークはこの能力を評価するものが不足している。これに対処するため、本研究ではDiG-bench(Discovery in Games)という新しいベンチマークを導入。70の独立したゲームから構成され、各ゲームは独自の変換ルールを持ち、AIエージェントに7段階の難易度を提供する。ゲームはルール発見の検証課題を含み、特定の勝利条件も未知である。全てのゲームは少なくとも1人の人間によって初回の試行で解かれたが、21ゲームが公開されており、残りは安全評価のために非公開。 Comment
元ポスト:
AI Agentの発見能力を測るためのベンチマーク。テキストベースで人間によって作成されたゲームで、エージェントは試行錯誤を重ねてテキストで表現された世界のルールと勝利条件を紐解く必要がある。実際に人間が挑戦をすることで初挑戦でクリアできることを確認済みだが、AI Agentでは最も難易度が高いゲームでは、20パーセント程度しかクリアできない(Opus 5)とのこと。また、世界のルールや勝利条件などのground truthをテキストで与えると、クリア率は100%になるとのことで、非常に興味深いベンチマークである。
[Paper Note] Why Does CLAUDE.md Keep Growing? Catastrophic Remembering in Agentic Coding, Kushal Chakrabarti, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #AIAgents #Selected Papers/Blogs #reading #One-Line Notes #AGENTS.md #AgentHarness Issue Date: 2026-08-14 GPT Summary- エージェント性を持つコーディングREADMEは、リポジトリが退役するまで成長し続けるが、指示の不完全なリコールが原因でこの現象を「破局的記憶」と呼ぶ。247,694の指示ライフタイムを持つ1,867のリポジトリにおいて、指示は生涯で3倍以上増加し、古い指示は削除されにくいことが示された。プロンプトコメントの成長を制御することができ、最適なプロンプトでは過剰な指示の99.3%を削除し、新世界における指示遵守を最大23.1%改善する可能性がある。なぜなら、コードにおけるコメントの役割は依然として重要だからだ。 Comment
元ポスト:
Coding AgentがAGENTS.mdのようなglobal contextにinstructionを書き込むのは低コストだが、その背後に潜む推論結果(=latent reasfning)が記述されないためlatent reasoningを後から再構築するのは大きなコストを伴うため、当該instructionを削除する際の妨げとなる。その結果、書き込む方がコストが大きく小さいため、contextが肥大化していく。一方でinstructionが追加される際にlatent reasoningを明示的に書き出せば、肥大化を防ぐことができる、という話に見える。
著者ポスト:
非常に簡潔でわかりやすい。
[Paper Note] Don't Forget Your Embeddings: Robust Knowledge Erasure via Precise Editing of Embeddings, Clara Haya Suslik+, arXiv'26, 2026.06
Paper/Blog Link My Issue
#NLP #LanguageModel #KnowledgeEditing Issue Date: 2026-08-14 GPT Summary- 言語モデルの安全性とコンプライアンスのために特定知識の抹消が重要であるが、従来の方法は効果が限定的である。本研究では、埋め込み層に着目したEMBedding ERasure(EMBER)を提案。これは、疎行列分解を用いてトークン埋め込みから概念に関連する特徴を正確に除去するプラグアンドプレイ型のモジュールである。多様なモデルに対する評価を通じて、EMBERを用いることで抹消の有効性が一貫して向上し、整合性の損失が最小限に抑えられることを確認した。また、再学習への耐性が改善され、再獲得される精度を大幅に削減することができた。これにより、堅牢な概念除去には埋め込みレベルの介入が不可欠であることが示された。 Comment
元ポスト:
[Paper Note] Full-bandwidth transformer, Xi Wang+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#Pretraining #NLP #Transformer #Architecture #LatentReasoning #RecurrentModels #RecursiveModels Issue Date: 2026-08-14 GPT Summary- 全帯域トランスフォーマは、デコード時に過去の隠れ状態を再フィードバックし、深さの予算を新たにしつつ、標準のトランスフォーマと同じ目的を維持します。潜在フィードバックを導入することで、検証損失や性能評価を向上させ、約1.5倍多くのトークンで訓練された標準のトランスフォーマと同等またはそれ以上の精度を達成します。 Comment
元ポスト:
解説:
[Paper Note] Stealing Reasoning Traces from Proprietary LLM APIs, Alexander Panfilov+, arXiv'26, 2026.08
Paper/Blog Link My Issue
#NLP #LanguageModel #Chain-of-Thought #Proprietary #API #Attack #read-later #PII #Security Issue Date: 2026-08-14 GPT Summary- 大規模言語モデルの推論過程が隠蔽され、クライアントに暗号化されたテキストブロックが返される中、設計上の脆弱性が明らかになった。これにより、異なるモデル間の暗号化ブロックの互換性を利用した復号ジャイルブレイクが可能となり、推論の抽出やプライベートデータの漏洩が実証された。具体的には、個人情報や資格情報が回収された他、有害情報の露呈や悪意のあるペイロードの埋め込みが可能になる課題が示された。各攻撃に対処するため、クライアント側の推論を保護する具体的な暗号技術やシステム緩和策が提案されている。 Comment
元ポスト:
所見:
-
-
所見:
関連:
- [Paper Note] How to Steal Reasoning Without Reasoning Traces, Tingwei Zhang+, arXiv'26, 2026.03
[Paper Note] Toward Skill-Native LLMs: Skill Entropy for Benchmarking and Training Long-Horizon Reasoning, Yinghui He+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-08-10 GPT Summary- スキル横断の長期推論タスクにおいて、LLMが異なる推論スキルを切り替える能力を評価するための新たなアプローチを提案。Skill Entropyを導入し、558のスキルを用いたクロススキル長期推論タスクのベンチマークSkill^2-Benchを開発。評価の結果、エントロピーの高いタスクでモデルの正確性が低下することが明らかに。さらに、Skill-Entropy RLという強化学習フレームワークを提案し、スキルの予測と正解性を報酬に組み込むことで、モデルのパフォーマンスを大幅に向上。Qwen3モデルでベンチマークスコアを顕著に改善し、再利用可能なトレーニング信号としてのスキルエントロピーの有用性を示す。 Comment
元ポスト:
[Paper Note] Recursive Synthesis for Long-Horizon Terminal Tasks, Zhongzhi Li+, arXiv'26, 2026.08
Paper/Blog Link My Issue
Issue Date: 2026-08-10 GPT Summary- Recursive Synthetic Terminal Tasks (RST)は、高品質な長期ターミナルエージェントタスクを低コストで生成する再帰的な合成フレームワークである。約0.05ドル/タスクで37,484件のタスクを作成し、タスクの難易度は回数を重ねるごとに上昇する。Qwen3.5に対する教師ありファインチューニングによって、3つのベンチマークで最大10ポイントの性能向上を達成し、PPOによってもエージェント性が格段に向上することが示された。再帰的なプロセスには天井がなく、さらなる拡張の可能性を示唆している。 Comment
元ポスト:
著者ポスト:
[Paper Note] EvoPolicyGym: Evaluating Autonomous Policy Evolution in Interactive Environments, Zhilin Wang+, arXiv'26, 2026.07
Paper/Blog Link My Issue
#AIAgents #Evaluation Issue Date: 2026-08-10 GPT Summary- 自律エージェントはフィードバックを通じてポリシーを改善することが求められているが、既存の評価は最終スコアに集約しがちである。本研究では自律ポリシー進化(Autonomous Policy Evolution)を提案し、ハーネス型モデルのエージェントが対話予算の下でポリシーを制御するための評価設定を構築する。具体的には、探索済みポリシーを改善するEvoPolicyGymベンチマークを導入し、GPT-5.5が全16環境で高い評価を得た。さらにEvoPolicyGymは、エージェントの予算配分やフィードバック調整の詳細な診断を提供し、タスクごとの勝利だけでなく、適切なメカニズムの発見を助ける。 Comment
元ポスト:
[Paper Note] Do You Really Need to Pretrain Q-Functions for Online RL Fine-Tuning?, Perry Dong+, arXiv'26, 2026.07
Paper/Blog Link My Issue
Issue Date: 2026-08-10 GPT Summary- ファインチューニングの際にQ関数の事前学習が有効かを検討。従来の見解とは異なり、Q関数のランダム初期化でも高性能なポリシーが生成可能。事前学習中に学習されるQ関数とオンラインファインチューニングのターゲットに不一致があり、それに基づいてPolicy Ensembleによる初期化(IPE)を提案。実験により、IPEはファインチューニング性能を平均1.26倍改善。 Comment
元ポスト:
[Paper Note] Scaling Properties of Text Conditioning in Visual Generation, Zilong Chen+, arXiv'26, 2026.07
Paper/Blog Link My Issue
#ComputerVision #NLP #DiffusionModel #TextToImageGeneration #Scaling Laws #read-later #Selected Papers/Blogs #ImageSynthesis Issue Date: 2026-08-10 GPT Summary- 視覚生成におけるテキスト条件付けのスケーリング特性を実験的に探求。収束した拡散損失は、プロンプト内の構造化言語の量に比例して減少することが明らかに。GPGとEDの指標を用いて、構造化プロンプトを改善。これにより、ほとんどの構成的・推論的ベンチマークで優れた性能を発揮し、クローズドウェイトモデルとも競合する結果を得る。 Comment
元ポスト:
著者ポスト:
