SystemOneModel/DecisionModel (25) — 1/1
[Paper Note] JEV-as-a-Judge: Accept When Confident, Escalate When Unsure, Yubo Li+, arXiv'26, 2026.09
Paper/Blog Link My Issue
#NLP #LLM-as-a-Judge Issue Date: 2026-09-26 GPT Summary- LLM審査員は多様な評価に有効だが、大規模運用では推論コストと判定信頼性が課題となる。JEV-as-a-judgeは意思決定に特化した経済的な第一段階の審査員として、通常の選好評価と根拠に基づく事実性評価で、最先端LLM審査員に近い性能を0.36%の料金で達成した。一方、導出過程の検証や巧妙な誤答の識別では性能差が拡大し、その差は主に信頼度の低い判定に集中した。そこで、信頼度の高い判定はJEVで受理し、不確かな判定のみを上位審査員へ回す固定カスケードを構築。これにより、より低コストで比較対象の99%の精度を維持した。 Comment
元ポスト:
MiniCPM-OCR-Jev, OpenBMB, 2026.10
Paper/Blog Link My Issue
#Article #ComputerVision #NLP #SmallModel #OpenWeight #OCR #One-Line Notes #Author Thread-Post Issue Date: 2026-10-28 Comment
元ポスト:
元ポスト:
region imageと候補テキストを与えたときに、候補テキストがOCR認識結果としてどれだけ正しそうかを[0, 1]で返すSystemOne Model
Introducing LFM3: Every Modality for Specialized Intelligence, Liquid AI, 2026.10
Paper/Blog Link My Issue
#Article #ComputerVision #NLP #LanguageModel #Blog #SmallModel #OpenWeight #Selected Papers/Blogs #VisionLanguageModel #Omni #AudioLanguageModel Issue Date: 2026-10-28 Comment
HF: https://huggingface.co/collections/LiquidAI/lfm3
元ポスト:
A firewall for your agents: Control what your agents can access and do. Composio enforces your policies and uses task context to protect against prompt injection., Composio, 2026.10
Paper/Blog Link My Issue
#Article #NLP #LanguageModel #AIAgents #Blog #One-Line Notes #Security #Author Thread-Post Issue Date: 2026-10-26 Comment
AI Agentのruntimeにおいて、System One Modelによって構築されるファイアウォール
元ポスト:
elephant-1, Base Labs, 2026.10
Paper/Blog Link My Issue
#Article #OpenWeight #Author Thread-Post Issue Date: 2026-10-22 Comment
元ポスト:
blog: https://labs.baseten.co/articles/mammoth-1-and-elephant-1-frontier-decision-models
mammoth-1, Base Labs, 2026.10
Paper/Blog Link My Issue
#Article #OpenWeight #Author Thread-Post Issue Date: 2026-10-22 Comment
元ポスト:
blog: https://labs.baseten.co/articles/mammoth-1-and-elephant-1-frontier-decision-models
pplx-decider-v1.2, Perplexity AI, 2026.10
Paper/Blog Link My Issue
#Article #OpenWeight #Author Thread-Post Issue Date: 2026-10-17 Comment
軽量版: https://huggingface.co/perplexity-ai/pplx-decider-flash-v1.2
元ポスト:
Introducing Microsoft-Decision-1, our model for fast decision-making, Microsoft, 2026.10
Paper/Blog Link My Issue
#Article #Author Thread-Post Issue Date: 2026-10-10 Comment
元ポスト:
Find evidence that supports （or refutes） a given claim.: Each claim is run against 360M+ passages across PMC, arXiv, bioRxiv & medRxiv, and abstracts.
Paper/Blog Link My Issue
#Article #Tools #NLP #Search #Blog #ScientificDiscovery #Selected Papers/Blogs #One-Line Notes #Reading Reflections Issue Date: 2026-10-10 Comment
元ポスト:
SystemOneModelをバックボーンに、scientific claimをクエリとして与えると、100M+の文献に対して検索をかけ、claimに対する（support, opposeな立場の）evidenceを抽出してくれる無料のAPIで、SystemOneModelをバックボーンとして駆動しているようである。めちゃめちゃおもしろそう
たとえば下記claimをクエリとして投げたところ、関連する文献の、関連するpassageがハイライトされた状態でSupportingが7件/Refutingが0件ほど抽出され、citation countも表示されている。
```
Large Language Models can imitate user preferences from descriptive user's persona ana can be used to evaluate presonalised systems.
```
少なくとも下記クエリに対しては、Survey論文や、個別の研究の実験設定において、このようなペルソナを入力することでユーザのpreferenceをシミュレーションするという、ものばかりがヒットし、そもそもLLMによってどこまでユーザのpreferenceをシミュレーション可能なのか？というものを定量的に調査した文献は引っかかっていないように見えた。これがもし真実なのだとしたら、便利だなあ、、、。
特に、原文中の関連するpassageがスニペットとしてハイライトされた形で提示されるので非常に良い。
ただし、クエリを少し変えただけで、結果が結構変わるので、クエリの記述の仕方にはかなり注意をした方がよさそう。
Open d1: Edge decision models for text, vision, and audio, Liquid AI, 2026.10
Paper/Blog Link My Issue
#Article #ComputerVision #NLP #MultiModal #SpeechProcessing #OpenWeight #Selected Papers/Blogs #VisionLanguageModel #2D (Image) #Omni #audio #text #Initial Impression Notes #Author Thread-Post Issue Date: 2026-10-10 Comment
HF:
-
https://huggingface.co/LiquidAI/d1-3B
-
https://huggingface.co/LiquidAI/d1-omni-600M
元ポスト:
proprietaryのd1よりもパラメータ数は小さく性能は低いが、パラメータ数-Decision Indexにおいてパレート最適なOpen Weight Decision Model。LFMをバックボーンとし、omniモデルも存在する。
日本語性能:
pplx-decider-v1.1-27b, Perplexity AI, 2026.10
Paper/Blog Link My Issue
#Article #NLP #MultiModal #Blog #OpenWeight #Selected Papers/Blogs Issue Date: 2026-10-10 Comment
元ポスト:
Decision index v0.3.1においてSoTA:
- Jev Reproductions Tracker / Decision Index, multimodalart, 2026.09
New in llama.cpp: Decision Models, Nguyen+, 2026.10
Paper/Blog Link My Issue
#Article #NLP #LanguageModel #Blog #Initial Impression Notes Issue Date: 2026-10-09 Comment
元ポスト:
llama.cppに SystemOneモデルとして推論するためのエンドポイント `/v1/systemone` がサポートされたようである。
JEV-27B-VL, AutoTrust, 2026.10
Paper/Blog Link My Issue
#Article #ComputerVision #NLP #MultiModal #OpenWeight #VisionLanguageModel #2D (Image) #text #Author Thread-Post Issue Date: 2026-10-09 Comment
元ポスト:
Liquid Foundation Models: Decision Models, Liquid AI, 2026.10
Paper/Blog Link My Issue
#Article #ComputerVision #NLP #MultiModal #Blog #Proprietary #2D (Image) #text #Initial Impression Notes #Author Thread-Post Issue Date: 2026-10-06 Comment
元ポスト:
Liquid AIからもvisionに対応したDecision Modelがリリース、プロプライエタリなようだ
Decision 2.0, vLLM Semantic Router Team, 2026.10
Paper/Blog Link My Issue
#Article #NLP #OpenWeight #Initial Impression Notes #Author Thread-Post Issue Date: 2026-10-03 Comment
元ポスト:
JevArenaにおいて、同等程度の規模感のモデルに対してtopのスコアとのことだが、そもそもJevArenaとはなんぞや...
DiffusionGemma-as-Jev, Matt Mastracci, 2026.09
Paper/Blog Link My Issue
#Article #ComputerVision #NLP #LanguageModel #DiffusionModel #LLMServing #Post #Author Thread-Post Issue Date: 2026-10-02 Comment
vLLMのPR番号57250でマージされ、DiffusionGemmaをJev-likeに利用するための機能がプロトタイプとして実装されているようでえる。
Google Gemmaからも引用されている:
Introducing Clef: our open-source decision models, and new RL fine-tuning platform, Cloudflare, 2026.10
Paper/Blog Link My Issue
#Article #ComputerVision #EfficiencyImprovement #NLP #LanguageModel #MultiModal #Blog #PEFT(Adaptor/LoRA) #OpenWeight #Selected Papers/Blogs #Encoder #KeyPoint Notes Issue Date: 2026-10-02 Comment
元ポスト:
概要しかブログ中には書いていないが、よさげに見える。
Qwen-3.8-27Bをバックボーンとし、Qwenのパラメータはフリーズした上で軽量なアダプタを学習し、ルーティングヘッドなるcross-attentionに基づいた各選択肢のスコアを出力するヘッドによって予測が実施されるようである。
これらは、内部で作成された合成データを用いて事後学習されたとのことである。lossはlabel smoothed cross entropy（正解、不正解ラベルを0/1としてクロスエントロピーを計算するのではなく、ハイパーパラメータεでスムージングしてlossを計算するものらしい）とBrier Loss（実際に予測された確率値と正解、不正解を1/0としたときの平均二乗誤差）なるものによって、正則化によって過学習を防止し、出力される確率値がでたらめにならないように学習することを目指しているように見える。
その後RLCDと呼ばれる、選択肢間の順序関係に基づいて、正解と隣接するラベルにも部分的に報酬を与えるようなrewardを持つ（オリジナルのポリシーから分布が大きくシフトしないようなペナルティ付き）RLによって学習をしているようである。これにより、より高いAccuracyと汎化性能が得られた、と一言記述されている。
Qwenが持つVision Encoderによって画像もエンコードでき（Jevは画像は不可と述べられている）、
context長が64kとJevの2倍で
Jevよりもlatencyが良く、
様々なベンチマークスコアで高いスコアを獲得としている、と報告している。
latencyはflashモデルであれば、DiffusionGemma-as-Jevを上回る。
Language Models for Text Classification: From Bag-of-Words to Jev A Visual Guide to Bag-of-Words, RNNs, CNNs, Transformers, Jev-like APIs, and Calibration, Sebastian Raschka, 2026.09
Paper/Blog Link My Issue
#Article #Tutorial Issue Date: 2026-09-30 Comment
元ポスト:
transformer以前から現在までの分類モデル、およびJevのチュートリアル
Decision models, SGLang, 2026.09
Paper/Blog Link My Issue
#Article #NLP #LanguageModel #MultiModal #Blog #LLMServing #VisionLanguageModel #One-Line Notes #Reading Reflections Issue Date: 2026-09-30 Comment
元ポスト:
SGLangにおいて、Qwen3.8-27B、およびQwen3.5-35B-A3Bを、chat modelからdecision model（System Oneな分類モデル）として利用するためのエンドポイントが追加されたようである。
ドキュメントを読むと、要は既存のLLMに対してリクエストをreasoning modeをオフでprefillし、応答のトークン位置でのスコアリング、選択肢、yes/noのトークンのlogprobを取得し、たとえばyes/noトークンのprobabilityを計算する場合はyes/noの2 vocabularyのsoftmaxを計算する。つまり、単に通常のLLMの応答の開始位置でのラベルのlogprobを取得して、最もlogprobが高いラベルを返し上述の確率を返すというシンプルな実装に見える。
System Oneモデル向けの追加のチューニングや、分類headなどが学習されているわけではない（SGLangはLLM Servingエンジンでありモデルの学習そのものはしないだろうから、そりゃそうだ、という話だった）点に注意。シンプルに、LLMのデコード開始位置でのlogprobを用いた分類器であり、これを念頭におけば、このエンドポイントを利用した場合のおおよその性能の見当はつく（性能が悪いと言いたいわけではなく、これまでのLLM利用の経験からあたりをつけやすいという意図である）。
System One系の話は実装の中身を確認して、どのような原理の元駆動するかを確認しないと、足元をすくわれる気がする。外から見た時の挙動は同じでも、アーキテクチャが結構異なる気がする。あと、アーキテクチャだけでなく、System Oneモデル向けのデータや最適化がされているかによって、そもそもの予測性能やzero-shotでの汎化性能にかなり差が生まれるのではないか、と思っている。しかし、まあ結局自分たちのユースケースに対して必要な性能が出ていて、latencyが必要な水準に達しているかを確認すれば良いだけではある。
GLiNER2.5-Decide: An Open-Weight Model for Structured Decision Making, Fastino Labs, 2026.09
Paper/Blog Link My Issue
#Article #NLP #Blog #OpenWeight #Encoder #Author Thread-Post Issue Date: 2026-09-25 Comment
元ポスト:
Jev-likeなモデル、乱立しすぎである
Contrastive Language Models: A System One Model for Fast and Generalizable Decision-Making, Kwok+, 2026.09
Paper/Blog Link My Issue
#Article #Pretraining #NLP #Dataset #ContrastiveLearning #Blog #OpenWeight #Scaling Laws #mid-training #PostTraining #Selected Papers/Blogs #Encoder #Author Thread-Post Issue Date: 2026-09-24 Comment
元ポスト:
HF: https://huggingface.co/Contrastive-LM
非常にコンパクトにまとまっていて大変読みやすかった。あとでまとめる。
Jev Reproductions Tracker _ Decision Index, multimodalart, 2026.09
Paper/Blog Link My Issue
#Article #Survey #NLP #Evaluation #Selected Papers/Blogs #One-Line Notes #Author Thread-Post Issue Date: 2026-09-20 Comment
元ポスト:
世の中に存在する多くのJev-likeなSystemOne、あるいはDecision Modelを包括的にまとめ、独自に構成されたベンチマークに基づくDecision Indexによってリーダーボードを公開されており、いまのところSystemOneModel, Decision Modelの動向を追うなら、ここが決定版という印象がある。
たとえば、Clefブログで公開されたLayaのベンチマークスコアの低さなどは、Decision Indexにも示されている。
- Introducing Clef: our open-source decision models, and new RL fine-tuning platform, Cloudflare, 2026.10
- laya, convaiinnovations, 2026.09
v0.4に更新され、プライベートなベンチマークのもでの評価となったようである:
decider-2b, Mapika, 2026.09
Paper/Blog Link My Issue
#Article #NLP #LanguageModel #SmallModel #OpenWeight #reading #One-Line Notes #Reading Reflections Issue Date: 2026-09-20 Comment
元ポスト:
こちらはJev系のモデルを謳うものと比較して、Qwenをベースにしており、かつ広範なタスクで評価がされているため、ある程度のzeroshotでの汎用モデルとは言えそうである。が、結局のところどこまで汎用的に使えるかはよくわからない。
関連:
- Needle 3 Automation Foundation Model For Tiny Devices, Cactus, 2026.09
- Introducing System One Models & Jev, TypeSafe AI, 2026.09
Needle 3 Automation Foundation Model For Tiny Devices, Cactus, 2026.09
Paper/Blog Link My Issue
#Article #EfficiencyImprovement #NLP #LanguageModel #Transformer #Blog #SmallModel #Proprietary #Architecture #Selected Papers/Blogs #One-Line Notes #ToolUse #Author Thread-Post Issue Date: 2026-09-19 Comment
元ポスト:
チャットをせず、各ターンごとに関数呼び出しに特化したedge向け小型モデルとのこと。アプリが利用するツール群を渡し、ユーザの発言に基づいて全ての引数を埋めて関数を呼び出す、あるいはスキーマを与えればそのスキーマに則った出力を返し（構造化出力）、推測はしない（関数の範囲外のものは空出力）というもののようである。
これらは、simple attention networkと呼ばれるもので実現される。simple attention networkはtransformerからFFN Layerをを無くし軽量なHadarmard MLPというlayerに置き換え、FFNが従来保持していた知識に関する情報はengramによって、n-gram embedding側に持たせることによって高速、軽量化がじつげんされているようである。residual streamとしては、mHCが用いられているようである。
また、デプロイ時にモデルの深さを指定することで、20個あるうちのどのlayerを利用するかが決まり、性能とコストを調整できるようである。これを公式ポストではIntelligence Laddersと呼称している。
関連:
- [Paper Note] Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models, Xin Cheng+, arXiv'26, 2026.01
- [Paper Note] mHC: Manifold-Constrained Hyper-Connections, Zhenda Xie+, arXiv'25, 2025.12
関連:
- Introducing System One Models & Jev, TypeSafe AI, 2026.09
と思想が似ている。
Introducing System One Models & Jev, TypeSafe AI, 2026.09
Paper/Blog Link My Issue
#Article #EfficiencyImprovement #NLP #AIAgents #Blog #Coding #SoftwareEngineering #Selected Papers/Blogs #reading #KeyPoint Notes #Reference Collection #Reading Reflections Issue Date: 2026-09-16 Comment
細かいことは全くわからないが、LLMのようなチャットモデルは超人的な性能なのになぜAGIに繋がっていないのかが常々疑問で、code+AIに特化したモデルを開発したとのことで、それはどのようなものかというと、
LLMは人間の好みとなる応答を返すように、autoregressiveにテキストを生成するが、
本ブログで紹介されているシステムSystemOneは意思決定に最適化し、並列で生成され、自由なテキストを返せないが構造化出力を高速かつ安価に生成可能で、キャリブレーションされた確信度を常に返す、
というもののようである。
着眼点はとてもおもしろいのだが、どの程度高度な推論をすることができるのだろうか？
現代では高度な推論は計算コストである程度賄っているため、安価で高度な推論もできるのでれば大きなブレイクスルーだが、その技術はLLM側にも適用できる可能性があり、結局いつかLLM側に追いつかれる、という可能性がある。
逆に高度な推論ができないのであれば、適用可能なスコープは限定的となる。
RLCDという技術はすでに先行事例があったようだ:
利用規約でJevに関するベンチマークスコアや性能を公開することが禁止されているようである:
所見:
JamC-QAのスコアは（GPT-5.6-lunaより）低く、日本特有の知識などには弱い可能性がある:
- 『JamC-QA』: 日本の文化や風習に特化した質問応答ベンチマークの構築・公開（前編）, SB Intuitions, 2025.09
色々な動向を鑑みるに、Encoderか、Decoderかはさておき（利用者から見たらどちらでもよい気がするので）、
- zero-shotで様々なタスクに利用可能で
- latencyが非常に速くて
- コストが安価なモデル
という3つの要素が重要に思える。
chatはできないが、構造化出力/関数出力等が可能（なことで様々な分類タスク等に適用できる）というのは、latencyの速さとコストの安価さを得るための手段。エンコーダ、デコーダも手段の話。
過去にPFNがJevに相当する機能を開発しサービス化までしていた、という話がある（関連技術は幅広く特許を取得しているようである）。
なぜ需要を掘り起こせなかったのか、という点は考えてみるとおもしろいのかもしれない。
個人的にはいまJevが流行っぽい兆しを見せているのは、時期的なものが大きい気がしており、
- (Reasoningモデルの台頭によって) LLMのlatencyが悪い
- 多くのワークフローに組み込む場合に得たい出力が（おそらく）構造化出力（で、めちゃめちゃ賢い判断はそこまで必要とされない）
- モデルのトークン利用料が増加し、（おそらく）運用コストが課題となってきた
という課題に世の中が直面し始めて、課題感として持たれ始めていること、が背景としてある気がしており、ちょうどタイミング的に「安い、速い、（そこそこ）賢い」のJevが世の中に刺さったのではないか、という気がしている。