WeightSteering
[Paper Note] CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse, Samuel Schapiro+, COLM'26, 2026.07
Paper/Blog Link My Issue
#NLP #LanguageModel #COLM #One-Line Notes #Author Thread-Post #Creativity Issue Date: 2026-08-02 GPT Summary- CreativityNeuroを導入し、大規模言語モデルの発散的思考を改善する。これにより、人間の百分位点を14ポイント向上させ、独創性や驚きを顕著に増加させ、モード崩壊を減少させることを示した。特に、DATではアクティベーション・ステアリングと同等の成果を上げつつ、別のタスクには転移しない有効性が確認された。行動データや再訓練なしに創造性を高める方法を提供する。 Comment
元ポスト:
- [Paper Note] Math Neurosurgery: Isolating Language Models' Math Reasoning Abilities Using Only Forward Passes, Bryan R. Christ+, ACL'25, 2024.10
の手法をCreative Thinkingドメインに適用。Creative Thinking分野は構造化されたデータセットを構築することは困難だが、Promptで振る舞いを記述することは可能なことから、Constrativeなプロンプト（creative vs. non-creative, Table1）を利用し、Math Neuro/Wandaでのパラメータの重要度同定手法を適用し、同定したパラメータの重みをスケーリングすることで、Creative Thinking能力を向上させる。
Divergent Association Task (なるべく互いの距離が大きくなるようにN個の単語を生成するタスク)によって評価したところ性能が向上し (Figure 2)、720人の人間による評価者を用いた評価では、Originarity, Surprise, Creativityが有意に改善した（**Activation Steeringでは有意な改善は見受けられなかった**）、という話のようである。
[Paper Note] Math Neurosurgery: Isolating Language Models' Math Reasoning Abilities Using Only Forward Passes, Bryan R. Christ+, ACL'25, 2024.10
Paper/Blog Link My Issue
#LanguageModel #Pruning #Mathematics #ACL #KeyPoint Notes Issue Date: 2026-08-02 GPT Summary- MathNeuroは、LLM内の数学的推論特有のパラメータを高効率で分離する手法です。これにより、数学の性能を向上させつつ、非数学的挙動に影響を与えずにターゲットを絞った介入が可能になります。一般的な言語タスクに重要なパラメータを除外し、数学的推論能力を削除しつつ、GSM8Kで4-17%、MATHで5-35%の性能改善を達成。Data efficiencyも高く、単一サンプルでも効果的。MathNeuroは、今後の数学特有のパラメータへの介入研究の可能性を示唆しています。 Comment
N個の math/non-math のサンプルについて、`abs(W_ij) * norm(X_j)` を計算し合計することで、パラメータW_ijの 数学/非数学タスクに対する重要度を求め、前者から後者のパラメータの差集合を求めることで、数学に特化したモデルのパラメータを同定（分離）する手法。
GSM8kデータセットを math dataset, RACE, MMLU をそれぞれ独立にnon-math datasetとし、提案手法を適用（数学特化パラメータを同定し、weightを0とすることで刈り込む）。実験の結果、RACE, MMLU (non-mathタスク) の性能を、ベースライン手法よりも高く維持しつつGSM8k (math) タスクの性能を削減できたことから、数学に特化したパラメータをベースラインと比較して効果的に分離できた旨を報告（図中の左上に近ければ近いほど、non-mathタスクの性能を維持しつつ数学能力を削減できたことになる）。
また、同定した数学特化パラメータのスケールを1.1倍すると、non-mathタスクの性能を損なうことなく、数学タスクの性能が向上する傾向が見受けられた。