Watermark (5) — 1/1
[Paper Note] Reconciling Privacy with Provenance for Language Model Watermarks, Elise L. Han+, arXiv'26, 2026.11
Paper/Blog Link My Issue
#NLP #LanguageModel #Privacy #Initial Impression Notes #Author Thread-Post Issue Date: 2026-11-08 GPT Summary- LMの個人追跡ではなく、集計的な利用頻度推定を目的とすることで、出所情報とプライバシーを両立する透かしを提案。 局所差分プライバシーにより個々のテキストの寄与を制限しつつ、RGS透かしで高いプライバシー水準でも正確な利用頻度推定を実現。 C4やエッセイ執筆タスクにおいて、少数のサンプルでも低い誤差で推定できることを確認。 Comment
github: https://github.com/eliselyhan/dp-watermarks
元ポスト:
著者ポスト2:
OpenAIやAnthropicなどの生成AIを提供する側が埋め込むwatermarkは、個人な生成AI利用を明らかにするためプライバシーの問題が生じ、かつユーザ側にも言い換え等を通じてwatermarkを削除しようとするインセンティブが生じてしまう構造的な問題がある。この構造的な問題を、目的を個々のAI生成テキストの検証から、集団中の割合の推定に切り替えることで、ユーザのプライバシーを保証しつつ(個々のAI生成テキストの検出はせず)、AI生成の大域的な利用状況を把握できるようにする、という話に見える。
[Paper Note] Addressing Tokenization Inconsistency in Steganography and Watermarking Based on Large Language Models, Ruiyi Yan+, EMNLP'25
Paper/Blog Link My Issue
#NLP #LanguageModel #EMNLP #Tokenizer Issue Date: 2025-08-31 GPT Summary- 大規模言語モデルはテキスト生成を向上させる一方で、ステガノグラフィーとウォーターマーキングの重要性が増している。本研究では、トークン化の不一致(TI)が堅牢性に与える影響を調査し、TIの原因となるトークンの特性として稀少性と一時性を特定。これに基づき、ステガノグラフィー用の段階的検証方法とウォーターマーキング用の事後ロールバック方法を提案。実験により、TIに直接対処することで、ステガノグラフィーの流暢さや対ステガ分析能力、ウォーターマーキングの堅牢性が向上することが示された。 Comment
元ポスト:
[Paper Note] DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature, Eric Mitchell+, ICML'23, 2023.01
Paper/Blog Link My Issue
#MachineLearning #NLP #LanguageModel #ICML #Selected Papers/Blogs #text #AI Detector Issue Date: 2025-11-17 GPT Summary- LLM生成テキストの検出の必要性を背景に、対数確率関数の負の曲率を利用した新しい検出手法「DetectGPT」を提案。これにより、別の分類器やデータセットを必要とせず、特定のLLMから生成されたテキストを高精度で識別可能。特に、GPT-NeoXによるフェイクニュース記事の検出で、従来の手法を大幅に上回る性能を示した。
How Claude’s text watermark works, Anthropic, 2026.08
Paper/Blog Link My Issue
#Article #NLP #LanguageModel #Blog Issue Date: 2026-08-18 Comment
公式ポスト:
所見:
より安全で透明性の高い AI エコシステムに向けて、コンテンツ来歴の取り組みを前進, OpenAI, 2026.05
Paper/Blog Link My Issue
#Article #ComputerVision #TextToImageGeneration #Proprietary #2D (Image) #One-Line Notes #ImageSynthesis #AI Detector #Author Thread-Post Issue Date: 2026-05-27 Comment
元ポスト:
画像生成にSynthID追加、また、画像がChatGPT, Codex, OpenAI APIから生成されたものかを判定するツールの一般向けプレビューを開始
https://openai.com/ja-JP/research/verify/
