AnthropicのコマンドラインAIツール「Claude Code」が、特定のプロキシサーバーを経由するユーザーを識別するための隠し信号(フィンガープリント)を、システムプロンプト内に密かに埋め込んでいたことが開発者のリバースエンジニアリングによって明らかになった。この仕組みは、中国系のAPIプロキシやAI研究所のインフラを経由するリクエストを検知し、不可視のUnicode文字を使ってマーキング ...
LLMの推論速度を向上させる「投機的デコーディング」のボトルネックを解消する新手法「DFlash」が発表された。カリフォルニア大学サンディエゴ校の研究チームが開発し、NVIDIAのBlackwell GPU環境において、従来の自己回帰デコーディング比で15倍以上の同時ユーザー負荷を処理できることが実証された。LLMの推論インフラを運用するエンジニアにとって、コード変更なしで劇的な高速化とコスト削減 ...