AI 安全
Anthropic、ファインチューニング型「嘘発見器」を検証:ドメイン内AUROCは0.95に上昇するも、嘘の種類が変わると約0.70に低下
研究チームは8つのオープンモデルファミリーを用いて、プレッシャーのかかる状況のデータ約20万件を生成し、LoRAでモデルを訓練して、自身が嘘をついているかを判定させた。検出器が主に学習したのは迎合や能力の否認といった表面的なパターンで、未知のタイプに対してはプロンプト方式のベースラインをわずかに上回るにとどまった。
Archive
技術ニュース 1533 件
AI 安全
研究チームは8つのオープンモデルファミリーを用いて、プレッシャーのかかる状況のデータ約20万件を生成し、LoRAでモデルを訓練して、自身が嘘をついているかを判定させた。検出器が主に学習したのは迎合や能力の否認といった表面的なパターンで、未知のタイプに対してはプロンプト方式のベースラインをわずかに上回るにとどまった。
最新模型
ReWorldは、短期的な動作制御と長期的なシーン記憶に異なる注意範囲を割り当て、固定容量のランドマークバンクに履歴を保存する。著者らは704×1280のリアルタイムストリーミングと64秒間の帰還軌跡を実演したが、現時点で公開されているのは論文とデモページのみで、重みやコードは未公開だ。
GitHub Repo
Prime Agentは、常駐型IPython、daemonセッション、バージョン管理可能なContinual Harnessにより、長時間稼働するコーディングエージェントを支援する。作者らによれば、ARC-AGI-3 RHAEのBest@1は30%から95.5%へ向上した。ただし、このスコアはモデルとharnessを組み合わせたシステム全体の結果であり、基盤モデル単体の能力比較には使えない。
代理工具
新ベンチマークは、コードがコンパイルできるかだけでなく、非公開の科学テストを用いて単位、数値的不変条件、ファイルのセマンティクス、モジュール間のデータフローを検証する。Claude CodeとOpus 5の組み合わせによる全体のpass@1は47.90%。実験では、ドメイン知識の追加によってエージェントが誤った方向に固執する場合もあることが示された。
GitHub Repo
DFlash 2は、候補パスセレクターと動的畳み込みによってブロック拡散ドラフトを改善し、単一リクエストのテストでQwen3.8-27Bに自己回帰デコードの2.7~3.4倍のスループットをもたらした。最新の再現可能な不具合では、vLLM nightlyが誤ったdecoder layerを生成するほか、語彙重みを共有する前に一時的に約4.74GiBを余分に割り当てるため、24GBのGPUでは起動できない可能性がある。
硬體
MetaはMTIA 300のシステム設計を公開した。内蔵NIC chiplet、ニアメモリ・リダクション・ユニット、コンパイル方式のHCCLにより、レコメンデーションモデルの学習を高速化する。公式発表によると、40基のアクセラレータにおける通信時間は比較対象のGPUクラスタの約4分の1に短縮されたが、コスト、消費電力、汎用LLM学習との比較は示されていない。
AI 基礎設施
新版AMIには`pcluster-diag`が組み込まれ、ノードの役割に応じてSlurm、IMDS、ディレクトリサービス、Lustreの状態を検査し、構造化レポートを出力できる。今回のアップグレードではAmazon Linux 2とAWS Batchのサポートも終了し、権限、ネットワークの外向き通信、実行環境に関する変更への事前対応が必要となる。
代理工具
DeepSeek Harnessのメインパッケージでは`latest`がすでに0.1.1-rc.2を指している一方、複数の基盤パッケージでは依然として初期バージョンが最新版として指定されている。プラグインAPIを直接インストールすると、peer dependencyの競合が発生したり、バージョンが食い違った依存関係ツリーが警告なしに構築されたりする可能性がある。
AI 基礎設施
AWSは、Rayクラスターの作成、リモートジョブの送信、監視、ワークスペース接続をHyperPod on EKSに統合した。インターフェースにはKubeRayと標準Ray APIが引き続き採用される一方、デプロイには複数のアドオンが必要で、コストや性能の比較も公式には公表されていない。
AI 研究
η-learningは、極値統計による制約を生成モデルに組み込み、希少事象が不足するペアデータから高解像度の極端シナリオを合成する。インフラのストレステストに活用できる一方、災害がいつ発生するかは予測できず、信頼できる外部統計にも依存する。
代理工具
新機能により、実行中のエージェントがPRコメントを読み取り、`steer`指示に従って作業を修正できるようになった。同時に、明示的な読み取り権限も必要となる。しかし公式週報は、それより前に作成されたv0.87.4での試用を推奨しており、このタグに固定したデプロイでは実際には機能を利用できない。
AI 基礎設施
Groq 3 LPXは、256基のLP30、128GBのSRAM、コンパイラによって事前スケジューリングされたチップ間転送を統合した低レイテンシdecodeシステムだ。第三者テストでは、長いコンテキストにおいて既存の公開endpointを上回る速度を示したが、コスト、並行処理時のthroughput、本番サービスでの性能はまだ公開されていない。