GitHub Repo
Open WebUI 0.11.4、軽量イメージが約175 MBに縮小、RAGの導入には外部サービスとの接続が必要
新版の slim イメージはローカルモデルと関連パッケージを削除。ナレッジ検索には外部の埋め込みサービスと pgvector が必要になる。一部の非互換設定は起動時にエラーとなり、それ以外の問題は実際に機能を使う段階で表面化する。
Archive
技術ニュース 1516 件
GitHub Repo
新版の slim イメージはローカルモデルと関連パッケージを削除。ナレッジ検索には外部の埋め込みサービスと pgvector が必要になる。一部の非互換設定は起動時にエラーとなり、それ以外の問題は実際に機能を使う段階で表面化する。
AI 研究
変更の規模を制限し、評価結果のばらつきと推論コストに基づいてエージェントフレームワークの変更を選別する研究。公開実装により追試が可能だが、トークン削減幅は比較対象によって異なる。
GitHub Repo
Linux CPU向けビルド済みパッケージがmanylinux_2_39に移行し、Ubuntu 22.04とRHEL 9でインストール失敗の報告が出ている。公式のインストール例には旧タグが残っており、導入時にはシステムライブラリと実際の配布ファイルを確認する必要がある。
代理工具
Strands harnessは、ツール、メモリ、コンテキスト管理をすぐにデプロイできるエージェントに統合し、PythonとTypeScriptのインターフェースを提供する。公式のコスト比較も公開されたが、実際の効果はタスク、モデル、キャッシュ条件によって異なる。
GitHub Repo
新版では、ファイル長が変わらないアノテーションの修正でもデータの再スキャンが実行され、バッチサイズの縮小時にオプティマイザーの状態が消去されるのを防ぐ。ファイルサイズと更新時刻が保持される場合は変更を見逃す可能性が残り、再試行時には引き続き該当エポックをやり直す。
最新模型
Nemotron 3 Diarizationは1億パラメータでストリーミング音声と録音を処理し、話者キャッシュを引き継いで区間をまたぐラベルの一貫性を維持する。遅延の数値は音声のバッファリングのみを対象としており、実際の導入では認識、通信、後処理にかかる時間も測定する必要がある。
GitHub Repo
新バージョンでは接続クライアントを再構築し、strict モードを有効にしても古いエンドポイントが使われ続ける問題を修正。カスタム API URL は自動で書き換わらないため、アップグレード後はスキーマと接続設定の確認が必要だ。
GitHub Repo
既存のIntelドライバーで計算グラフをコンパイルし、SHAVEカーネルを置き換えることで、カスタムCプログラムをNPU上で実行する。新たなテストでは2種類の精度を持つ独立ブランチを検証したが、任意の混合精度パイプラインにはまだ対応していない。
最新模型
Solの標準入力・出力単価は前世代のプロモーション価格から半減し、Lunaも同時に値下げされた。キャッシュの更新により、エージェントが推論やツールの使用を調整する際もプレフィックスを保持できるようになるが、書き込み料金やタスクの再試行は引き続き総コストに影響する。
GitHub Repo
RTX 4070を使った再現例で、一部のテンソルサイズではtorch.compile後に誤った結果が生じることが示された。報告ではループの並べ替えと読み書きの依存関係が指摘されており、修正や他の環境への影響は引き続き確認が必要だ。
推論系統
固定ワークロードでBaseRTとllama.cppを比較し、ファイルのハッシュと各測定の所要時間を保存する。ランタイム間のウォームアップの違いや自己申告データの信頼性が、依然としてランキングの解釈を制約する。
GitHub Repo
GitHub の議論、投稿者の属性、現在のコードを一つの検索ワークフローに統合するツール。デフォルトでは機械生成コンテンツを除外するが、インデックスの鮮度、検索の取りこぼし、中国語対応は引き続き検証が必要だ。