GitHub Repo

GitHub 熱門專案、開源工具、框架、runtime 與重要 release。

AI 研究

WISE、再帰型モデルのアテンション対象範囲を再利用し、アテンション処理で1.36倍の高速化を計測

すべての再帰ステップを維持しつつ、初期の探索で後続のアテンション計算の対象範囲を絞る手法。性能の数値はアテンションのワークロードのみを対象としており、4Kコンテキストでの品質低下と公開された再現用資料については、引き続き確認が必要だ。

GitHub Repo

langchain-openai 1.6.6、ストリーミング時のエラー通知漏れを修正 失敗イベントで例外を送出

新版では、Responses APIのストリーミング中に明示的な失敗イベントをアプリケーション層へ伝達し、同期・非同期の両インターフェースにテストを追加した。終了イベントのない途切れたストリームについては別途検証が必要で、既存の例外処理やリトライ戦略も確認する必要がある。