最新模型
Kakao、Kanana-2-v-decideの重みを公開 マルチモーダル判断でエージェントのツール選択を支援
Kakaoは11月6日、テキストと画像の入力から確率、選択肢、スコアを直接出力するKanana-2-v-decideを公開した。モデルは埋め込みの比較を採用し、選択肢のベクトルを再利用できる。公式のレイテンシー数値は、中国語と実際の負荷で検証する必要がある。

Kakaoは11月6日、マルチモーダル判断モデルKanana-2-v-decideを公開したと発表した。公式のHugging Faceコレクションには、kanana-2-v-decide-3b-2611が掲載されている。今回の公開は、エージェントのワークフローで繰り返し発生する分類、ツール選択、画像判定を対象とし、プログラムで処理できる結果をサービスから直接取得できるようにするものだ。重みにはKanana Open Licenseが適用され、公式発表では研究目的と商用利用が認められている。デプロイ前にライセンス条項を確認する必要がある。公式発表、モデルコレクション
このモデルは、KakaoのKanana-2-v-3bをベースとしており、3種類の判断形式を提供する。Noulは条件が成立する確率を返し、Choiceは選択肢ごとの確率と選ばれた回答を返す。Scoreは評価段階ごとの確率からスコアを計算する。1つのリクエストに複数の質問を含めることもできる。たとえば、商品写真と返品・交換に関するメッセージを受け取ったとき、破損の有無、問い合わせの種類、顧客の感情を同時に判定し、その後の対応を業務ルールで決められる。技術解説
アーキテクチャでは、質問と候補回答をベクトルで表現し、類似度を比較する。選択肢が固定されていれば、そのベクトルを事前に保存して再利用し、重複する計算を減らせる。エンジニアリングの観点からは、頻度が高く回答範囲が明確な判断を独立したサービスに切り出す用途に適していると考えられる。エージェントが各ステップで文章を生成し、その回答を解析するコストを抑えられる可能性がある。実際の効果は、入力の長さ、候補数、キャッシュのヒット率によって変わる。アーキテクチャの説明
速度の数値は、測定条件とあわせて見る必要がある。技術記事では、H200を1基使用し、韓国語の商品レビューのデータで測定した場合、1回の判断に約42ミリ秒かかるとされている。また、レイテンシーはトークン数によって変化すると記されている。一方、プレスリリースでは平均0.04秒未満と概説されている。数値にはわずかな差があり、どちらもベンダーによる測定だ。中国語、複数画像、または並行処理を行うサービスでのレイテンシーを保証するものではない。測定条件
中国語を扱うチームは、実際に使うツールの一覧と画像データで、分類精度、確率の校正、テールレイテンシーを測定するのが次の段階となる。信頼度の低い結果を別のモデルや人手にどう引き継ぐかも検証すべきだ。こうしたデプロイ指標によって、エージェントの判断ステップを安定して担えるかどうかが決まる。