AI coding/軟體工程研究
RAMP、リポジトリ内のAI設定ファイルで成熟度を分類:未設定プロジェクトではcoding agent導入後の複雑性増加率が約2倍に
研究チームは、企業の441リポジトリを基に4段階のRepository AI Maturity Profileを構築し、coding agentを導入した509件のオープンソースプロジェクトを再分析した。共通ルールやagent設定を備えるリポジトリは品質指標が良好だったが、観察研究であるため、設定ファイル自体が改善をもたらしたとはまだ証明できない。

研究チームは、アンケートではなく、バージョン管理システムにコミットされたAIツール設定をスキャンし、プロジェクトがcoding agentをどのように管理しているかを測定するRepository AI Maturity Profile(RAMP)を提案した。4つのレベルは順に、設定がまったくないL1、行動ルール、アーキテクチャの説明、またはcoding standardsを備えるL2、名前付きagent、コマンド、Skillsを追加したL3、そしてmulti-agent間の依存関係、ハンドオフ、実行ログを定義するL4である。
分類器はClaude Code、Cursor、GitHub Copilot、Codex、Gemini CLI、OpenHandsなど12種類のツールを対象とする。まず43組のパスパターンでファイルを探索し、次にパスとコンテンツのembeddingを使って9つの意味カテゴリに分類する。開発用サンプルには、27組織の非公開リポジトリ441件と、検証済みのAI artifact 1,046件が含まれる。独立した人手によるアノテーションでは、ホールドアウトサンプルとなる35リポジトリのうち34件で同じレベルが再現された。結果は、L1が66.7%、L2が24.7%、L3が8.6%で、非公開サンプルではL4は確認されなかった。また、設定ファイルの73.8%はコミット後に一度も変更されていなかった。
続いてチームは、固定した分類器を既存のcoding-agent導入データに適用した。追跡可能な509リポジトリのうち、agent-firstサブサンプルでは、すべての成熟度レベルでコミット数が約28~38%増加した一方、品質面の変化には差があった。L1ではcognitive complexityが53%増加したのに対し、L2以上では27%の増加にとどまった。静的解析の警告数の増加率にも約1.7倍の差があった。この結果は、`AGENTS.md`、`CLAUDE.md`、`.cursor/`のルール、再利用可能なSkillsが、単なる運用上の利便性にとどまらず、測定可能なエンジニアリングのコントロールプレーンになり得ることを示している。
エンジニアリングチームはまず、agentルールをcode reviewの対象に含め、オーナーと更新周期を定めたうえで、複雑性、警告、手戻り率を追跡できる。ただし、RAMPが示すのは相関関係にすぎない。管理規律に優れたチームは、もともと設定ファイルを継続的に保守しながら、より高品質なコードも生み出している可能性がある。さらに、非公開サンプルはリポジトリ単位で公開できず、開発データにはL4が存在しなかった。どのルールが実際に技術的負債を削減するのかを判断するには、agent導入前に設定を固定した前向き研究またはランダム化実験が次の段階として必要になる。