代理式資料工程
AWS、ADOPをオープンソース化:マルチエージェントでデータパイプラインを生成し、本番環境では決定論的な成果物のみを実行
ADOPでは約15のエージェントが、自然言語の仕様からETL、品質ルール、セマンティックレイヤー、DAG、インフラストラクチャ設定を生成する。意図的にモデルの利用を開発段階に限定し、本番環境には人によるレビューとCI/CDによる検証を経たコードだけをデプロイする。

AWSは、Agentic Data Operations Platform(ADOP)のリファレンス実装を公開した。新しいデータソースについて、Bronze、Silver、Goldの各レイヤーを構築する作業を専門エージェントに任せる試みだ。ユーザーがS3、Kafka、Kinesis、JDBCのデータソース、更新頻度、品質しきい値、ガバナンス要件を記述すると、オーケストレーターエージェントがmetadata、ontology、data quality、transformation、orchestration、DevOpsなどのタスクに分解し、PySpark、SQL、Airflow DAG、Step Functions、Terraform、CloudFormation、テスト、およびOWL/R2RMLのセマンティック成果物を生成する。リポジトリはMIT-0ライセンスで公開されている。
重要な設計原則は、「エージェントは開発環境にとどめ、成果物を本番環境に投入する」というものだ。モデルは推論とファイル生成を担うが、CI/CDがデプロイするのは、バージョン管理およびテストが可能な決定論的コードとIAM/Cedarポリシーである。本番データパイプラインは、実行のたびにモデルを呼び出す必要がない。エージェントに本番データを直接操作させる方式よりも監査しやすく、推論コストやモデルの変更が既存の処理に直接影響することも避けられる。動的ワークフローでは約15のエージェントを並列起動でき、公式の見積もりでは仕様からの構築に10~20分かかる。逐次モードでは約30分を要する一方、並列モードのtokenコストは3~5倍に増える可能性がある。
セキュリティ面では、サブエージェントはデフォルトでファイルの生成だけを行い、MCP、CLI、AWSツールへのアクセス権限を持たない。メインフローが、サーバーのヘルス状態、インテントルーティング、強制的な不変条件に基づいて使用するツールを決定する。またプロジェクトでは、モデルに提供する情報をschema、カラム統計、少量の隔離されたサンプルに限定し、認証情報はデプロイ時にSecrets Managerまたは外部vaultから取得することを推奨している。ツールの選択、実行結果、コストは毎回CloudWatchまたはOpenTelemetryへ出力できる。
ただし、これは依然としてサンプルアーキテクチャであり、マネージドサービスでも、第三者による検証を受けた製品でもない。「数週間を数時間に短縮する」という主張は、主にAWSとプロジェクト作者による方向性を示す見積もりにすぎない。READMEにある一部の「GDPR、HIPAA、PCI DSS準拠を組み込み済み」という表現も、法務またはセキュリティレビューの代わりにはならない。生成されたマスキング、保持期間、アクセスポリシーは、一見妥当に見えても意味的に誤っている可能性がある。エンジニアリングチームは、まず非クリティカルなデータを使って初回生成物の受け入れ率、回帰テストのカバレッジ、人手による修正量を測定し、そのうえでエージェント化が総コストを本当に削減するかを判断すべきだ。