ネットワークの「不可視」を葬る：Datadog NPMで実現するマイクロサービス・アンダーレイの完全掌握
マイクロサービスアーキテクチャにおいて、「ネットワークは常に正しい」という幻想は、数千台のコンテナが入り乱れるクラスタで即座に打ち砕かれる。VPCフローログの遅延に絶望し、パケットキャプチャの泥沼に足を取られる日々に終止符を打つときが来た。
本稿では、Datadog Network Performance Monitoring (NPM) を単なる「可視化ツール」としてではなく、「システムの神経系を制御する低レイヤの武器」として使い倒すための、極限の知見を授ける。
—
1. NPMの真価：カーネル空間での「真実」を捉える
NPMは単なるコネクション監視ではない。Datadog Agentの `system-probe` が、カーネルの `eBPF` (Extended Berkeley Packet Filter) を叩くことで実現される、極めて低オーバーヘッドな観測インフラだ。
なぜeBPFなのか？
従来のユーザー空間でのパケット解析は、コンテキストスイッチのオーバーヘッドが無視できない。NPMはカーネル空間でTCP/UDPのライフサイクルをフックするため、アプリケーションのコンテキストを汚染することなく、純粋なネットワークトポロジーを抽出できる。
アーキテクチャ上の注意点:
高トラフィック環境では、`system-probe` のメモリ消費が懸念される。`dd-agent` 設定の `network_config` で `collect_tcp_queues` などを適切にチューニングし、不要なメトリクスの流出を制御せよ。
—
2. 現場で震えるボトルネック特定：トポロジーの深淵
マイクロサービス間の通信遅延（Latency）は、往々にしてサービスコードではなく「ノード間のTCP再送」や「接続プール枯渇」にある。
ユースケース：未知の断続的なタイムアウトの追跡
1. NPMトポロジーの「TCP Retransmission」レイヤーを起動:
特定のコンテナ間通信で、再送率が1%を超えた瞬間を特定する。
2. Node-to-Node相関:
再送が特定のAvailability Zone（AZ）や特定のNodeに偏っていないかを確認。これは、クラウドプロバイダー側の物理的なネットワーク輻輳や、MTUミスマッチを即座に浮き彫りにする。
3. タグ付けの徹底:
K8s環境であれば、`kube_service` や `pod_name` のタグ付けを自動化し、通信の単位を論理層まで引き上げる。
—
3. 実践：API経由による「オブザーバビリティの完全自動化」
手動でダッシュボードをポチポチ作るのは、ジュニアエンジニアの仕事だ。我々はTerraformとAPIで「監視をコードとしてデプロイ」する。
以下のスクリプトは、特定のマイクロサービス間の依存関係に異常（TCP再送率が5%超過）を検知した場合、自動的にスナップショットとトポロジーのクエリを生成する独自パイプラインの一部だ。
!/bin/bash
Datadog APIを活用した異常検知時のネットワーク相関レポート生成スクリプト
API_KEY=${DD_API_KEY}
APP_KEY=${DD_APP_KEY}
SERVICE_NAME=”order-processing-service”
ネットワーク再送率が急増した瞬間のトポロジーをAPIで取得
curl -X GET “https://api.datadoghq.com/api/v1/network/topology” \
-H “DD-API-KEY: ${API_KEY}” \
-H “DD-APPLICATION-KEY: ${APP_KEY}” \
-d “query=service:${SERVICE_NAME} AND metric:tcp.retransmits > 0.05” \
> network_incident_dump.json
取得したデータを基に、ボトルネックとなっている接続先を抽出
jq ‘.nodes[] | select(.metrics.retransmits > 0.05) | .name’ network_incident_dump.json
—
4. 上級者向けハック：NPMのオーバーヘッドを極限まで削る
高負荷なデータプレーンにおいて、AgentのCPU使用率を許容範囲に抑えるための最適化術を伝授する。
- コネクションフィルタリング:
監視対象外のバックグラウンドプロセス（ログ収集や監視エージェント自身の通信）を `excluded_processes` で明示的に除外せよ。
- eBPFプローブの最適化:
カーネルバージョンが古い環境では、`system-probe` の `enable_co_re` (Compile Once – Run Everywhere) を有効にせよ。これにより、カーネルヘッダーのインストール不要で、安定したプローブが可能になる。
- サンプリング戦略:
全てのパケットを追う必要はない。`max_connections` パラメータを調整し、サービスにとって「真に重要な通信」のみをサンプリング対象とする設定を適用せよ。
—
結論：ネットワークを「制御」せよ
NPMは、ただのグラフ描画ツールではない。それは、複雑怪奇なマイクロサービスの挙動を「論理的な接続図」として具現化する、エンジニアの知的拡張デバイスである。
次に障害が起きたとき、ログを grep して消耗するのはやめろ。Datadog NPMのトポロジーを開き、どこでパケットが迷子になっているのか、その「真実」をその目で直視せよ。
運用とは、祈ることではない。計ることであり、制御することだ。貴君がこの知見を武器に、誰よりも早く障害を鎮圧することを期待する。