THINKLAB
NEWS研究・技術企業公式ブログ

AWS、推論の測定・構成選定を支援する「aws-ai-ml」スキルを紹介

aws-ai-mlの測定・構成選定機能と導入条件を整理。利用者のAWS権限でコードが動く点、負荷試験が実通信を発生させる点、Studioで必要な設定を紹介します。

LEAD

リード

aws-ai-mlはコーディングエージェントの推論測定や構成選定を支援するスキルです。

生成したコードは利用者のAWS認証情報で動き、関連APIの権限が必要です。

既存エンドポイントの負荷試験は実際の通信を発生させるため、実行対象を確認します。

ARTICLE

本文

AWSはAgent Toolkit for AWSを通じて使えるaws-ai-mlスキルを紹介した。Kiro、Claude Code、Codexなどのコーディングエージェントに推論最適化の手順を渡し、SageMakerエンドポイントの測定、構成の推奨、結果の比較、Python SDK v3コードの生成を支援する。

ローカル導入の案内ではAWS CLI 2.35以降とuvが必要になる。生成コードは利用者のAWS認証情報で実行されるため、エンドポイント作成や測定・推奨ジョブに必要なSageMaker AI APIの権限を用意する。スキルのインストールだけで、これらの権限が付与されるわけではない。

AWSは、既存エンドポイントのベンチマークが実際の通信を発生させるため、負荷試験を行ってよい対象か事前に確認すると説明する。測定項目には処理量、p50・p99レイテンシー、最初のトークンまでの時間、同時接続数がある。Studioで使う案内では、スキルを含むイメージと新しいPrivateのJupyterLab spaceを指定している。THINKLABではスキルの導入や性能測定を実行していない。

THINKLAB COMMENT

THINKLABコメント

測定に使うなら、本番とは別の対象を用意し、モデル、インスタンス、入力の長さ、同時接続数を記録したい。構成を変えて比較する際は、そのうち何を変えたかを残す。処理量が増えても遅い応答が増える可能性を見落とさないよう、p50とp99を併記し、費用も別に確認する。これはTHINKLABの比較手順案で、スキルが得た測定結果ではない。

ORIGINAL

原文リンク

AWS Machine Learning Blog

公式発表を見る(外部リンク) →

参照日 2026年10月6日

Next

次に見るコンテンツ