SageMaker InferenceがGPUの多重分割(MIG)をサポート開始
Amazonは2026-11-06に、SageMaker InferenceでNVIDIA Multi-Instance GPU(MIG)を使ったGPUパーティショニングをサポートすると発表しました。
LEAD
リード
Amazonは2026-11-06に、SageMaker InferenceでNVIDIA Multi-Instance GPU(MIG)を使ったGPUパーティショニングをサポートすると発表しました。
ARTICLE
本文
AmazonはSageMaker InferenceでGPUパーティショニングを提供し、物理GPUを独立したパーティションに分割して各パーティションに固定の演算単位とメモリブロックを割り当てる仕組みを導入しました。これにより、各パーティションに異なるモデルを配置でき、より小さなパーティション単位で新世代の加速器を利用できます。パーティションはInference Componentsで指定し、AcceleratorPartitionLayoutsをEndpointConfigに設定、AcceleratorPartitionTypeを各Inference Componentで選ぶことで利用します(例: ml.p4d.24xlarge上のA100は最大七分割)。
ORIGINAL
原文リンク
Related
関連記事
- モデル・製品
Amazon Bedrock AgentCoreでClaude Codeをリモートセッション化、セキュリティ制御も併設と発表
AWSは2026-11-06、Claude CodeをAmazon Bedrock AgentCore上のリモートエージェントとして実行する手法とサンプルを公開した。
- モデル・製品
U Mobile、Amazon Bedrock AgentCoreでAgentic型ヘルプデスク「AiDaH」を構築と発表
U Mobileが2026-11-04、Amazon Bedrock AgentCoreを用いてAiDaH(AI-Driven Agentic Helpdesk)を構築したと発表した。
- モデル・製品
EDB Postgres AIとAmazon Bedrock AgentCoreでエージェント向けセマンティックレイヤー構築を示す手順を公開
AWS Machine Learning Blogが2026-11-03に、EDB Postgres AI内にセマンティックレイヤー(SemKB)を構築し、Amazon BedrockのAgentCoreと連携してC360問合せを実行する手順を示した。
- モデル・製品
ChatGPTデスクトップアプリをAWS GovCloud (US)のAmazon Bedrockで構成する手順を公開
AWSは2026-10-30、ChatGPTデスクトップアプリをAmazon Bedrock上でAWS GovCloud (US)に接続する構成手順を公開した。
Editor's pick
注目ニュース(編集部選定)
直近7日 · 編集部選定
- 1Amazon Bedrock AgentCoreでClaude Codeをリモートセッション化、セキュリティ制御も併設と発表AWSは2026-11-06、Claude CodeをAmazon Bedrock AgentCore上のリモートエージェントとして実行する手法とサンプルを公開した。
- 2SageMaker InferenceがGPUの多重分割(MIG)をサポート開始Amazonは2026-11-06に、SageMaker InferenceでNVIDIA Multi-Instance GPU(MIG)を使ったGPUパーティショニングをサポートすると発表しました。
- 3AmazonがECS Fargate上でサーバーレスMCPサーバーを発表Amazonのチームが2026-11-06に、ECS Fargate上で稼働するサーバーレスのModel Context Protocol(MCP)サーバーについて発表しました。
- 4GoogleがGemini Omni 1.2 Flashを一般提供開始と発表Googleは2026-11-05に、動画生成・編集モデル「Gemini Omni 1.2 Flash」をGoogle Cloudで一般提供開始したと発表した。
- 5NVIDIAのChris Alexiukがオープンモデル「Nemotron」を擁護し教育活動を強化NVIDIAのシニアプロダクトリサーチエンジニア、Chris Alexiukが2026-11-05付の記事で、オープンAIとNemotronを支持し教育発信を続けていると述べた。
Latest
最新記事
- モデル・製品
Amazon Bedrock AgentCoreでClaude Codeをリモートセッション化、セキュリティ制御も併設と発表
AWSは2026-11-06、Claude CodeをAmazon Bedrock AgentCore上のリモートエージェントとして実行する手法とサンプルを公開した。
- 研究・技術
AmazonがECS Fargate上でサーバーレスMCPサーバーを発表
Amazonのチームが2026-11-06に、ECS Fargate上で稼働するサーバーレスのModel Context Protocol(MCP)サーバーについて発表しました。
- モデル・製品
GoogleがGemini Omni 1.2 Flashを一般提供開始と発表
Googleは2026-11-05に、動画生成・編集モデル「Gemini Omni 1.2 Flash」をGoogle Cloudで一般提供開始したと発表した。
- 研究・技術
NVIDIAのChris Alexiukがオープンモデル「Nemotron」を擁護し教育活動を強化
NVIDIAのシニアプロダクトリサーチエンジニア、Chris Alexiukが2026-11-05付の記事で、オープンAIとNemotronを支持し教育発信を続けていると述べた。
- モデル・製品
U Mobile、Amazon Bedrock AgentCoreでAgentic型ヘルプデスク「AiDaH」を構築と発表
U Mobileが2026-11-04、Amazon Bedrock AgentCoreを用いてAiDaH(AI-Driven Agentic Helpdesk)を構築したと発表した。
Category
カテゴリ記事
- モデル・製品
Amazon Bedrock AgentCoreでClaude Codeをリモートセッション化、セキュリティ制御も併設と発表
AWSは2026-11-06、Claude CodeをAmazon Bedrock AgentCore上のリモートエージェントとして実行する手法とサンプルを公開した。
- モデル・製品
GoogleがGemini Omni 1.2 Flashを一般提供開始と発表
Googleは2026-11-05に、動画生成・編集モデル「Gemini Omni 1.2 Flash」をGoogle Cloudで一般提供開始したと発表した。
- モデル・製品
U Mobile、Amazon Bedrock AgentCoreでAgentic型ヘルプデスク「AiDaH」を構築と発表
U Mobileが2026-11-04、Amazon Bedrock AgentCoreを用いてAiDaH(AI-Driven Agentic Helpdesk)を構築したと発表した。
- モデル・製品
Compute Engineが日付ベースAPIマルチバージョンを提供開始
Googleは2026-11-04にCompute EngineのAPIマルチバージョン(date-based API versions)を一般提供として発表した。
Next