トレーニング済みの Amazon Lookout for Vision モデルの実行 - Amazon Lookout for Vision
[推論単位]アベイラビリティーゾーン

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

トレーニング済みの Amazon Lookout for Vision モデルの実行

画像から異常を検出するためには、まず、StartModelモデルでモデルを起動する必要があります。Amazon Lookout for Vision コンソールは、モデルの開始と停止に使用できる AWS CLI コマンドを提供しています。このセクションでは、使用できるサンプルコードについて説明します。

モデルの開始後は、DetectAnomalies オペレーションを使用して画像の異常を検出することができます。詳細については、「画像内の異常を検出する」を参照してください。

トピック

[推論単位]

モデルを開始すると、Amazon Lookout for Vision は、推論ユニットと呼ばれる最低 1 つのコンピューティングリソースをプロビジョニングします。StartModel API への MinInferenceUnits 入力パラメータで、使用する推論単位数を指定します。モデルのデフォルトの割り当ては 1 推論単位です。

重要

モデルの実行構成方法に基づいて、モデルの実行時間数と実行中にモデルが使用した推論単位数に応じて課金されます。たとえば、モデルを 2 時間使用すると、モデルを 2 時間使用すると、16 推論時間 (8 時間使用すると、モデルを 2 時間使用すると、モデルを 2 時間使用すると、モデルを 2 時間使用すると、モデルを 2 時間使用すると、モデルを 2 時間使用すると、モデルを 2 時間使用すると、モデルを 2 時間使用すると、モデルを 2 時間使用すると、16 詳細については、Amazon Lookout for Vision の料金表を参照してください。モデルを呼び出してモデルを明示的に停止しないとStopModel、モデルで画像を積極的に分析していない場合でも課金されます。

1 つの推論ユニットがサポートする 1 秒あたりのトランザクション (TPS) は、次の影響を受けます。

  • Lookout for Vision がモデルのトレーニングに使用するアルゴリズム。モデルをトレーニングすると、複数のモデルがトレーニングされます。Lookout for Vision では、データセットのサイズと正常画像と異常画像の構成に基づいて、最適なパフォーマンスを備えたモデルが選択されます。

  • 高解像度の画像では、解析に時間がかかります。

  • 小さいサイズの画像 (MB単位) は、大きな画像よりも速く分析されます。

推論ユニットによるスループットの管理

アプリケーションの要求に応じて、モデルのスループットを上げたり下げたりすることができます。スループットを向上させるには、追加の推論ユニットを使用します。推論ユニットを追加するたびに、処理速度が 1 推論単位増加します。必要な推論単位数の計算方法については、「Amazon Rekognition カスタムラベルの推論単位の計算」と「Amazon Lookout for Vision モデルの推論単位の計算」を参照してください。モデルのサポートされる 2 つのオプションがあります。

手動で追加または削除する

モデルを停止し、必要な数の推論ユニットを使用して再起動します。このアプローチの欠点は、モデルが再起動中はリクエストを受け取ることができず、需要の急増に対処できないことです。このアプローチは、モデルのスループットが安定していて、ユースケースで 10 ～ 20 分のダウンタイムを許容できる場合に使用します。例としては、週単位のスケジュールを使用してモデルへの呼び出しをバッチ処理する場合が挙げられます。

自動スケーリング推論単位

モデルが需要の急増に対応する必要がある場合、Amazon Lookout for Vision はモデルが使用する推論単位の数を自動的にスケーリングします。需要が増加すると、Amazon Lookout for Vision はモデルに推論単位を追加し、需要が減少するとそれらを削除します。

Lookout for Vision がモデルの推論単位を自動的にスケーリングできるようにするには、モデルを起動し、MaxInferenceUnitsパラメーターを使用して使用できる推論単位の最大数を設定します。推論ユニットの最大数を設定すると、モデルで使用できる推論ユニットの数を制限することで、モデルの実行コストを管理できます。最大単位数を指定しない場合、Lookout for Vision はモデルを自動的にスケーリングせず、最初に使用した推論単位数のみを使用します。推論ユニットの最大数については、「Service Quotas」を参照してください。

MinInferenceUnitsパラメータを使用して推論単位の最小数を指定することもできます。これにより、モデルに最小スループットを指定できます。

注記

Lookout for Vision コンソールでは推論ユニットの最大数を設定できません。代わりに、MaxInferenceUnitsStartModel操作の入力パラメータを指定します。

Lookout for Vision には、モデルの現在の自動スケーリングステータスを判断するために使用できる以下の Amazon CloudWatch Logs メトリックスが用意されています。

メトリクス 説明

DesiredInferenceUnits

Lookout for Vision がスケールアップまたはスケールダウンしている推論ユニットの数。

InServiceInferenceUnits

モデルが使用している推論ユニットの数。

DesiredInferenceUnits= の場合InServiceInferenceUnits、Lookout for Vision は現在推論ユニットの数をスケーリングしていません。

DesiredInferenceUnits> の場合InServiceInferenceUnits、Lookout for Vision はの値までスケールアップしていますDesiredInferenceUnits。

DesiredInferenceUnits< の場合InServiceInferenceUnits、Lookout for VisionDesiredInferenceUnits はの値まで縮小されます。

Lookout for Vision によって返される指標とフィルタリングディメンションの詳細については、「Amazon による Lookout for Vision のモニタリング」を参照してください CloudWatch。

モデルにリクエストした推論ユニットの最大数を調べるには、DescribeModelMaxInferenceUnits電話をかけて応答のフィールドを確認してください。

アベイラビリティーゾーン

Amazon Lookout for Vision; は、AWSリージョン内の複数のアベイラビリティーゾーンに推論ユニットを分散させ、可用性を高めています。詳細については、アベイラビリティーゾーンを参照してください。アベイラビリティーゾーンの停止や推論ユニットの障害から実稼働モデルを保護するために、少なくとも 2 つの推論ユニットを使用して実稼働モデルを開始する必要があります。

アベイラビリティーゾーンの停止が発生すると、アベイラビリティーゾーン内のすべての推論ユニットが使用できなくなり、モデルの容量が削減されます。DetectAnomaliesへの呼び出しは、残りの推論ユニットに再分配されます。このような呼び出しは、残りの推論ユニットのサポートされる TPS (Transactions Per Seconds) を超えていなければ成功します。AWSアベイラビリティーゾーンを修復した後、推論ユニットが再起動され、フルキャパシティが復元されます。

1 つの推論ユニットに障害が発生すると、Amazon Lookout for Vision は同じアベイラビリティーゾーンで新しい推論ユニットを自動的に開始します。新しい推論ユニットが始まるまで、モデル容量は減少します。