架構 - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

架構

問題

回應範例

正在考慮哪種類型的生成式 AI 模型或架構?

轉換器、卷積神經網路 (CNN)、遞歸神經網路 (RNN)、決策樹等。

預期的資料和運算規模或數量是多少?

數百萬使用者、PB 的資料等。

訓練和推論的硬體需求 (例如 CPUs或 GPUs) 有哪些?

高階 GPUs、CPU 叢集、雲端執行個體等。

生成式 AI 模型將如何隨著時間更新或重新訓練?

透過持續學習、定期重新訓練、手動更新等。

什麼是資料預先處理和特徵工程需求?

文字清理、影像增強、功能選擇等。

生成式 AI 系統會如何處理邊緣案例、極端值或低可信度輸入?

透過回復至人工監督、請求釐清等。

生成式 AI 應用程式的延遲要求是什麼?

即時、近乎即時、批次處理等。