本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
選擇生成式 AI 服務
採取第一步
| 用途 |
判斷哪些 AWS 生成式 AI 服務最適合您的組織。 |
| 上次更新 |
2025 年 2 月 14 日 |
| 涵蓋的服務 |
|
簡介
生成式 AI 是一組人工智慧 (AI) 系統和模型,旨在產生程式碼、文字、影像、音樂或其他形式的資料等內容。這些系統可以根據從現有資料學到的模式和知識產生新的內容。越來越多的組織和企業使用生成式 AI 來:
-
自動化創意工作流程 — 使用生成式 AI 服務自動化耗時的創意程序工作流程,例如撰寫、建立影像或影片,以及圖形設計。
-
自訂和個人化內容 — 為對象特定內容產生目標內容、產品建議和自訂產品。
-
增強資料 — 合成其他 ML 模型的大型訓練資料集,以解鎖人類標籤資料很少的情況。
-
降低成本:使用合成的資料、內容和數位資產,可能會降低成本。
-
加快實驗速度 — 測試和迭代更多內容變化和創意概念,而不是手動進行。
本指南可協助您選擇最適合您需求和組織的 AWS 生成式 AI 服務和工具。
了解
Amazon 提供各種生成式 AI 服務、應用程式、工具和支援基礎設施。下列哪些是您使用的,取決於下列因素:
-
您嘗試執行的動作
-
您使用的基礎模型中需要多少選擇
-
您在生成式 AI 應用程式中所需的自訂程度
-
組織內的專業知識
Amazon Q Business 和 Amazon Q Developer – 提高生產力的應用程式
在 Amazon 生成式 AI 堆疊的頂端,Amazon Q Business 和 Amazon Q Developer 使用大型語言模型 LLMs) 和基礎模型。不過,它們不需要您明確選擇模型。每個應用程式都支援不同的使用案例,所有應用程式都採用 Amazon Bedrock 技術。
進一步了解目前可用的主要生成式 AI 輔助:
- Amazon Q Business
-
Amazon Q Business 可以根據企業系統中的資料回答問題、提供摘要、產生內容並安全地完成任務。它支援使用生成式 AI 來開始充分利用企業資訊的一般使用案例。透過 Amazon Q Business,您可以對該資訊進行英文查詢。它以適合您團隊需求的方式提供回應。此外,您可以在 Amazon Q Business Pro 訂閱中建立輕量型專用 Amazon Q 應用程式。
- Amazon Q Developer
-
透過 Amazon Q Developer,您可以了解、建置、擴展和操作 AWS 應用程式。支援的使用案例包括從編碼、測試和升級應用程式到診斷錯誤、執行安全性掃描和修正,以及最佳化 AWS 資源的任務。Amazon Q Developer 中的進階多步驟規劃和推理功能旨在減少常見任務涉及的工作 (例如執行 Java 版本升級)。這些功能也可以協助實作從開發人員請求產生的新功能。
Amazon Q Developer 功能可在其他 AWS 服務中作為工作流程的一部分使用,包括聊天應用程式中的 Amazon Q Developer、Amazon CodeCatalyst AWS Glue、Amazon EC2 和 VPC Reachability Analyzer。
與 Amazon Q Developer 聊天,直接從 查詢和探索您的 AWS 基礎設施 AWS 管理主控台。使用自然語言提示與您的 互動 AWS 帳戶,您可以取得特定資源詳細資訊,並詢問資源之間的關係。
- Amazon Q in Quick
-
Amazon Q in Quick 旨在滿足特定使用案例的需求:透過將 Amazon Q 連線至 Amazon Q Quick 商業智慧 (BI) 服務,從資料中取得可行的洞見。您可以使用它來建置資料的視覺化效果、摘要洞察、回答資料問題,以及使用自然語言建置資料案例。
- Amazon Q in Connect
-
Amazon Q in Connect 可以自動偵測客戶問題。它為您的客戶服務客服人員提供內容相關的客戶資訊,以及建議的回應和動作,以更快地解決問題。它結合了 Amazon Connect 雲端聯絡中心服務的功能與 Amazon Q。Amazon Q in Connect 可以使用您與客戶的即時對話,以及相關的公司內容,來建議客服人員應說的內容或應採取的動作來協助客戶。
Amazon Bedrock:使用 FMs 建置和擴展生成式 AI 應用程式
如果您正在開發自訂 AI 應用程式、需要存取多個基礎模型,並想要進一步控制 AI 模型和輸出,則 Amazon Bedrock 可能是符合您需求的服務。Amazon Bedrock 是建置生成式 AI 應用程式的全受管服務,支援熱門的基礎模型,包括 Amazon Nova、Amazon Titan、Anthropic Claude、DeepSeek-R1、Cohere Command & Embed、AI21 Labs Jurassic、Meta Llama、Mistral AI 和穩定擴散 XL。
使用 Amazon Bedrock Marketplace 來探索、測試和使用超過 100 個熱門、新興且專門FMs。支援的 FMs會定期更新。
此外,無論您選擇的基礎模型為何,Amazon Bedrock 都會提供建立具有安全性、隱私權和負責任 AI 的生成式 AI 應用程式所需的內容。它還提供與模型無關的單一 API 存取,以及使用不同基礎模型和升級至最新模型版本的彈性,且程式碼變更最少。
進一步了解 Amazon Bedrock 的主要功能:
- Model customization
-
模型自訂可以提供差異化和個人化的使用者體驗。若要自訂特定任務的模型,您可以使用自己的標記資料集來私下微調 FMs。自訂模型包含功能,例如使用未標記的資料集進行微調和持續的預先訓練。Amazon Bedrock 支援微調FMs 清單包括 Amazon Nova Micro、Lite 和 Pro、Anthropic Claude 3 Haiku、Cohere Command、Meta Llama 2、Amazon Titan Text Lite 和 Express、Amazon Titan Multimodal Embeddings 和 Amazon Titan Image Generator。支援的 FMs 清單會持續更新。
此外,您可以使用 Amazon Bedrock 自訂模型匯入來攜帶自己的自訂模型,並在 Amazon Bedrock 中使用它們。
- Knowledge Bases
-
Amazon Bedrock 知識庫是全受管功能,您可以用來實作從擷取到擷取和提示增強的整個擷取增強生成 (RAG) 工作流程,而無需建立與資料來源的自訂整合,並管理資料流程。工作階段內容管理已內建,因此您的應用程式可以支援多轉對話。您可以使用擷取 API 從知識庫擷取使用者查詢的相關結果。
使用 RAG,您可以為模型提供來自多個來源的新知識或up-to-date,包括文件儲存庫、資料庫和 APIs。例如,模型可能會使用 RAG 從 Amazon OpenSearch Service 或 Amazon Simple Storage Service 擷取搜尋結果。Amazon Bedrock 知識庫透過連線至私有資料來源來完整管理此體驗,包括 Amazon Aurora、Amazon OpenSearch Serverless、MongoDB、Pinecone 和 Redis Enterprise Cloud。此清單包含 Salesforce、Confluence 和 SharePoint (預覽) 的連接器,因此您可以存取更多商業資料,以根據您的特定需求自訂模型。
- Agents
-
Amazon Bedrock Agents 可協助您使用公司系統和資料來源來規劃和建立多步驟任務,從回答客戶有關您的產品可用性的問題到接受他們的訂單。您可以先選取 FM,然後讓代理程式存取您的企業系統、知識庫和 AWS Lambda 函數,以安全地執行 APIs,藉此建立代理程式。代理程式會分析使用者請求,Lambda 函數或您的應用程式可以自動呼叫必要的 APIs和資料來源以滿足請求。
客服人員可以在多個互動中保留記憶體,以記住您上次離開的位置,並根據先前的互動提供更好的建議。代理程式也可以解譯程式碼,以處理複雜的資料驅動使用案例,例如資料分析、資料視覺化、文字處理、解決方程式和最佳化問題。
- Guardrails
-
Amazon Bedrock Guardrails 會根據使用案例特定政策評估使用者輸入和 FM 回應,並提供多一層的保護,無論基礎 FM 為何。使用簡短的自然語言描述,您可以使用 Amazon Bedrock Guardrails 來定義一組主題,以避免在應用程式內容中出現。護欄會偵測並封鎖屬於受限主題的使用者輸入和 FM 回應。
護欄支援內容式接地檢查,使用擷取增強產生 (RAG) 和摘要應用程式來偵測應用程式模型回應中的幻覺。內容接地檢查會新增至 Guardrails 中的安全保護,以確保 LLM 回應是以正確的企業來源資料為基礎,並評估 LLM 回應以確認其與使用者的查詢或指示相關。內容接地檢查可以偵測和篩選 RAG 和摘要工作負載超過 75% 的幻覺回應。
- Converse API
-
使用 Amazon Bedrock Converse API 建立對話式應用程式,以傳送和接收來自 Amazon Bedrock 模型的訊息。例如,您可以建立聊天機器人,以維持多次對話,並使用符合您需求的獨特角色或音調自訂,例如實用的技術支援助理。
- Tool use (function calling)
-
工具使用 (函數呼叫) 可讓模型存取工具,以協助其產生您傳送至模型之訊息的回應。例如,您可能有一個聊天應用程式,可以讓使用者知道廣播電台播放的熱門歌曲。為了回答熱門歌曲的請求,模型需要可以查詢並傳回歌曲資訊的工具。
- Amazon Bedrock IDE
-
使用 Amazon Bedrock IDE,這是 Amazon SageMaker Unified Studio (預覽版) 中的開發體驗,可讓您探索 Amazon Bedrock 模型並建置使用 Amazon Bedrock 模型和功能的生成式 AI 應用程式。例如,您可以使用聊天遊樂場來嘗試使用 Anthropic Claude 模型的提示,而無需撰寫任何程式碼。稍後,您可以使用 Amazon Bedrock IDE 建立生成式 AI 應用程式,該應用程式使用 Amazon Bedrock 模型和功能,例如知識庫或護欄,無需撰寫任何程式碼。
- Prompt management
-
使用 Amazon Bedrock 使用提示管理來建立和儲存您自己的提示,以便透過將相同的提示套用至不同的工作流程來節省時間。建立提示時,您可以選取要對其執行推論的模型,並修改要使用的推論參數。您可以在提示中包含變數,以針對不同使用案例調整提示。
- Prompt flows
-
Amazon Bedrock 的提示流程可讓您透過連結提示、基礎模型和其他 來建立全方位解決方案,使用支援的 FMs AWS 服務 來建置工作流程。
透過提示流程,您可以使用視覺化建置器快速建置複雜的生成式 AI 工作流程。您可以與 Amazon Bedrock 產品整合,例如 FMs、知識庫和其他 AWS 服務 ,例如在它們之間 AWS Lambda 傳輸資料。您也可以部署不可變的工作流程,只要按幾下滑鼠就能從測試移至生產環境。
Amazon SageMaker AI (先前稱為 Amazon SageMaker) — 建置自訂模型並控制從資料準備到模型部署和監控的完整 ML 生命週期
透過 Amazon SageMaker AI,您可以大規模建置、訓練和部署機器學習模型,包括 FMs。當您有可受益於基礎模型廣泛訓練、微調和自訂的使用案例時,請考慮此選項。它還簡化了評估哪種 FM 最適合您的使用案例的有時挑戰性任務。
Amazon SageMaker AI 也提供基礎設施和專用工具,可用於整個 ML 生命週期,包括整合式開發環境 (IDEs)、分散式訓練基礎設施、控管工具、機器學習操作 (MLOps) 工具、推論選項和建議,以及模型評估。
使用 Amazon SageMaker 合作夥伴 AI 應用程式存取由業界領先的應用程式提供者建置、發佈和分發的生成式 AI 和機器學習 (ML) 開發應用程式。合作夥伴 AI 應用程式已通過認證,可在 SageMaker AI 上執行。透過合作夥伴 AI 應用程式,您可以改善根據基礎模型 (FM) 和傳統 ML 模型建置解決方案的方式,而不會影響敏感資料的安全性。資料會完全保留在您信任的安全組態中,而且永遠不會與第三方共用。
SageMaker AI 是新一代 Amazon SageMaker 的一部分,其中包括:
-
Amazon SageMaker Unified Studio (預覽版),一種整合 AWS 資料、分析、人工智慧 (AI) 和機器學習 (ML) 服務的統一開發體驗。
-
AWS 在單一受管環境中用於完整開發工作流程的工具,包括模型開發、生成式 AI 應用程式開發、資料處理和 SQL 分析。建立或加入專案以與您的團隊協作、安全地共用 AI 和分析成品,以及透過 Amazon Amazon SageMaker Lakehouse 存取存放在 Amazon Simple Storage Service (Amazon S3)、Amazon Redshift 和更多資料來源中的資料。
探索 SageMaker AI 的主要功能,可協助您判斷何時使用它:
- Amazon SageMaker JumpStart
-
Amazon SageMaker JumpStart 是一種 ML 中樞,可讓您存取可公開取得的基礎模型。這些模型包括 Mistral、Llama 3、CodeLlama 和 Falcon 2。它們可以透過進階微調和部署技術進行自訂,例如參數效率微調 (PEFT) 和低範圍調整 (LoRA)。
以下螢幕擷取畫面顯示 Amazon SageMaker JumpStart 中的一些可用模型 AWS 管理主控台。
- Amazon SageMaker Clarify
-
Amazon SageMaker Clarify 解決了要使用哪個基礎模型的所有重要決策。使用 Amazon SageMaker Clarify 建立模型評估任務。模型評估任務會評估和比較 JumpStart 中文字基礎模型的模型品質和責任指標。模型評估任務也支援使用已部署到端點的 JumpStart 模型。
- Amazon SageMaker Canvas
-
使用 Amazon SageMaker Canvas,您可以使用機器學習來產生預測,而無需撰寫任何程式碼。您也可以使用 Amazon SageMaker Canvas 與 Amazon Bedrock 合作來微調和部署語言模型。
此部落格文章說明如何使用 Amazon Bedrock 和 Amazon SageMaker JumpStart 中的自有資料集 (例如您的產品FAQs) 來最佳化客戶互動。以下圖表來自此部落格文章,示範如何使用 Amazon SageMaker Canvas 和 Amazon Bedrock 來微調和部署語言模型。
- Amazon SageMaker Studio
-
Amazon SageMaker Studio 是執行 ML 工作流程的 Web 型體驗。Studio 提供一套整合式開發環境 (IDE)。其中包括程式碼編輯器 (以 Code-OSS、Visual Studio Code - Open Source 為基礎)、新的 JupyterLab 應用程式、RStudio 和 Amazon SageMaker Studio Classic。如需詳細資訊,請參閱 Amazon SageMaker Studio 中支援的應用程式。
Studio 中的 Web 型 UI 可在單一界面中存取所有 SageMaker AI 資源,包括任務和端點。ML 從業人員也可以選擇他們偏好的 IDE 來加速 ML 開發。資料科學家可以使用 JupyterLab 探索資料和調校模型。此外,機器學習維運 (MLOps) 工程師可以使用程式碼編輯器搭配 Studio 中的管道工具,在生產中部署和監控模型。
Amazon SageMaker Studio 包含生成式 AI 協助,由 Amazon Q Developer 直接在您的 JupyterLab 整合式開發環境 (IDE) 中提供支援。透過 Q Developer,您可以存取 SageMaker AI 功能、程式碼產生和故障診斷的專家指導。
用於建置和訓練 AI 模型的基礎設施
AWS 提供專門的加速硬體,以進行高效能 ML 訓練和推論。
考慮
在您決定生成式 AI 服務之後,請選擇基礎模型 (FM),為您的使用案例提供最佳結果。
Amazon Bedrock 具有模型評估功能,可協助評估、比較和選擇適合您使用案例的最佳 FMs。
以下是為您的使用案例選擇適當的 FM 時需要考慮的一些關鍵因素:
- Modality
-
識別使用案例/模式
它是什麼: 模態是指模型處理的資料類型:文字、 影像 (視覺) 或 內嵌。
為什麼重要: 模式的選擇應與您正在使用的資料相符。例如,如果您的專案涉及處理自然語言,則適用於 文字型 模型,例如 Claude、Llama 3.1 或 Titan Text G1。如果您想要建立 內嵌,則可以使用 Titan Embeddings G1 之類的模型。同樣地,對於 影像相關 任務,例如穩定擴散 XL 和 Titan Image Generator v2 等模型更為合適。您的使用案例也可能涉及考慮您的資料來源和對資料來源連接器的支援,例如 Amazon Q Business 中提供的連接器。
- Model size
-
模型大小
它是什麼: 此條件是指模型 中的 參數數目。 參數 是模型內部的組態變數。其值可以在訓練階段期間,從指定的訓練資料中估計 (訓練)。參數至關重要,因為它們直接定義模型從資料中學習的能力。大型模型通常具有超過 500 億個參數。
為什麼重要: 參數數量是模型複雜性的關鍵指標。更多參數表示模型可以在資料中擷取更複雜的模式和細微差別,這通常可帶來更好的效能。不過,這些模型不僅需要昂貴的訓練,還需要更多運算資源才能運作。
- Inference latency
-
推論延遲
它是什麼: 推論速度或延遲是模型處理輸入 (通常以字符測量) 並傳回輸出所需的時間。當模型的回應是 互動式系統的一部分時,例如聊天應用程式中的 Amazon Q 開發人員,此 處理時間 至關重要。
為什麼重要: 快速回應時間對於 即時應用程式至關重要, 例如互動式 聊天機器人 或 即時翻譯 服務。這些應用程式取決於模型快速處理和回應提示的能力,以維持順暢的使用者體驗。雖然較大的 FMs 通常提供更詳細且準確的回應,但其複雜的架構可能會導致推論速度變慢。這種較慢的處理可能會讓預期立即互動的使用者感到沮喪。
若要解決此挑戰,您可以選擇針對更快的回應進行最佳化的模型,即使這意味著對回應的深度或準確性略有影響。
- Context window
-
最大化內容視窗
內容:大型語言模型的內容視窗 是模型在產生回應時可以隨時考慮的文字量 (以字符表示)。
為什麼重要: 較大的內容視窗可讓模型在 單一執行中 記住和處理 更多資訊。此能力在複雜任務中特別有價值,例如了解長文件、參與詳細的對話,或在較大的範圍上產生內容準確的文字。
例如,在對話中, 內容視窗 較大的模型可以記住 更早 的對話,並提供與整個對話更相關的回應。這會導致更自然且令人滿意的使用者體驗,因為模型可以維持討論的執行緒,而不會遺失內容。
- Pricing
-
定價考量
它是什麼: 使用 FM 的成本受到模型的複雜性和模型提供者的 定價結構的影響。
為什麼重要: 由於運算需求增加,部署高效能模型通常會帶來高成本。雖然這些模型提供進階功能,但其營運費用可能很高,特別是對於新創公司或預算緊迫的較小專案。
較小、較少的資源密集型模型提供更經濟實惠的選項,而不會大幅降低效能。將模型的成本與其優勢權衡,以確保其符合您專案的財務限制,並為您的投資提供最佳價值。
- Fine-tuning
-
微調和持續預先訓練功能
它是什麼: 微調 是一種專門的訓練程序,其中 已在大型通用資料集上訓練的 預先訓練模型,會在 較小的特定資料集上 進一步訓練 (或微調)。此程序會根據新資料的特殊性來調整模型,改善其在相關任務上的效能。另一方面, 持續預先訓練涉及擴展初始預先訓練階段,並對不屬於原始訓練集的新出現資料進行額外訓練,以協助 模型隨著資料發展而保持相關性。您也可以使用擷取增強生成 (RAG) 從 FM 外部擷取資料,並透過在內容中新增相關的擷取資料來增強提示。
為什麼重要: 透過微調,您可以提供自己的任務特定 標記訓練 資料集,並進一步專注於您的 FMs以提高模型準確性。透過持續的預先訓練,您可以在安全且受管的環境中使用自己的 未標記資料 來訓練模型。透過累積比原始訓練更強大的知識和適應性,持續的預先訓練有助於模型變得更具體領域。
- Data quality
-
資料品質
資料品質是生成式 AI 應用程式成功的關鍵因素。請考慮下列品質因素:
-
相關性:確保您用於訓練生成式 AI 模型的資料與您的應用程式相關。不相關或嘈雜的資料可能會導致模型效能不佳。
-
準確性:資料應準確且無錯誤。不正確的資料可能會誤導您的模型,並導致不正確的輸出。
-
一致性:維持資料中的一致性。資料中的不一致可能會混淆模型,並阻礙其學習模式的能力。
-
偏差和公平性:請注意資料中的偏差,因為它們可能會導致模型輸出偏差。採取步驟來緩解偏差,並協助確保生成式 AI 系統中的公平性。
-
註釋和標籤:如果您的應用程式需要標記的資料,請確認註釋或標籤是高品質的,並由專家建立。
-
資料預先處理:透過清理和預先處理資料來準備資料。這可能包括文字字符化、影像調整大小或其他資料特定轉換,使其適合訓練。
- Data quantity
-
資料數量
數量與品質密切相關。請考慮下列數量因素:
-
足夠的資料:在大多數情況下,更多資料會更好。較大的資料集可讓您的模型學習更廣泛的模式,並更好地進行一般化。不過,所需的資料量可能會因應用程式的複雜性而有所不同。
-
資料擴增:如果您對可用資料的數量有限制,請考慮資料擴增技術。這些技術涉及透過將轉換套用至現有資料來產生額外的訓練範例。例如,您可以輪換、裁剪或翻轉影像或重述文字,以建立更多訓練範例。
-
平衡資料:確保您的資料集平衡,特別是如果您的生成式 AI 應用程式預期在不同的類別之間產生具有相等表示的輸出。不平衡的資料集可能會導致模型輸出偏差。
-
轉移學習:針對特定應用程式,您可以使用預先訓練的模型。透過傳輸學習,您可以使用在大量資料集上訓練的模型,並使用特定資料對其進行微調,通常需要較少的資料進行微調。
隨著生成式 AI 應用程式演進和新資料變得可用,持續監控和更新資料集也很重要。
- Quality of response
-
回應品質
它是什麼: 最基本的條件是回應 品質。這可讓您根據數個品質指標來評估模型的輸出,包括 準確性、 相關性、 毒性、 公平性和針對對手攻擊的 穩健性。
-
準確度 會測量模型回應的正確頻率 (而且您通常會根據預先設定的標準或基準來測量)。
-
Relevance 會評估回應對內容或提出的問題有多適當。
-
有毒性 檢查模型輸出中的有害偏差或不當內容。
-
公平性 會評估模型的回應在不同群組之間是否無偏差。
-
穩健性表示模型處理刻意誤導或惡意輸入的能力,旨在混淆輸入。
為什麼重要: 模型輸出的可靠性和安全性至關重要,特別是在直接與使用者互動或做出可能影響人們生活的自動化決策的應用程式中。 高品質的回應 可確保 使用者的信任 和 滿意度,降低溝通錯誤的風險並增強整體使用者體驗,從而獲得客戶的信任。
選擇
使用
現在我們已經涵蓋了選擇 AWS 生成式 AI 服務時需要套用的條件,您可以選擇哪些服務最適合您的需求,並探索如何開始使用它們。
- Amazon Q Business
-
什麼是 Amazon Q Business?
取得 Amazon Q Business 的概觀,並說明其內容、運作方式,以及如何開始使用。
探索指南
建立 Amazon Q Business 應用程式
了解如何在 AWS 管理主控台 或使用命令列界面 (CLI) 建立您的第一個 Amazon Q Business 應用程式。
探索指南
結合 Amazon Q Business 和 AWS IAM Identity Center 來建置生成式 AI 應用程式
使用 Amazon Q Business 和 建置私有且安全的企業生成式 AI 應用程式 AWS IAM Identity Center。
閱讀部落格文章
- Amazon Q Developer
-
什麼是 Amazon Q Developer?
取得 Amazon Q Developer 的概觀,並說明其內容、運作方式,以及如何開始使用。
探索指南
了解 Amazon Q Developer 的服務層
檢閱以下資訊以了解 Amazon Q Developer 的服務層,包括免費方案的 Amazon Q Developer Pro 和 Amazon Q Developer。
探索指南
使用代理式 AI
使用 Builder Center 快速存取關鍵文章、部落格文章、影片,以及使用 建置、部署和擴展 AI 代理器的秘訣 AWS。
在建置器中心探索代理式 AI
- Amazon Bedrock
-
什麼是 Amazon Bedrock?
了解如何使用此全受管服務,讓來自 Amazon 和第三方的基礎模型 (FMs) 透過統一的 API 供您使用。
探索指南
關於 Amazon Bedrock 的常見問題
取得有關 Amazon Bedrock 最常見問題的解答,包括如何使用代理程式、安全性考量、Amazon Bedrock 軟體開發套件 (SDKs) 的詳細資訊、擷取增強生成 (RAG)、如何使用模型評估,以及計費的運作方式。
閱讀FAQs
使用 Amazon Bedrock 產生產品描述的指引
了解如何使用 Amazon Bedrock 做為解決方案的一部分,以自動化電子商務市場或零售網站的產品審核和核准程序。
探索解決方案
- Amazon Bedrock in SageMaker Unified Studio
-
Amazon Bedrock IDE 重新命名為 SageMaker Unified Studio 中的 Amazon Bedrock。
-
什麼是 SageMaker Unified Studio 中的 Amazon Bedrock?
使用此 IDE 來探索 Amazon Bedrock 模型,並建置使用 Amazon Bedrock 模型和功能的生成式 AI 應用程式。
探索指南
-
在 SageMaker Unified Studio 中使用 Amazon Bedrock 建置生成式 AI 應用程式
此部落格文章說明如何使用各種效能最佳的模型來建置應用程式。接著說明如何評估生成式 AI 應用程式,並與 Amazon Bedrock IDE 共用。
閱讀部落格
-
在 SageMaker Unified Studio 中使用 Amazon Bedrock 建置聊天應用程式
建置聊天代理程式應用程式,允許使用者透過對話界面與 Amazon Bedrock 模型聊天。
探索指南
- Amazon SageMaker AI
-
什麼是 Amazon SageMaker AI?
了解如何使用此全受管機器學習 (ML) 服務,在生產就緒的託管環境中建置、訓練和部署 ML 模型。
探索指南
開始使用 Amazon SageMaker AI
了解如何加入 Amazon SageMaker AI 網域,讓您存取 Amazon SageMaker AI Studio 和 RStudio on SageMaker AI。
探索指南
開始使用 Amazon SageMaker JumpStart
探索為常見使用案例設定基礎設施的 Amazon SageMaker JumpStart 解決方案範本,以及使用 SageMaker AI 進行機器學習的可執行範例筆記本。
探索指南
- Amazon SageMaker Unified Studio
-
什麼是 Amazon SageMaker Unified Studio?
了解如何使用 Amazon SageMaker Unified Studio (預覽版) 從單一介面建置、部署、執行和監控工作流程。
探索指南
使用 Amazon SageMaker Unified Studio 為您的所有資料和 AI 提供整合體驗
了解新的 Amazon SageMaker Unified Studio,並探索它如何統一您的分析工作負載。
閱讀部落格文章
開始使用 Amazon SageMaker Unified Studio
了解如何存取 Amazon SageMaker Unified Studio、建立專案,然後將成員新增至專案,並使用範例 JupyterLab 筆記本以各種工具和資源開始建置。
探索指南
- Amazon Nova
-
什麼是 Amazon Nova?
探索 Amazon Nova,這是 Amazon Bedrock 上提供的新一代基礎模型。
探索指南
Amazon Nova 基礎模型簡介:Frontier 情報和業界領先的價格效能
了解新的 Amazon Nova 模型,包括使用 Amazon Nova 模型分析複雜文件和影片、了解圖表和圖表、產生吸引人的影片內容,以及建置精密 AI 代理器的範例。
閱讀部落格文章
在 Amazon Bedrock 主控台中開始使用 Amazon Nova
了解如何使用 中的遊樂場 AWS 管理主控台 向 Amazon Nova 模型提交文字提示,並產生文字或影像回應
探索指南
- Amazon Titan
-
Amazon Bedrock 中的 Amazon Titan 概觀
取得 Amazon Titan 基礎模型 (FMs的概觀,以支援您的使用案例。
探索指南
使用 Amazon Titan 多模式內嵌模型進行符合成本效益的文件分類
了解如何使用此模型,從大量不同格式的文件中分類和擷取洞見。此部落格會探索如何使用它來協助根據文件的類型,判斷要採取的下一組動作。
閱讀部落格文章
使用 Amazon Titan Text Premier、Amazon Bedrock 和 建置生成式 AI 應用程式 AWS CDK
在此部落格文章中,探索建置和部署兩個採用 Amazon Titan Text Premier 技術的範例應用程式。
閱讀部落格文章
- AWS Trainium
-
的概觀 AWS Trainium
了解 AWS 專為 100B+ 參數模型深度學習訓練打造的 AWS Trainium第二代機器學習 (ML) 加速器。每個 Amazon EC2 Trn1 執行個體最多可部署 16 AWS Trainium 個加速器,為雲端的深度學習 (DL) 訓練提供高效能、低成本的解決方案。
探索指南
建議的 Trainium 執行個體
探索 AWS Trainium 執行個體的設計方式,為深度學習模型推論工作負載提供高效能和成本效益。
探索指南
使用 AWS Trainium 和 Amazon EKS 擴展分散式訓練
如果您使用 Amazon Elastic Kubernetes Service (Amazon EKS) 部署深度學習 (DL) 工作負載,了解如何從採用 的 Amazon EC2 Trn1 執行個體的一般可用性中獲益 AWS Trainium,此專用 ML 加速器經過最佳化,可提供高效能、經濟實惠且可擴展的平台,以在雲端訓練 DL 模型。
閱讀部落格文章
- AWS Inferentia
-
的概觀 AWS Inferentia
了解 如何 AWS 設計加速器,以最低成本為您的深度學習 (DL) 推論應用程式提供高效能。
探索指南
AWS Inferentia 2 建置於 AWS Inferentia 1,可提供 4 倍的輸送量和 10 倍的低延遲
了解針對什麼 AWS Inferentia 2 進行了最佳化,以及它如何設計來提供更高的效能,同時降低 LLMs和生成式 AI 推論的成本。
閱讀部落格文章
使用 的機器學習推論 AWS Inferentia
了解如何使用執行 Amazon EC2 Inf1 執行個體的節點建立 Amazon EKS 叢集,並選擇性地部署範例應用程式。 Inf1 Amazon EC2 Inf1 執行個體採用 AWS Inferentia 由 自訂的晶片, AWS 可在雲端提供高效能和低成本的推論。
探索指南
探索
架構圖
這些參考架構圖顯示使用中的 AWS AI 和 ML 服務範例。
探索架構圖
白皮書
探索白皮書,協助您開始使用並了解選擇和使用 AI 和 ML 服務的最佳實務。
探索白皮書
AWS 解決方案
探索 AI 和 ML 服務常見使用案例的審核解決方案和架構指引。
探索解決方案
Resources
公有基礎模型
支援的基礎模型會定期更新,目前包括:
使用 Amazon Bedrock 和 Amazon SageMaker AI 來實驗各種基礎模型,並使用您的資料私下自訂它們。若要快速探索生成式 AI,您也可以選擇使用 PartyRock,這是 Amazon Bedrock 遊樂場。PartyRock 是生成式 AI 應用程式建置遊樂場,您可以使用該遊樂場透過提示詞工程進行實作實驗。
關聯的部落格文章