Amazon SageMaker 功能

Amazon SageMaker 包括以下功能。

重新發明 2023 的新功能

SageMaker 包含下列適用於 R: 發明 2023 的新功能。

SageMaker 用於資料準備的畫布聊天

SageMaker 用於資料準備的畫布聊天可協助您使用 LLM 建立資料準備流程。

程式碼編輯器

程式碼編輯器會擴充 Studio，讓您可以撰寫、測試、偵錯及執行您的分析和機器學習程式碼，以 Visual Studio 程式碼-開放原始碼 (「程式碼作業系統」) 為基礎的環境中。

適用於大型模型推論的深度學習容器

SageMaker 已將預設的 NCCL 核心取代為推論最佳化核心，以提升 GPU 使用率，並提供與 OSS 的差異化效能。

部署模型以進行即時推論

SageMaker 推論提供開發人員體驗和使用者介面抽象，協助您更快地開始使用模型部署。

SageMaker 客戶現在可以透過將多達數千個模型部署到具有保證輸送量和每個模型 auto-scaling 模的 SageMaker 端點，藉此改善加速運算執行個體的使用率。

SageMaker分發映像

SageMaker Distribution 是專為機器學習、資料科學和資料分析而設計的 Docker 映像集合。這些映像可跨工作室、工作室實驗室、工作室筆記本和 Github 使用。

網域上線簡化

為單一使用者和組織管理員提供新功能，提供簡化且引導式的 Amazon SageMaker 網域上線體驗。這些功能包括直接整合 IAM 身分中心、精細的存取政策管理、順暢的 SageMaker 應用程式管理和設定，以及 VPC 和儲存設定。

Amazon S3 快遞一個區域

Amazon S3 Express 單一區域是新的儲存類別，可為對延遲最敏感的應用程式提供 10 毫秒的存取。Amazon S3 Express One Zone 可讓客戶將物件儲存和運算資源分配到單一AWS可用區域中，藉此提高資料處理速度來最佳化運算效能和成本。

基礎模型評估

Foundation 模型評估 (FMeval) 可協助您量化語言模型中提供不正確、有毒或偏見內容的風險，以便您可以針對您的使用案例選擇最適合的內容。使用您自己的自訂資料集，或使用內建的資料集來評估任何語言模型。FMeval 與數十個基於文本的基礎模型集成 SageMaker JumpStart 或自帶。您也可以使用 FMEval 程式庫建立自訂評估。

SageMaker HyperPod

SageMaker HyperPod 是在彈性叢集上提供永遠在線的機器學習環境的功能，您可以執行任何機器學習工作負載來開發大型機器學習模型，例如大型語言模型 (LLM) 和擴散模型。 SageMaker

木星萊

Jupyter AI 和代碼低語者已被列入分發中。 SageMaker 透過此更新，Studio 或程式碼編輯器的使用者可以輕鬆地從筆記本使用生成 AI，並利用程式碼 Whisperer 的程式碼完成功能。

JupyterLab 在工作室

JupyterLab 在 Studio 中提高了工作室筆記本的延遲和可靠性

SageMaker筆記本工作

SageMaker 筆記本工作提供 SDK 支援筆記本工作，讓您可以透過程式設計方式排程筆記本工作

SageMaker 管道

SageMaker Pipelines 提供您將本機機器學習程式碼轉換為 SageMaker Pipeline 步驟的選項，您可以從中建立和執行管道。

SageMaker智能篩選

SageMaker 智慧篩選是一種訓練功能，可提高 SageMaker 訓練資料集的效率，並減少總訓練時間和成本。

SageMaker Studio

Studio 是執行機器學習工作流程的最新網路型體驗。工作室提供了一套 IDE，包括代碼編輯器，一個新的 Jupyterlab 應用程序，RStudio 和工作室經典。

機器學習環境

SageMaker 包含下列機器學習環境。

SageMaker 空間功能

使用地理空間資料建置、訓練及部署 ML 模型。

SageMaker 帆布

自動 ML 服務，讓沒有編碼經驗的人員能夠建置模型，並利用模型進行預測。

SageMaker 工作室

整合式機器學習環境，可讓您完全在同一個應用程式中建置、訓練、部署和分析模型。

SageMaker 工作室實驗

一項免費服務，可讓客戶在以開放原始碼為基礎的環境中存取AWS運算資源 JupyterLab。

Amazon 上的 RStudio SageMaker

適用於 R 的整合式開發環境，具有支援直接程式碼執行的主控台、語法強調顯示編輯器，以及繪圖、歷史記錄、偵錯和工作區管理的工具。

主要功能

SageMaker 包括以下主要功能，按字母順序排列，不包括任何 SageMaker前綴。

Amazon Augmented AI

建置人工檢閱 ML 預測所需的工作流程。Amazon A2I 透過消除與建置人工檢閱系統或管理大量人工檢閱者相關的繁重工作，提供所有開發人員機器學習預測的人工檢閱資料。

AutoML 步驟

建立 AutoML 工作以自動訓練 SageMaker 管道中的模型。

SageMaker 自動駕駛儀

不熟悉機器學習的使用者可以快速建立分類和迴歸模型。

批次轉換

預處理資料集、在您不需要持久性端點時執行推論，然後將輸入記錄與推論產生關聯，以協助解釋結果。

SageMaker 澄清

透過偵測潛在的偏差並協助解釋模型所做的預測，改善您的機器學習模型。

與共用空間協同合作

共用空間由共用 JupyterServer 應用程式和共用目錄組成。Amazon SageMaker 網域中的所有使用者設定檔都可存取網域中的所有共用空間。

SageMaker 資料牧馬人

在 SageMaker Studio 中匯入、分析、準備和特徵化資料。您可以將 Data Wrangler 整合到您的機器學習工作流程中，幾乎不使用程式碼，簡化和精簡資料預先處理和特徵工程。您也可以新增自己的 Python 指令碼和轉換來自訂資料準備工作流程。

Data Wrangler 資料準備小工具

與您的資料互動、取得視覺化的檢視、探索可行見解，並修正資料品質問題。

SageMaker 调试器

在整個訓練過程中檢查訓練參數和資料。自動偵測常見的錯誤並提醒使用者，例如參數值變得太大或太小。

SageMaker 邊緣管理員

最佳化邊緣裝置的自訂模型、建立和管理機群，並以有效率的執行時間執行模型。

SageMaker Elastic Inference

加速輸送量並縮短獲得即時推斷的延遲。

SageMaker 实验

實驗管理和追蹤。您可以使用追蹤的資料來重建實驗、根據同儕所做的實驗來累加建置，以及為了合規性和稽核驗證而追蹤模型世系。

SageMaker 功能商店

功能和相關中繼資料的集中儲存區，因此可以輕鬆探索和重複使用功能。您可以建立兩種類型的儲存：線上儲存或離線儲存。線上儲存可用於低延遲的即時推論使用案例，而離線儲存則用於訓練和批次推論。

SageMaker Ground Truth

高品質訓練資料集，使用工作者加上機器學習來建立標記的資料集。

SageMaker Ground Truth 加

統包式資料標記功能可以建立高品質的訓練資料集，無需自行建置標記應用程式和管理標記人力。

SageMaker 推論建議程式

取得推論執行個體類型和組態 (例如執行個體計數、容器參數和模型最佳化) 的建議，以使用您的 ML 模型和工作負載。

推論陰影測試

透過比較模型服務基礎設施與目前已部署基礎設施的效能，評估模型服務基礎設施的任何變更。

SageMaker JumpStart

透過策劃的一鍵 SageMaker 式解決方案、範例筆記本，以及您可部署的預先訓練模型，瞭解各項功能。您還可以微調和部署模型。

SageMaker ML 歷程追蹤

追蹤機器學習工作流程的歷程。

SageMaker 模型建立管道

建立和管理直接與 SageMaker工作整合的機器學習管道。

SageMaker 模型卡

請在單一位置記錄 ML 模型的相關資訊，以簡化整個 ML 生命週期中的控管和報告。

SageMaker 模型儀表板

在您的帳戶中所有模型的預先建置視覺化概觀。Model Dashboard 整合了 SageMaker Model Monitor 的資訊、轉換工作、端點、歷程追蹤，以及 CloudWatch 讓您在一個統一檢視中存取高階模型資訊並追蹤模型效能。

SageMaker 模型監控

監控和分析生產環境中的模型 (端點)，以偵測模型品質中的資料漂移和偏差。

SageMaker 模型註冊表

為機器學習模型部署提供版本控制、成品和歷程追蹤、核准工作流程，以及跨帳戶支援。

SageMaker 新

將機器學習模型訓練一次，即可在雲端和邊緣的任何地方執行。

筆記本型工作流程

將您的 SageMaker Studio 筆記本當做非互動式排程工作執行。

預處理

分析和預處理資料、進行特徵工程和評估模型。

SageMaker 项目

使 SageMaker 用專案建立具有 CI/CD 的 end-to-end ML 解決方案。

強化學習

將代理器採取行動而獲得的長期報酬最大化。

SageMaker 角色管理員

管理員可以使用自訂、預先設定的角色型 IAM 角色，為常見機器學習活動定義最低權限許可。

SageMaker 無伺服器端點

託管 ML 模型的無伺服器端點選項。自動擴展容量來提供端點流量。無需在端點上選取執行個體類型或管理擴展政策。

工作室經典 Git 擴展

Git 擴展，以輸入 Git 儲存庫 URL、將其複製到您的環境中、推送變更，以及檢視遞交歷史記錄。

SageMaker Studio 筆記本

新一代 SageMaker 筆記型電腦，包括 AWS IAM Identity Center (IAM 身分中心) 整合、快速啟動時間，以及按一下共用。

SageMaker 工作室筆記本和 Amazon EMR

直接從 SageMaker Studio 在單一帳戶和跨帳戶組態中輕鬆探索、連線、建立、終止和管理 Amazon EMR 叢集。

SageMaker 訓練編譯器

在受管理的可擴充 GPU 執行個體上更快訓練深度學習模型 SageMaker。