適用於 AWS SRA 的生成人工智慧

本節提供有關安全使用生成 AI 以提高使用者和組織生產力和效率的最新建議。它著重於根據 AWS SRA 的整體準則集使用 Amazon 基岩，以便在多帳戶環境中部署完整的 AWS 安全服務。 本指南建立在 SRA 之上，可在企業級安全架構中啟用生成式 AI 功能。它涵蓋關鍵的安全控制，例如 IAM 許可、資料保護、輸入/輸出驗證、網路隔離、記錄和監控等 Amazon Bedrock 生成 AI 功能專用。

本指引的目標對象為安全專業人員、架構師和開發人員，他們負責將生成 AI 功能安全地整合到其組織和應用程式中。 

SRA 探索這些 Amazon 基岩生成 AI 功能的安全考量和最佳實務： 

• 能力 1. 為開發人員和資料科學家提供對基礎模型 (模型推論) 的安全存取和使用

• 工作能力 2. 提供擷取增強產生 (RAG) 解決方案的安全存取、使用和實作

• 工作能力 3. 提供自主生成 AI 代理程式的安全存取、使用和實作

• 能力 4. 提供模型自訂的安全存取、使用和實作

該指南還涵蓋了如何根據您的使用案例將 Amazon 基岩生成 AI 功能整合到傳統 AWS 工作負載中。 

本指南的下列各節將展開這四項功能中的每一項，討論功能的基本原理及其用法、涵蓋與該功能有關的安全考量，以及說明如何使用 AWS 服務和功能來解決安全考量 (修復)。使用基礎模型 (功能 1) 的理由、安全性考量和補救適用於所有其他功能，因為它們都使用模型推斷。例如，如果您的商業應用程式使用具有擷取增強產生 (RAG) 功能的自訂 Amazon 基岩模型，您必須考慮功能 1、2 和 4 的基本原理、安全考量和補救。

下圖所示的架構是本指南先前描述的 AWS SRA 工作負載 OU 的延伸。

特定 OU 專用於使用生成式 AI 的應用程式。OU 由一個應用程式帳戶組成，您可以在其中託管傳統 AWS 應用程式，以提供特定商業功能。此 AWS 應用程式使用 Amazon 基岩提供的生成式人工智慧功能。這些功能是從生成 AI 帳戶提供的，該帳戶託管相關的 Amazon 基岩和相關 AWS 服務。根據應用程式類型將 AWS 服務分組，有助於透過 OU 特定和 AWS 帳戶特定的服務控制政策強制執行安全控制。這也使得實施強大的訪問控制和最小權限變得更加容易。除了這些特定 OU 和帳戶之外，參考架構還描述其他 OU 和帳戶，這些帳戶提供適用於所有應用程式類型的基礎安全性功能。本指南前面的章節將討論組織管理、安全性工具、記錄封存、網路和共用服務帳戶。

設計考量

您可以根據軟體開發生命週期 (SDLC) 環境 (例如開發、測試或生產)，或依模型或使用者社群，進一步打破您的生成 AI 帳戶。

• 基於 SDLC 環境帳戶分離：作為一種最佳實踐，將 SDLC 環境分成單獨的 OU。這種分離可確保對每個環境和支持進行適當的隔離和控制。它提供的功能如下：

  • 受控存取。不同的團隊或個人可以根據他們的角色和職責授予特定環境的存取權限。 

  • 資源隔離。每個環境都可以擁有自己的專用資源（例如模型或知識庫），而不會干擾其他環境。 

  • 成本追蹤。可以分別追蹤和監控與每個環境相關的成本。 

  • 風險緩解。在一個環境 (例如開發) 中的問題或實驗不會影響其他環境 (例如生產) 的穩定性。 

• 根據模型或使用者社群分隔帳戶：在目前的架構中，一個帳戶可透過 AWS Bedrock 存取多個基礎模型 (FM) 以進行推論。您可以使用 IAM 角色，根據使用者角色和職責，為預先訓練的 FM 提供存取控制。（有關示例，請參閱 Amazon 基岩文檔。） 相反地，您可以選擇根據風險等級、模型或使用者社群來分隔生成 AI 帳戶。在某些情況下，這可能是有益的： 

  • 使用者社群風險等級：如果不同的使用者社群具有不同等級的風險或存取需求，則個別帳戶可協助強制執行適當的存取控制和篩選器。 

  • 自訂模型：對於使用客戶資料自訂的模型，如果提供有關訓練資料的全面資訊，則不同的帳戶可以提供更好的隔離和控制。 

根據這些考量，您可以評估與使用案例相關的特定需求、安全性需求和作業複雜性。如果主要重點是 Amazon 基岩和預先訓練的 FMs，則具有 IAM 角色的單一帳戶可能是一種可行的方法。但是，如果您對模型或使用者社群分離有特定需求，或者您打算使用客戶載入的模型，則可能需要單獨的帳戶。最終，決策應該由您的應用程序特定需求和因素推動，例如安全性，操作複雜性和成本考慮因素。

注意：為了簡化下列討論和範例，本指南假設使用具有 IAM 角色的單一生成 AI 帳戶策略。

Amazon Bedrock

Amazon 基岩是使用基礎模型 (FM) 建置和擴展生成 AI 應用程式的簡單方法。作為一項全受管服務，它提供來自領先 AI 公司的高效能 FM 選擇，包括 AI21 實驗室、人才、Cohere、Meta、穩定性 AI 和 Amazon。此外，它還提供建置生成式 AI 應用程式所需的廣泛功能，並簡化開發，同時維護隱私權和安全性。FM 可作為開發生成 AI 應用程式和解決方案的建構基礎。透過提供對 Amazon 基岩的存取權，使用者可以透過使用者友善的介面或 Amazon 基岩 API 直接與這些 FM 互動。Amazon 基岩的目標是透過單一 API 提供模型選擇，以便快速實驗、自訂以及部署到生產環境，同時支援快速樞紐至不同模型。這一切都與模型選擇有關。

您可以嘗試預先訓練的模型，針對特定使用案例自訂模型，並將其整合到您的應用程式和工作流程中。這種與 FM 的直接互動可讓組織快速建立生成式 AI 解決方案的原型並反覆運用機器學習的最新進展，而不需要從頭開始訓練複雜模型的大量資源或專業知識。Amazon 基岩主控台可簡化存取和使用這些強大的生成 AI 功能的程序。

Amazon 基岩提供一系列安全功能，協助您保護資料的隱私權和安全性： 

• Amazon 基岩處理的所有使用者內容都會由使用者隔離、靜態加密，並存放在您使用 Amazon 基岩的 AWS 區域。您的內容也會在傳輸過程中至少使用 TLS 1.2 進行加密。 若要進一步了解 Amazon 基岩中的資料保護，請參閱 Amazon 基岩文件。 

• Amazon 基岩不會存儲或記錄您的提示和完成。Amazon 基岩不會使用您的提示和完成來訓練任何 AWS 模型，也不會將它們分發給第三方。

• 調整 FM 時，您所做的變更會使用該型號的私人副本。這表示您的資料不會與模型提供者共用或用於改善基礎模型。 

• Amazon 基岩實作自動濫用偵測機制，以識別可能違反 AWS 責任 AI 政策的行為。若要進一步了解 Amazon 基岩中的濫用偵測，請參閱 Amazon 基岩文件。 

• Amazon 基岩適用於常見合規標準，包括國際標準化組織 (ISO)、系統和組織控制 (SOC)、聯邦風險與授權管理計畫 (FedRAMP) 中等，以及雲端安全聯盟 (CSA) 安全信任保證與風險 (STAR) 第 2 級。Amazon 基岩符合《Health 保險可攜性與責任法案》(HIPAA) 資格，您可以在符合一般資料保護規範 (GDPR) 的規定下使用此服務。 要了解 AWS 服務是否在特定合規計劃的範圍內，請參閱合規計劃範圍的 AWS 服務並選擇您感興趣的合規計劃。 

若要進一步了解，請參閱 AWS 生成 AI 安全方法。 

Amazon 基岩護欄

適用於 Amazon 基岩的護欄可讓您根據使用案例和負責任的 AI 政策，為您的生成 AI 應用程式實作保護措施。 Amazon Bdrock 中的護欄包含可設定的篩選器、您可以定義要封鎖的主題，以及在封鎖或篩選內容時傳送給使用者的訊息。

內容篩選取決於六個有害類別的使用者輸入 (輸入驗證) 和 FM 回應 (輸出驗證) 的信賴度分類。對於每個有害類別，所有輸入和輸出陳述式都分為四個信賴等級 (無、低、中、高) 之一。 對於每個類別，您可以配置過濾器的強度。 下表顯示每個濾鏡強度封鎖和允許的內容程度。

過濾強度	封鎖的內容信心	允許的內容信心
無	沒有過濾	無、低、中、高
低	高	無，低，中
中	高、中	無，低
高	高、中、低	無

當您準備好將護欄部署到生產環境時，您可以建立它的版本，並在應用程式中叫用護欄的版本。請依照 Amazon 基岩文件「測試護欄」區段中「API」索引標籤中的步驟執行。 

安全

根據預設，防護會使用 AWS 金鑰管理服務 (AWS KMS) 中的 AWS 受管金鑰加密。為了防止未經授權的使用者取得護欄的存取權，進而導致意外的變更；我們建議您使用客戶管理金鑰來加密您的護欄，並使用最少權限 IAM 許可來限制護欄的存取權限。

Amazon 基岩模型評估

Amazon 基岩支援模型評估任務。您可以使用模型評估工作的結果來比較模型輸出，然後選擇最適合下游生成 AI 應用程式的模型。

您可以使用自訂提示資料集或內建資料集，使用自動模型評估工作來評估模型的效能。如需詳細資訊，請參閱 Amazon 基岩文件中的建立自動模型評估和在模型評估任務中使用提示資料集。

使用人工的模型評估工作會將員工或主題專家的人力意見帶到評估過程中。 

安全

模型評估應該在開發環境中進行。如需組織非生產環境的建議，請參閱使用多個帳戶組織 AWS 環境白皮書。

所有模型評估任務都需要 IAM 許可和 IAM 服務角色。如需詳細資訊，請參閱 Amazon 基岩文件，瞭解使用 Amazon 基岩主控台建立模型評估任務所需的許可、服務角色需求以及所需的跨來源資源共用 (CORS) 許可。 使用人工的自動評估工作和模型評估工作需要不同的服務角色。如需角色執行模型評估任務所需政策的詳細資訊，請參閱 Amazon Bedrock 文件中使用人工評估工作的模型評估任務的服務角色需求和使用人工評估工作的模型評估任務的服務角色需求。

對於自訂提示資料集，您必須在 S3 儲存貯體上指定 CORS 組態。如需最低需求的組態，請參閱 Amazon 基岩文件。在使用人力工作者的模型評估任務中，您需要有一個工作團隊。您可以在設定模型評估任務的同時建立或管理建立或管理工作團隊，並將員工新增至由 Amazon SageMaker Ground Truth 管理的私人員工中。若要管理在任務設定之外在 Amazon 基岩中建立的工作團隊，您必須使用 Amazon Cognito 或亞馬遜 SageMaker Ground Truth 主控台。 Amazon 基岩每個工作團隊最多可支援 50 名員工。

在模型評估任務期間，Amazon Beydrock 會製作資料的臨時複本，然後在任務完成後刪除資料。它使用 AWS KMS 金鑰對其進行加密。 依預設，資料會使用 AWS 受管金鑰加密，但我們建議您改用客戶受管金鑰。如需詳細資訊，請參閱 Amazon 基岩文件中的模型評估任務的資料加密。