使用案例 - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用案例

問題

回應範例

使用案例的主要目標或成功條件是什麼?

為了改善客戶支援回應時間、增加銷售轉換、增強產品建議。此外:改善使用者滿意度、任務完成率、回應品質等。

此使用案例如何符合您組織的策略目標?

這符合我們的策略目標,即透過減少客戶服務的回應時間來提高客戶滿意度。

使用案例的預期資料量或請求量是多少?

每秒 500 筆交易 (TPS)。

支援生成式 AI 工作負載需要哪些類型的資料來源?

內部結構化資料庫 (客戶記錄、銷售資料等);來自文件、電子郵件和社交媒體的非結構化文字資料;用於語音和影像辨識任務的音訊和影片檔案;來自 IoT 裝置和感應器的即時串流資料;用於擴充的公有資料集和 APIs。

您需要從這些來源更新或重新整理資料的頻率為何?

交易資料庫:近乎即時更新;文件儲存庫:每日批次更新;社交媒體摘要:每小時更新;IoT 感應器資料:持續即時串流;公有資料集:每月或每季更新。

生成式 AI 模型需要哪些資料格式做為輸入?

結構化資料:CSV、JSON 和 SQL 資料庫資料表;文字資料:純文字、PDF 和 HTML;影像資料:JPEG、PNG 和 TIFF;音訊資料:WAV 和 MP3;影片資料:MP4 和 AVI。

您對生成式 AI 工作負載的主要資料品質考量為何?

完整性:確保沒有關鍵欄位遺失;準確性:驗證資料正確性和消除錯誤;一致性:跨來源維持統一格式和值;及時性:確保資料是最新的以進行即時推論;相關性:確認資料符合特定的生成式 AI 任務。

什麼是關鍵效能需求 (例如回應時間、輸送量、準確性)?

95% 準確度;回應時間 < 500 毫秒;每秒處理 1000 個請求的能力。高準確度 (95%+)、中等準確度 (80-90%)、盡最大努力等。

您是否有任何其他 KPIs來衡量此使用案例的成功?

關鍵 KPIs包括降低錯誤率、節省每筆交易的時間,以及客戶滿意度分數。

需要多少模型準確度,以及它如何與成本平衡?

具有中等成本的高準確度 (>90%)、具有低成本的中等準確度 (70-80%),以此類推。

生成式 AI 解決方案的主要使用案例或案例是什麼?

客戶服務聊天機器人、內容產生、產品建議等。

生成式 AI 系統的目標使用者或角色是什麼?

客戶服務代理、行銷團隊、員工、最終使用者等。

預期的請求或使用者數量是多少?

每天 1,000 個請求;每月 10,000 個作用中使用者。

是否有任何特定的使用案例限制或要求?

即時回應、多語言支援、資料隱私權等。

您是否有用於開發和維護生成式 AI 解決方案的配置預算?

初始開發成本估計為 200,000 美元,年度維護成本為 50,000 美元。

此使用案例的預計投資報酬率 (ROI) 和償還期間為何?

三年內預期的投資報酬率為 150%,而回收期為 18 個月。

是否有任何應考慮的隱藏成本或潛在節省?

潛在的節省包括降低加班成本。隱藏成本可能涉及員工的額外訓練。

這個生成式 AI 解決方案的可擴展性和未來擴展可能性是什麼?

該解決方案旨在隨著我們的營運進行擴展,並可能在未來擴展到其他部門。

如何確保公平性並減少生成式 AI 模型中的偏差?

我們計劃透過各種資料收集、定期偏差稽核和偏差緩解技術的實作來緩解偏差。

您有哪些程序可以解決道德問題或意外後果?

我們將透過既定的 AI 事件回應計劃、定期的道德風險評估、員工的匿名報告系統、與外部道德專家的合作,以及根據意見回饋持續監控和調整部署的模型,來管理道德問題。

如何對組織中不同專案和部門的生成式 AI 工作負載評估進行優先順序和排序?

透過跨所有部門進行高階調查,以識別潛在的生成式 AI 使用案例,並根據三個關鍵條件進行評估:業務影響、技術可行性和道德考量。具有高潛在影響、較低的技術障礙和最低道德問題的專案會優先考慮。