使用案例 - AWS 规范性指导

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用案例

问题

响应示例

该用例的主要目标或成功标准是什么?

缩短客户支持响应时间,提高销售转化率,增强产品推荐。另外:提高用户满意度、任务完成率、响应质量等。

此用例如何与贵组织的战略目标保持一致?

这符合我们的战略目标,即通过缩短客户服务响应时间来提高客户满意度。

该用例的预期数据量或请求量是多少?

每秒 500 笔交易 (TPS)。

需要哪些类型的数据源来支持您的生成式 AI 工作负载?

内部结构化数据库(客户记录、销售数据等);来自文档、电子邮件和社交媒体的非结构化文本数据;用于语音和图像识别任务的音频和视频文件;来自物联网设备和传感器的实时流数据;公共数据集和 APIs 用于丰富的数据集。

您需要多久更新或刷新一次来自这些来源的数据?

交易数据库:近乎实时更新;文档存储库:每日批量更新;社交媒体提要:每小时更新;物联网传感器数据:持续实时流;公共数据集:每月或每季度更新。

您的生成式 AI 模型需要哪些数据格式作为输入?

结构化数据:CSV、JSON 和 SQL 数据库表;文本数据:纯文本、PDF 和 HTML;图像数据:JPEG、PNG 和 TIFF;音频数据:WAV 和 MP3;视频数据: MP4 以及 AVI。

对于生成式 AI 工作负载,您最关心的数据质量问题是什么?

完整性:确保不遗漏任何关键字段;准确性:验证数据的正确性并消除错误;一致性:在不同来源之间保持统一的格式和值;及时性:确保数据是最新的,以便进行实时推断;相关性:确认数据与特定的生成人工智能任务一致。

关键性能要求是什么(例如,响应时间、吞吐量、准确性)?

准确率为 95%;响应时间小于 500 毫秒;能够每秒处理 1000 个请求。精度高(95% 以上)、中等精度(80-90%)、尽力而为,等等。

你还有其他 KPIs 方法可以衡量这个用例的成功吗?

关键 KPIs 包括错误率降低、每笔交易节省的时间以及客户满意度得分。

需要多少模型精度,它如何与成本保持平衡?

精度高 (> 90%),成本适中,精度适中 (70-80%),成本低,等等。

生成式 AI 解决方案的主要用例或场景是什么?

客户服务聊天机器人、内容生成、产品推荐等。

生成式人工智能系统的目标用户或角色是什么?

客户服务代理、营销团队、员工、最终用户等。

预计的请求量或用户量是多少?

每天 1,000 个请求;每月活跃用户 10,000 个。

是否有任何特定的用例限制或要求?

实时响应、多语言支持、数据隐私等。

您是否有用于开发和维护生成式人工智能解决方案的预算?

初始开发成本估计为20万美元,每年的维护成本为50,000美元。

此用例的预计投资回报率 (ROI) 和投资回报期是多少?

预计三年内投资回报率为 150%,投资回收期为 18 个月。

是否应该考虑任何隐性成本或潜在的节约?

潜在的节省包括减少加班成本。隐性成本可能涉及对工作人员的额外培训。

这种生成式人工智能解决方案的可扩展性和未来扩展可能性有哪些?

该解决方案旨在随着我们的运营而扩展,将来有可能扩展到其他部门。

如何确保生成人工智能模型中的公平性并减少偏见?

我们计划通过多样化的数据收集、定期的偏见审计和偏见缓解技术的实施来缓解偏见。

你们制定了哪些流程来解决道德问题或意外后果?

我们将通过既定的人工智能事件响应计划、定期的道德风险评估、员工的匿名报告系统、与外部伦理专家的合作以及根据反馈持续监控和调整已部署的模型来管理道德问题。

您如何对组织中不同项目和部门的生成式 AI 工作量评估进行优先级排序和排序?

通过对所有部门进行高级别调查,以确定潜在的生成式人工智能用例,并根据三个关键标准对其进行评估:业务影响、技术可行性和道德考虑。优先考虑潜在影响力大、技术壁垒较低且道德问题最少的项目。