算力筑基
-
专为生成式AI构建的自研加速器,为云上训练模型和运行推理提供超高性价比
亚马逊云科技为模型训练和应用端大规模的推理提供了齐全的计算、高速联网和高性能存储选项。
Amazon Elastic Compute Cloud(Amazon EC2)P5实例可满足客户在运行人工智能、机器学习和高性能计算工作负载时对高性能和高扩展性的需求,由最新的英伟达H100 Tensor Core GPU提供支持。与上一代基于GPU的实例相比,训练时间最多可缩短6倍(从几天缩短到几小时),将帮助客户降低高达40%的训练成本。
亚马逊云科技有超过5年的自研芯片经验。Amazon Trainium和Amazon Inferentia芯片可提供在云上训练模型和运行推理的超高性价比。基于Inferentia2的Amazon EC2 Inf2实例旨在以最低的成本在Amazon EC2中为客户的深度推理和生成式AI应用程序提供高性能。与Inferentia相比,Inferentia2的吞吐提高了4倍,延低前者的1/10。
基础模型/工具予力构建
-
全托管式生成式AI服务Amazon Bedrock提供丰富的基础模型选择,帮助更多客户构建和扩展生成式AI应用程序
Amazon Bedrock是一项完全托管的服务,提供了来自众多领先AI公司(包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊)面向海外业务的的高性能基础模型,客户无需管理任何基础设施,即可通过Amazon Bedrock在安全的环境中利用简单的API接口访问Meta Llama2、Anthropic Claude、Titan、Stability AI、AI21 Labs、Cohere等领先的基础模型,以构建和扩展其生成式AI应用程序,并且能够在实现简化开发的同时确保隐私性和安全性,极大地降低了客户从基础模型到构建生成式AI应用的门槛。Amazon Bedrock Agent是一项面向开发者的新功能,为开发者配置自动分解和编排任务的FMs,开发者只需点击几下鼠标启动生成式AI应用程序就能完成任务。
今年9月,亚马逊还宣布与Anthropic正式展开战略合作,以结合双方在更安全的生成式AI领域的先进技术和专业知识,共同推进生成式AI发展。
-
适用于Amazon OpenSearch Serverless的向量引擎助力客户轻松构建现代生成式AI应用
推出适用于Amazon OpenSearch Serverless的向量引擎。该向量引擎可支持简单的API调用,可用于存储和查询数十亿个Embeddings。未来,所有亚马逊云科技的数据库都将具有向量功能,帮助客户简化运营,方便集成数据。
应用赋能
-
AI编程助手Amazon CodeWhisperer允许客户使用私有代码库安全地定制CodeWhisperer代码建议,进一步提升开发人员效率
Amazon CodeWhisperer是一款基于AI的编程助手,它通过对数十亿行来自亚马逊和公开可用的代码进行训练,允许客户使用私有代码库安全地定制CodeWhisperer代码建议,同时兼顾内容安全性,助力开发人员提高生产效率,从生成式AI中获得更大价值。
Amazon CodeWhisperer与Amazon Glue实现集成,Amazon Glue Studio Notebooks可支持Amazon CodeWhisperer,以帮助Amazon Glue用户优化使用体验、提高开发效率。
-
Amazon QuickSight新增生成式BI功能,更便捷探索数据,通过自然语言轻松创建可视化报告
将Amazon Bedrock提供的大语言模型能力与支持自然语言问答的Amazon QuickSight Q相结合,以期在Amazon QuickSight中提供生成式BI功能。该功能很快将在Amazon QuickSight上线,助力企业轻松探索数据、发现并分享洞察。
-
Amazon Entity Resolution赋能企业提升数据质量、获取客户洞察
Amazon Entity Resolution正式可用。它利用基于规则和机器学习的技术自定义工作流程,并汇总消费者、业务和产品信息。业务分析师和开发人员可以通过内置的预配置工作流程快速提高数据准确性,或者通过自定义工作流程来满足企业需求。借助Amazon Entity Resolution,企业可以更好地了解数据的关联、匹配和链接情况,同时深入挖掘客户洞察、清晰捕捉供应链数据,从而改善运营能力、开展更多有效营销、做好复杂金融投资决策。
-
Amazon HealthScribe利用生成式AI助力构建医疗应用程序
亚马逊云科技宣布推出符合HIPAA(《健康保险责任与保护法》)要求的Amazon HealthScribe新服务,帮助医疗软件供应商构建临床应用程序。这些应用程序使用文本识别和生成式AI技术生成临床文档,可节省医生时间。
亚马逊云科技提供从算力、基础模型、工具链到应用的完整的生成式AI技术堆栈。
-
亚马逊云科技投资1亿美元成立生成式AI创新中心
亚马逊云科技生成式AI创新中心旨在帮助客户成功构建和部署生成式AI解决方案。今年亚马逊云科技为该中心投资1亿美元,致力于联接亚马逊云科技AI和机器学习专家与全球客户,帮助他们构想、设计和推出新的生成式AI产品、服务和流程。
对于寻求开启人工智能创新之旅的组织来说,亚马逊云科技2023年re:Invent大会是不容错过的盛宴。亚马逊云科技还精心准备了包含主题演讲、创新演讲、研讨会等在内的数百场演讲,覆盖人工智能、生成式AI和数据相关一系列服务、策略和解决方案,助力拥抱人工智能和生成式AI驱动业务创新。