当亚马逊云科技大中华区产品部总经理陈晓建讲到Amazon CodeWhisperer的时候,台下的开发者们纷纷举起了手机拍照,预示着对于他们而言这套工具尤为“讨喜”。
正值10.24日,也就是传说中的1024程序员节,亚马逊云科技在北京召开了生成式AI构建者大会,围绕应用场景、工具和基础设施、数据基座、AI原生应用构建和生成式AI服务这五个层面,探索助力企业和开发者全面释放生成式AI的潜力。
写代码也可实现自动化
Amazon CodeWhisperer之所以备受开发者们关注,主要原因还是其“实战能力强”。它是一款人工智能编码伙伴,在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。据亚马逊云科技生产力测试数据显示,与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。
最近推出的Amazon Whisperer自定义功能,能够生成优于之前的代码建议,因为它允许客户使用私有代码库安全地定制 CodeWhisperer代码建议,这些私有代码库可涵盖内部API、数据库、最佳实践和架构模式等。
基于此,可以看到Amazon CodeWhisperer真能称得上是开发者们的“自动驾驶”工具,辅助他们在短时间内加速代码编写、提升代码质量,提高团队协作效率,绝对是一款开发神器。在《2023 AI开发者生态报告》亮点显示中,Amazon CodeWhisperer 也处于领先地位,在开发者中占据了较高的使用率。
构建高效率的生成式AI
“开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,我们同样需要构建强大的合作伙伴生态,与它们一起助力解决生成式AI应用构建中的各种技术问题,加速应用落地。除了云服务之外,我们还提供解决方案架构师、产品技术专家、人工智能实验、数据实验室、快速原型团队、专业服务团队、培训与认证部门等多个资源共同助力客户成功,同时我们还携手生态合作伙伴与初创圈构建生成式AI的完整体系,进一步助力生成式AI技术的落地。”
陈晓建在演讲中详细分析了企业在AI时代的发展方向与挑战,并介绍了来自亚马逊云科技的各项服务,帮助企业构建敏捷的开发环境,提升竞争力。
他表示,亚马逊云科技可通过5个关键因素帮助构建者搞定生成式AI。
首先是选择一个适合自己应用场景的模型,然后借助专业的工具和底层的设施来快速搭建生成式AI应用。亚马逊云科技会帮助用户搭建起强大的数据基座,让企业可以便捷、安全地使用自己的私有数据。紧接着就是在基座之上打造完全基于云原生的业务。
最后,除了搭建生成式AI应用本身,用户同样可以使用多种开箱即用的服务来降低工作的复杂性。
海尔是一家全球领先的家电制造商,他们与亚马逊云科技合作,在海尔创新设计中心应用生成式AI技术进行创新设计。通过生成式AI,他们实现了文生图、图生图、定量图和全景图等四个方面的实践。这些技术的应用使得海尔相关业务的操作周期缩短了20%,大大提高了效率和效果。
上海沐瞳科技,国内知名的游戏开发商。他们利用亚马逊的技术服务Amazon Bedrock来优化游戏研发领域的业务流程。生成式AI在这个领域有很大的潜力,有可能成为未来游戏研发的新范式。沐瞳科技希望通过借助生成式AI的技术,创造出更能满足客户需求的创新游戏体验。
生成式AI技术的应用场景中,通过自动化设计系统和优化业务流程等方式,帮助企业提高效率、降低成本,并创造出更好的产品和服务。生成式AI有着广泛的应用前景,可以在不同领域中实现创新和优化。
夯实AI底座
亚马逊云科技在过去十多年里都一直专注于底层能力开发,为客户提供广泛的加速器选择,包括强大而灵活的基于GPU的解决方案。
亚马逊云科技在12年前就将NVIDIA的GPUs引入到云端,如今的Amazon EC2 P4d实例基于A100 GPU,而最新的Amazon EC2 P5实例则基于NVIDIA的H100 GPU,这提供了计算实例中最高的性能。与上一代实例相比,训练时间缩短了高达6倍,工作量从数周缩短到数天,并将成本降低了40%。
在推理方面,亚马逊云科技的Amazon EC2 G5实例基于NVIDIA的A10G芯片,提供高达三倍的性价比。除了使用NVIDIA的芯片,亚马逊云科技还具备多达十年的自研芯片经验。近期发布的基于自研机器学习芯片Amazon Inferentia2的Amazon EC2 Inf2实例,它在推理性价比方面超过同类实例40%。
对于训练,亚马逊云科技推出了基于自研芯片Amazon Trainium的Amazon Trn1实例,可节省50%的训练成本。因此,越来越多的客户选择使用Amazon的自研芯片来支持他们的生成式人工智能应用,包括Airbnb、OPPO、Sprinklr和Autodesk等客户,并且这一数字还在不断增加。
Amazon Bedrock助金山办公加速步入AI时代
WPS是笔者日常应用的办公软件,其良好的文件兼容性和跨平台能力可帮助文字创作者们提升工作效率,并且最近更新的版本还加入了AI能力,例如:智能纠错、自动排版、辅助阅读、文章大纲生成等,实用性很强。
在大会上,来自金山办公软件股份有限公司的AI研发总监刘强介绍了金山办公如何利用生成式AI帮助企业简化从统一数据到个性化客户体验的过程。
作为亚马逊云科技推出的全托管生成式人工智能模型工具Amazon Bedrock的第一批预览版用户,通过与亚马逊云科技技术团队合作,金山办公对各种办公应用场景进行了全面测试,并将Amazon Bedrock服务集成到海外产品中进行生产测试。
Amazon Bedrock是一种全托管生成式AI服务,用于帮助企业构建和扩展生成式AI应用程序。它提供了丰富的模型选择和数据隐私保护,可以将数据作为战略资产来自定义基础模型,并打造差异化的优势。使用Amazon Bedrock,企业无需管理底层的基础设施,可以轻松地构建和扩展AI应用程序。
据刘强介绍:“作为Amazon Bedrock的第一批预览版的用户,我们从一开始就跟亚马逊云科技的技术团队进行了积极对接。正如没有一个大模型能解决所有问题,在对接过程中我们也是提出了很多问题,Amazon Bedrock轻松地帮我们解决了这些问题,很大程度上提升了我们的研发效率。”
金山办公与亚马逊云科技一直以来都在积极探寻如何利用AI/ML技术和创新能力去为业务赋能。从早期利用机器学习技术优化用户的精细化运营(如用户识别,用户转换以及流失用户),通过使用机器学习平台Amazon SageMaker使算法科学家能够快速的进行场景的实验和算法迭代;并逐步延伸探讨到现在生成式AI时代下,全面赋能金山办公的WPS AI,一方面利用Amazon Bedrock提供的大模型能力丰富WPS的产品功能,另一方面与亚马逊云科技的技术专家团队,围绕如何为用户带来了便捷高效的办公体验进行探索与合作。
总的看来,生成式AI的路已经越走越宽,它能够快速生成符合人类语言和创造力的内容,包括自动文本生成、机器翻译、智能对话等。随着技术的不断进步和模型的不断优化,生成式AI所创作出的内容也将更加精准,为各行各业的创新和发展提供了更大的潜力。
或许到未来的某一天你会惊奇地发现,周围的一切可能都是由AI所“生成”!