亚马逊云科技2024 re:Invent大会聚焦生成式AI的机遇与挑战
时间:2024-12-12 04:00
小编:小世评选
在2024年亚马逊云科技re:Invent全球大会上,生成式AI作为一个备受关注的话题,吸引了众多与会者的热议。会议上,亚马逊云科技的人工智能与机器学习服务副总裁Baskar Sridharan就生成式AI的发展和面临的挑战进行了深入探讨,他表示,过去18到24个月,生成式AI的增长速度堪称指数级,但在这个快速发展的过程中,如何将原型成功转化为实际的产品仍是一个亟待解决的问题。
Baskar Sridharan指出,生成式AI从原型走向产品的过程中,有四个关键因素需要考虑:模型、成本、数据以及信任。在这些方面,亚马逊云科技为用户提供了广泛的解决方案,帮助客户更好地实现生成式AI的应用。
在模型选择上,亚马逊云科技与众多全球领先的大模型供应商合作,包括AI21 Labs、Anthropic、Cohere等,为客户提供多样化的模型选择。亚马逊也推出了自研模型,使得用户能够根据自身需求选择最适合的模型。这些选择对于后续的生产效率和产品质量至关重要。Baskar Sridharan强调,模型的快速迭代也是一个重要因素,客户在选择时要考虑到这一点,亚马逊云科技致力于在这个模型生态系统中保持稳定,为客户提供保障。
关于成本管理,Baskar提到,许多客户在制定原型时都有预算限制。因此,在原型转向生产的过程中,合理控制推理模型和训练模型的成本至关重要。亚马逊云科技推出了Amazon SageMaker和Amazon Bedrock等产品。Amazon SageMaker提供灵活的快速模型微调能力,帮助客户大幅降低训练成本,其HyperPod系列通过任务管理能力合并多个任务,有效降低成本。Amazon SageMaker Lakehouse的推出也为客户提供了更大的灵活性,让他们能够构建定制化模型,使用同样的数据开发生成式AI应用程序。
在推理成本方面,Amazon Bedrock则专注于降低相关工作成本。该推出模型蒸馏、自动推理检查和多Agents协作等全新功能,这些功能旨在帮助客户更好地控制成本,提高生产效率。模型蒸馏功能可以从大模型生成的响应对小模型进行微调,取得了显著的提速和成本降低效果;而自动推理检查功能则通过数学验证确保生成响应的准确性,防止因模型幻觉引起的错误;多Agents协作则支持多个Agents间的协同工作,进一步降低成本,并帮助客户构建更加复杂和高效的生成式AI应用。
在数据的应用上,Baskar强调数据对于现代企业尤其是以AI为主业的企业至关重要。亚马逊云科技在Amazon Bedrock中推出了一系列功能,帮助客户实现数据的更好整合。例如,Amazon Bedrock Data Automation允许客户将大量的非结构化数据(如文本、图像、音频和视频等)汇集到一个统一的API中,便于生成式AI应用的开发。Amazon Bedrock还推出了提示缓存功能,减少客户重复提交相同提示的成本,降低成本高达90%的同时也显著减少了延迟。
值得注意的是,随着生成式AI带来的技术创新,负责任的人工智能变得尤为重要。Baskar Sridharan强调,信任是采用人工智能的基石,而亚马逊云科技在推动生成式AI发展的过程中始终注重构建用户信任。他表示,从Amazon Bedrock Guardrails等新工具和功能的推出,到ISO/IEC 42001认证,亚马逊云科技在不断努力,帮助组织以更加负责的方式来建立和使用AI。
在大会上,Baskar Sridharan还提到,负责任的人工智能不仅仅是风险管理的工具,而是通过主动建立信任来推动商业价值。他相信,负责任的AI将使企业在创新效率上取得突破,为行业带来深远的变革。
2024年亚马逊云科技的re:Invent大会不仅聚焦于当前生成式AI的机遇与挑战,也为未来科技的可持续发展指明了方向。客户在这一过程中所需要的工具、资源和保障都得到了充分关注,亚马逊云科技展现出了其在推动生成式AI落地应用方面的远见卓识。随着技术的不断进步和应用场景的扩展,生成式AI将继续为各行各业带来深刻的变革与影响。