加速基础模型升级的三个经验 笔记

加速基础模型升级的三个经验

升级到新的AI模型对工程团队来说是重大挑战,通常需要数月的手动测试和评估。人工智能发展的快速步伐,以及频繁的重大模型演进,加剧了这一问题。谷歌云应用机器学习团队开发了一种代理式工作流程,将模型升级时间从数月缩短到数小时。这一方法在一篇博客文章中详细介绍,提供了加快基础模型升级的三个关键经验。第一课强调了亲手探索的重要性,涉及与产品团队的紧密合作,以了解真实的迁移问题并识别及时优化的需求。第二课提醒人们,传统自动化的僵化性在于其在处理多样化数据格式和独特边缘案例时遇到困难。第三课强调了转向灵活代理架构、适应特定项目需求的成功案例。一个合作伙伴团队成功地将视频翻译和配音服务迁移到使用该代理框架的基础模型。通过提供数据集和基线提示,系统自主提升提示质量,无需定制模型。这一过程展示了提示工程在某些复杂任务中优于微调的强大力量。为了实现类似的迁移流程,团队可以利用Gemini企业代理平台和Google Antigravity。关键步骤包括部署自动化质量评估器(Autoraters)代替人工审核,利用代理开发工具构建代理循环,以及利用Antigravity自动化编排。从手工工程向智能自动化的转变减少了技术债务,帮助组织跟上人工智能的进步步伐。这项协作工作涉及谷歌众多贡献者。