黑盒优化的系统和方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN110462636A(43)申请公布日2019.11.15(21)申请号201780088583.X(74)专利代理机构北京市柳沈律师事务所(22)申请日2017.06.0211105代理人金玉洁(85)PCT国际申请进入国家阶段日2019.09.18(51)Int.Cl.G06N3/04(2006.01)(86)PCT国际申请的申请数据G06N3/08(2006.01)PCT/US2017/0356372017.06.02G06N5/00(2006.01)(87)PCT国际申请的公布数据G06N7/00(2006.01)WO2018/222204EN2018.12.06G06N20/00(2019.01)(71)申请人谷歌有限责任公司地址美国加利福尼亚州(72)发明人D.R.戈洛文B.索尔尼克S.莫伊特拉D.W.斯卡利二世G.P.科汉斯基权利要求书4页说明书45页附图12页(54)发明名称黑盒优化的系统和方法(57)摘要本公开提供了用于优化系统的一个或多个可调参数(例如，操作参数)的计算系统和相关方法。特别地，本公开提供了一种参数优化系统，其可以执行一个或多个黑盒优化技术，以迭代地建议新参数值集用于评估。迭代建议和评估过程可以用于优化或以其他方式改进如由评估一个或多个度量的目标函数评估的系统的整体性能。本公开还提供了一种被称为“无梯度下降”的新颖的黑盒优化技术，该技术比随机搜索更聪明和更快，还保留了大部分的随机搜索的有利品质。CN110462636ACN110462636A权利要求书1/4页1.一种用于优化机器学习模型的参数值的计算机实施的方法，所述方法包括：由一个或多个计算设备接收对机器学习模型的性能的一个或多个在先评估，所述一个或多个在先评估分别与所述机器学习模型的一个或多个在先变体相关联，所述机器学习模型的所述一个或多个在先变体每个都已经使用不同的可调参数值集来配置；由所述一个或多个计算设备利用优化算法，至少部分基于对性能的一个或多个在先评估和相关联的可调参数值集生成所述机器学习模型的建议的变体，所述机器学习模型的建议的变体由建议的可调参数值集定义；由所述一个或多个计算设备接收对所述机器学习模型的建议的变体的性能的一个或多个中间评估，所述中间评估已经从对所述机器学习模型的建议的变体的正在进行的评估获得；由所述一个或多个计算设备基于所述中间评估和所述在先评估执行非参数回归，以确定是否执行对所述机器学习模型的建议的变体的正在进行的评估的早期停止；以及响应于确定要执行早期停止，由所述一个或多个计算设备使得针对所述机器学习模型的建议的变体的正在进行的评估执行早期停止。2.根据权利要求1所述的方法，其中，由所述一个或多个计算设备执行非参数回归以确定是否执行对所述机器学习模型的建议的变体的正在进行的评估的早期停止包括：由所述一个或多个计算设备基于非参数回归确定所述机器学习模型的建议的变体的最终性能超过对所述机器学习模型的在先变体的性能的在先评估之一所指示的当前最佳性能的概率；由所述一个或多个计算设备基于所确定的概率与阈值的比较来确定是否执行所述正在进行的评估的早期停止。3.根据权利要求1或权利要求2所述的方法，其中，由所述一个或多个计算设备执行非参数回归以确定是否执行对所述机器学习模型的建议的变体的正在进行的评估的早期停止包括：由所述一个或多个计算设备测量基于所述中间评估的性能曲线和与基于对所述机器学习模型的当前最佳变体的先前评估的、所述机器学习模型的当前最佳变体的性能相对应的性能曲线之间的相似性。4.根据权利要求1、2或3所述的方法，还包括由所述一个或多个计算设备执行转移学习以获得所述机器学习模型的一个或多个可调参数的初始值，其中，由所述一个或多个计算设备执行转移学习包括：由所述一个或多个计算设备识别多个先前优化的机器学习模型，所述多个先前优化的机器学习模型按序列组织；以及由所述一个或多个计算设备分别为所述多个先前优化的机器学习模型构建多个高斯过程回归器，其中，每个先前优化的机器学习模型的高斯过程回归器在相对于先前的在序列中的先前优化的机器学习模型的高斯过程回归器的一个或多个残差上训练。5.一种可操作来建议机器学习模型的参数值的计算机系统，所述计算机系统包括：数据库，其存储分别与机器学习模型的一个或多个可调参数的一个或多个参数值集相关联的一个或多个结果，每个参数值集的结果包括对用所述一个或多个可调参数的这个参数值集构造的机器学习模型的评估；2CN110462636A权利要求书2/4页一个或多个处理器；和一个或多个非暂时性计算机可读介质，其存储指令，当所述指令被所述一个或多个处理器执行时，使得所述计算机系统执行操作，所述操作包括：执行一个或多个黑盒优化技