亚马逊研究人员改进了人工智能模型的选择架构的方法

2019年09月25日由 KING 发表 857642 0

选择架构是构建任何人工智能模型的关键步骤，但是说起来容易做起来难。除了由“ autoML”系统生成的，可根据基本任务概述工作的内容之外，模型的设计还必须参考之前的范例，并结合领域知识进行反复的试验才可以。

亚马逊研究人员表示，他们找到了一种更好的方法，即一种涉及生成定制架构计算的方法。在上周于慕尼黑举行的国际人工神经网络会议上，他们发表了一篇名为《关于函数逼近的界限》的论文，论文中描述了适用于任何计算模型的架构技术，条件是该模型可以像图灵机一样计算指定的函数。（论文中图灵机是指抽象机的模型，该抽象机根据规则来操纵符号。）论文的作者Adrian de Wynter说：“无论使用何种学习算法，选择何种结构，调整何种训练参数，神经结构都不太可能为给定的机器学习问题提供最佳解决方案。只有在选择的可能性非常多时，我们才能确定一个架构，它的计算精度有理论保证。”

为此，研究团队评估了函数逼近问题的解决方案，这是AI算法通过搜索参数来逼近目标函数输出的抽象数学方法。他们将其重新表述为一个问题，即寻找一个已知函数序列来估计目标函数的解，他们表示这将带来更大的系统建模优势。

该研究表明，人工智能模型的组件应该被选择，这样才能保证图灵等价性。他们说，模型最好是通过使用为特定任务设计的架构来自动搜索识别的。这类搜索中的算法首先生成用于解决问题的其他候选算法，然后将性能最好的候选算法组合在一起，再次进行测试。Wynter在论文中写道：本文可立即应用的结果是鉴定遗传算法，更具体地说，是协同进化算法，其性能指标取决于彼此之间的相互作用，这是寻找最佳（或接近最佳）架构的最实用方法。基于经验，许多研究人员得出的结论是，协同进化算法提供了构建机器学习系统的最佳方法。但是我的论文中的函数逼近框架有助于为他们提供更安全的理论基础。”

亚马逊并不是唯一的改进人工智能架构搜索的进化方法的公司。今年7月，Uber开放了一个名为EvoGrad的进化算法开发库。去年10月，谷歌推出了AdaNet，这是一种结合机器学习算法以获得更好预测洞见的工具。

标签：

行业亚马逊Amazon 人工智能模型

0 评论

欢迎关注ATYUN官方公众号

商务合作及内容投稿请联系邮箱:bd@atyun.com

上一篇超硬核——2020东京奥运会黑科技大乱斗

下一篇 Grammarly公司新研究，利用AI来检测语气和语调

评论登录

要发表评论，您必须先登录。

jonatasgrosman/wav2vec2-large-xlsr-53-english facebook/dino-vitb16 bert-base-uncased xlm-roberta-large xlm-roberta-base gpt2 microsoft/resnet-50 facebook/dino-vits8

最好的基于Transformer的LLM（上）