Facebook与谷歌等合作开发AI框架,通过智能体研究语言的发展变化
2019年01月29日 由 浅浅 发表
556479
0
进化语言学十分复杂性的,但涉及AI的研究可能为方言如何在使用者之间发展的新理论打开大门。
在论文“mergent Linguistic Phenomena in Multi-Agent Communication Games”中,Facebook AI,Google AI和纽约大学的研究人员描述了一个框架,其中智能体通过深度强化学习进行训练,在玩一系列游戏的同时,展示了一些在自然语言中观察到的“语言现象”。
这项工作并不是首个使用机器学习算法研究语言的工作,Facebook研究人员于2017年6月发表的一篇论文详细介绍了两个智能体如何在聊天消息中进行协商。但是他们声称,这是智能体第一次使用最新一代能够处理丰富的感知输入的深度神经元,证明了语言可以从简单的交流中演变而来。
该团队首先部署了能够在模拟环境中进行通信的智能体,这些智能体从简单到相对复杂。智能体负责的游戏有几个关键属性:它们是对称的,使智能体既可以扮演“说话者”又可以扮演“听众”的角色;它们允许智能体就自己的外部信息进行交流,例如环境中某些事物的感官体验;它们发生在一个智能体可以至少部分观察到的世界里。
在第一个实验中,其中三个和十个智能体之间相互玩游戏,自我游戏(智能体独自对抗)和联机游戏(智能体在团队中对抗)的成功率在150到20万次游戏之后区分不明显,无论团队规模如何。
研究人员称,这意味着只有当一种语言有两个以上的使用者时,才会出现一种共同的、共享的语言。
在随后的测试中,两个不同的语言智能体团队彼此接触。所有智能体都学会了与来自其他团队的智能体说话,而且,某些智能体作为沟通的桥梁,设法更快更好地处理新的共享协议。
即使智能体在成功完成游戏之前从未相互交流过,但只有当组间连接(各自团队内的智能体之间的沟通)时很高,达到65.6%。当组间互动发生的频率只是组内互动的一半(不同团队智能体之间的互动),成功率下降到52.4%。
这篇论文的作者们写道,一种通用语言的出现所需要的只是最少数量的智能体。这一发现表明,在这两个组中,所有智能体都在学习使用一种共享语言,而不管它们是否与来自另一组的智能体进行交互,都在迅速转向使用一种通用协议,并暗示组间连接存在一个关键级别。
这些并不是唯一值得注意的发现。研究人员表示,在所有情景中,智能体倾向于整合、同化而不是分离语言复杂性,当两个群落之间的人口不平衡较大时,趋于平稳。
他们指出,“这意味着两个同样规模的社区所产生的新的交际语言往往更加简单。”
在最后的实验中,一群人口相等的社区(五个智能体)按顺序相互沟通,就像一个电话游戏。研究人员发现,虽然来自一对相邻社区的智能体几乎可以与单个社区内的智能体进行交流,但随着社区对之间距离的增长,可传播性降低,而第一个社区的智能体和最后一个社区根本无法相互理解。
这些研究结果表明,语言并不依赖于进化的,复杂的语言能力,但可能源于具有感知能力的智能体玩通信游戏时的简单的社交。
论文中写道:“我们观察到,当一个语言社区中存在三个或更多的机制时,一个对称的通信协议就会出现,而智能体中没有任何固有的,明确的机制。”
论文:
arxiv.org/pdf/1901.08706.pdf