俄罗斯科学家教会人工智能独立决策和思考

新数据集名为XLand-MiniGrid，旨在训练“人工智能代理”——能够做出决策的模型。该解决方案由AIRI人工智能研究所的一个团队开发，T-Bank人工智能实验室也参与其中。

经过新数据集训练的人工智能代理可以探索周围的世界，了解哪些行为会带来好结果，哪些会带来坏结果。人工智能“探索和利用”不同行动所面临的挑战是独立找到一种学习机制，以较少的步骤产生最佳结果。

如今，人工智能种类繁多。有与人类交流的聊天机器人，有创建文本、音乐、图像甚至视频的人工智能生成模型。还有所谓的人工智能代理，它们能够与环境互动，收集数据，并根据这些数据独立决定和执行行动，以实现某些目标。这些目标是由人类设定的，而人工智能代理已经独立做出了实现这些目标的决定。

如今，所谓现代人工智能的发展逻辑正在推动开发人员创建自主人工智能系统。这种系统更加高效、智能，俄罗斯科学家的新研发成果正处于最先进研究的顶峰。然而，在训练和决策方面越来越多的自主性，以及自我学习的人工智能已成为潜在风险的研究课题。

真正有待解决的问题是，如何不把自己生活的控制权交给人工智能。

“对我们来说，人工智能是一种黑盒子，我们并不总是了解何时会有什么结果。如果有一个由代理组成的系统，每个代理自己决定一切，那么控制的复杂性就会成倍增加。这实质上是黑箱中的黑箱。使用合成数据时，出现偏差或错误的风险更高，因为系统获得的情况有限，看不到世界的全貌。”Bitrix24专家谢尔盖·诺特夫斯基（Sergey Notevsky）表示，“如果合成数据包含各种错误或偏见，我们的人工智能系统就会把它们当作真理并加以放大”。

来源: 《俄罗斯报》 

| www.tsrus.cn/680905|