【资料图】

完美的大模型存在吗？机器智能会超越人类智能走向不可控吗？技术的发展如何建立伦理和治理机制？在今天举行的2023世界人工智能大会开幕式上，图灵奖得主、Meta AI基础人工智能团队首席AI科学家杨立昆亮明观点：目前的大模型都存在“缺陷”还不能通向人类智能，未来需要建立世界模型，帮助机器像人类理解世界的方式一样学习，这样的学习也会对约束行为、构建伦理形成天然基础。

在杨立昆看来，目前似乎各种好用、好评的模型其实并非万能。“实际上现在广泛应用的许多系统或许展现了非凡的应用实力，但‘有用’并非完美，实际上各有缺陷，都不是通向人类智能的模型，”他解释，一些语言模型或图像模型实际上仍然是基于“上一句”“上一帧”来实现预测的，本质还是一种模仿。他认为，应该建立不同的非生成式架构，构建表征空间的训练来实现预测。也就是说，为机器建立世界模型，帮助它获得类似人类物理直觉，来理解世界，形成预测，“这将是未来十年的巨大挑战。”

至于安全与伦理问题，杨立昆认为，一旦建立世界模型，当设定了向善的目标，机器就会在学习中自限行为。“这是艰巨挑战，但我们可以从培养一只‘好的小老鼠’开始，再慢慢到‘好的狗’‘好的猴子’，再放入仿真环境测试。”他同时强调，基于AI向善的目标，相比严格监管，开源是更好的方式。

新民晚报记者 易蓉

‍

‍

标签：

责任编辑：