但它究竟是什么?它为何如此重要?我们如何构建它?以及我们该如何利用它?
在这篇新文章中,李飞飞阐述了真正具有空间智能的世界模型必须实现的三项基本能力:
能像讲故事的人一样进行创作
像急救人员一样流畅地进行导航
以科学的精确性进行空间推理
李飞飞表示,
“空间智能将彻底改变我们创造和与现实世界及虚拟世界互动的方式——革新故事讲述、创造力、机器人技术、科学发现以及更多领域。
空间智能:人类认知的基础
诸如 LLM 之类的生成式人工智能模型已经从研究实验室走向日常生活,成为数十亿人创造力、生产力和沟通的工具。然而,它们能言善辩却缺乏经验,知识渊博却缺乏实际经验。
自主机器人仍停留在推测阶段,距离未来学家们长期以来所承诺的日常生活必需品还相去甚远。
李飞飞表示,要让人工智能拥有这些能力,需要研究空间智能是如何演变的,以及它如何塑造我们对世界的理解。
空间智能在定义人类与物理世界的互动方式中扮演着至关重要的角色。我们每天都依赖它来完成最普通的行为,所有这一切都是凭直觉、自动完成的——这是机器至今仍无法企及的流畅性。
空间智能也是想象力和创造力的基石。在许多行业应用中,物体、场景和动态交互环境的模拟为无数关键业务用例提供了支持,涵盖工业设计、数字孪生和机器人训练等领域。
空间智能是人类认知能力的基石。它驱动着我们的推理和规划,通过感官感知复杂的世界,然后运用直觉理解其在物理和空间层面的运作方式。
遗憾的是,人工智能目前并不具备空间智能的思维方式。
虽然在过去几年,多模态逻辑模型(MLLM)使用海量的多媒体数据进行训练,从而引入了一些空间感知的基本概念。但是人工智能的空间能力远未达到人类水平。
最先进的多层线性模型在估计距离、方向和大小方面,或者通过从新角度重新生成物体来“心理”旋转物体方面,很少能比随机猜测表现得更好。它们无法在迷宫中导航,无法识别捷径,也无法预测基本的物理现象。人工智能生成的视频通常在几秒钟后就会失去连贯性。
构建真正具有空间智能的机器
构建空间智能人工智能需要比逻辑逻辑模型(LLM)更宏大的方案:世界模型。世界模型是一种新型生成模型,其理解、推理、生成和交互语义、物理、几何和动态上复杂的世界的能力,远远超出了当今逻辑逻辑模型的范畴。
李飞飞通过三种基本能力来定义世界模型:
生成式:世界模型可以生成在感知、几何和物理上都保持一致的世界。能够解锁空间理解和推理的世界模型,也必须能够生成自身的模拟世界。
多模态:世界模型从设计上就是多模态的。世界模型应该能够处理各种形式的输入,无论是图像、视频、深度图、文本指令、手势还是动作—,世界模型都应该尽可能完整地预测或生成世界状态 。
交互式:世界模型可以根据输入动作输出下一个状态。当仅输入行动(无论是否包含目标状态)时,世界模型应生成与世界先前状态、预期目标状态(如有)及其语义含义、物理定律和动态行为相一致的输出。
要构建出能够提供人类所拥有的普适能力的宇宙模型,需要克服诸多巨大的技术障碍。目前李飞飞的实验室 World Labs 正在朝着这个目标前进,以下是 World Labs 的一些研究课题示例:
一种新的通用训练任务函数:这个目标函数及其相应的表示必须反映几何和物理定律,尊重世界模型作为想象和现实的具象化表征的本质。
大规模训练数据:训练世界模型所需的数据远比文本整理复杂得多。互联网规模的图像和视频集合提供了丰富且易于获取的训练素材。但未来的发展取决于更先进的传感器系统、更稳健的信号提取算法以及更强大的神经模拟方法。
新的模型架构和表征学习:世界模型研究必将推动模型架构和学习算法的进步,尤其是在当前多层线性模型学习(MLLM)和视频扩散范式之外。
李飞飞指出,Marble 只是 World Labs 构建真正具有空间智能的世界模型的第一步。下一代世界模型将使机器的空间智能提升到一个全新的水平。
参考资料:
https://a16z.substack.com/p/from-words-to-worlds-spatial-intelligence?utm_source=substack&utm_medium=email&utm_content=share



