AIGC 施展“物理魔法”，3D视觉突破“精度极限”

前沿科技，数智经济

文 | 姚   悦

编 | 王一粟

没有艺术，全是物理！物理让你快乐，不是吗？

近日，在世界计算机图形会议 SIGGRAPH 2023 上，英伟达创始人、CEO 黄仁勋宣布，将生成式AI与仿真模拟平台Omniverse结合的时候，如同他宣布AIGC是iPhone时刻一样兴奋。

不同于大语言模型只能应用在图文，有了基于物理规律的仿真模拟平台，生成式AI就可以直接用到现实世界。

除了黄仁勋，美国斯坦福大学李飞飞团队，近期也将大模型接入机器人，不仅使得机器人能够与环境有效交互，还能够在无需额外数据和训练的情况下完成各种任务。

基于物理世界模拟的生成式AI，是生成式AI 2.0，跨维智能创始人、华南理工大学教授贾奎对光锥智能表示，与具身智能的结合，生成式AI 将发挥出更确定性的作用。

而随着通用能力的增强，AI也有望打破商业化的魔咒。

当生成式AI学会物理

将生成式AI与物理世界结合，并不容易，这里面涉及的技术链条非常长。

首先，需要对物理世界基本规律的掌握，才能将真实世界建模到仿真模拟平台。

仿真模拟平台，不仅可以仿真物理场景，还可以模拟真实世界中物体之间相互作用、运动和变形。

而生成式AI的加入，会让仿真模拟平台拥有预演能力。

人类从小就知道的物理常识，AI却不知道。黄仁勋表示，生成式AI和仿真模拟平台结合，就是要让AI的未来能够在物理上扎根。

黄仁勋进一步解释，让AI在虚拟世界中学习如何感知环境，并通过强化学习来理解物理行为的影响和后果，让AI实现特定目标。

这就需要用生成式 AI，预测物理世界中的千万种、甚至上亿种可能性，形成有价值的合成数据。

比如机械臂需要通过3D视觉的眼睛才能精准抓取，但如何排除环境变化的干扰，认出待抓取的物体？

通过仿真模拟平台掌握了光线对场景目标的反射、折射影响等物理规律，生成式 AI就能预测模拟出一个瓶子，在不同场景光照下，周身不同的反光程度；同一光照下，金属、塑料、木制品等不同材质物体表面呈现的状态；一堆钉子，所有可能出现的散落状态……

再次，需要将所有数据，都在仿真模拟平台中用AI都跑一遍。

这一步，就是在训练3D视觉大模型。区别于大语言模型，3D视觉大模型对于理解和推理视觉场景的组成特性至关重要，需要处理对象之间的复杂关系、位置、以及现实环境中的变化等。

最后，再连接上机械臂等具身智能的硬件，才能让其学会智能化操作。

可以看到，生成式AI与物理世界结合的整个技术链条，不仅涉及物理学、图形学、计算机视觉、机器人多学科交叉，还包括数字孪生、几何深度学习、运动学解算、混合智能、智能硬件等多维前沿技术。

相应的，整个产业的链条也比较复杂，需要从数据到模型，再从模型到部署。

在这些环节中，有一个节点和此前AI的路径非常不同，那就是合成数据生成。

用基于物理规律的生成式AI合成的数据，去训练大模型，将给实体产业带来跨越式的革命。

不用一张真实图片，

训练3D视觉大模型

为什么不直接用真实数据训练大模型？

目前，行业内多数基于3D视觉的机械臂，其控制系统的算法训练所使用的就是真实数据。因为商业隐私等问题，这些真实数据很难在通用数据中获取，基本都是企业自行采集。

然而，自采真实数据，首先在效率和成本这两个运营的关键指标上，性价比就非常低。

这是因为，终端应用场景碎片化，数据根本不能通用。采集真实数据，企业就需要一个一个行业，一个一个工厂，一个一个场景的地毯式采集。而且，采集回来的数据也不能直接用，还需要进行一系列处理。

这个过程中，甚至产生了人工智能悖论。

采集真实数据，AI技术的成本构成中，半数以上都是数据成本，而对数据的采集、清洗、标注、增强等处理过程，往往是大量人力堆积的结果。有分析人士就曾指出，人工智能的本质是代替人工的智能。讽刺的是，这样的AI具备显著的劳动密集型产业特征。

如果用合成数据呢？

用五六年、上千个案例积累的真实数据，通过合成数据，几天几周就能完成。贾奎告诉光锥智能，相比于人工采集与标注数据，合成数据的成本能够实现几个数量级的降低。

最关键的还是，在训练效果上，合成数据能够更优于真实数据。

由于本身就是基于物理规律合成，合成数据天生自带绝对精确的标注，这就意味着，AI学习起来效率非常高。

另外，合成数据的全面性是真实数据难以比拟的。生成式AI 2.0可以创造无数个世界，而且可以让这个世界快速演进。贾奎表示。

而落地到3D视觉行业，机械臂就犹如有了上帝之手，可以掌控一切过去未来。

当然，这不能是物理世界的规律之外的。贾奎强调。

目前，我们不使用一张真实图片，就可以完成机械臂复杂场景作业的3D视觉模型训练。贾奎告诉光锥智能，完全使用合成数据训练的模型引导机械臂的柔性操作，可以实现现场99.9%以上的稳定抓取。

也正是因为此，合成数据，被称为大模型的数据永动机。

当前，除了3D视觉领域，许多领域也都因通用数据缺乏和噪点多等问题，开始尝试使用合成数据。但也有对合成数据抱有强烈质疑的观点，称如果没有经过精心调试，在训练时大量使用，会引发模型崩溃，造成不可逆的缺陷。

从技术演进的角度，合成数据不会是大模型的唯一解。

但贾奎指出，没有找到更好的办法之前，合成数据就是目前能够解决实际问题的最好办法。如果还采用人力堆砌的真实数据，在包括3D视觉在内的很多领域，AGI永远不可能实现。

打破AI的商业化魔咒

在机器视觉领域，对合成数据的需求更加旺盛，生成式AI 2.0能够释放的价值也就会更大。

作为机器视觉非常重要的感知手段，3D视觉对于合成数据的需求就十分迫切。

在一堆相似的零件里‘找不同’，物体换一个材质、颜色，都需要去调整参数。一位3D视觉从业人士表示，不同领域的需求不同，使得落地场景过于碎片化，只能做完一个项目再重新定制另一个项目。

这就意味着，企业很难通过着力解决一个或几个项目需求，就能形成标准化产品。也就无法进而通过快速复制，打入并拓展市场，追求利润规模。

边际成本难以降低，会将一家技术公司，变成项目公司，最终拖垮。

魔鬼藏在细节中。

传统3D视觉感知有多脆弱？贾奎向光锥智能描述，机械臂在抓取过程中，如果有人路过产生光线变化，任务就可能失败。

这是由硬件3D相机的成像原理造成的，3D相机成像容易受环境、物体形状、材质、颜色、散射介质等影响，而且这一问题短时间内难以解决。

解决一个问题可能是一百步，但最后一步付出的努力可能跟前面99步加起来是一样的。商汤科技联合创始人杨帆曾表示，企业大部分的精力都需要用来应对小部分长尾问题。

但现在，通用性能力很强的生成式AI 2.0，能够解决长尾问题，对于产品标准化至关重要。贾奎表示。

相较于行业传统定制化开发的模式，企业基于生成式AI 2.0，就可以利用通用大模型，实现产品模块化开发，做到开箱即用地部署，进而实现同行业直接拓展，不同行业也能有效复用。3D视觉行业的商业化难题也就迎刃而解。

与此同时，数据、开发、部署、硬件、行业拓展，每一个环节的成本也都实现骤降。

而在生成式AI 2.0的催化下，3D视觉一旦爆发，也就意味着，在机械臂、机器人、无人驾驶、元宇宙等等高度依赖3D视觉技术的垂直场景，都将加速吃到AI的红利。

不少数据已经印证了这一点，像数据标注、合成数据、工业机器人、机器视觉等领域，全球市场规模都在高速增长，尤其是合成数据的年复合增长率甚至都超过了30%。

这背后，实际上是生成式AI 2.0的战略价值，已经受到了科技和众多制造业巨头的高度重视。

从西门子、福特等老牌制造企业，到英伟达、特斯拉、谷歌等一众科技巨头，再到Waabi等明星初创公司，都开始纷纷在工业、机器人、无人驾驶、医疗、零售等诸多领域，探索生成式AI 2.0更大的可能。

与此同时，资本的热情也被极大地调动起来。据不完全统计，近年来，国外合成数据的相关融资，累计已接近8亿美元。

在国内，合成数据相关企业也同样引起了资本的注意。2022年6月，跨维智能宣布完成Pre-A轮融资，融资金额数千万元，成立不到一年时间累计融资近亿元；今年7月，光轮智能也宣布完成天使+轮融资，融资金额累计数千万元。 

可以说，从会作诗到学物理，生成式AI 2.0正在开启一个产业数字化的宏大未来。

光锥智能AI交流群已建立，

感兴趣的朋友可以添加小助手微信沟通进群。

联系我们

与主编交流、沟通请添加微信：cishicike000

商务合作请添加微信：GZZN2019

转载开白请留言或添加微信：GZZN2019

※添加时请备注公司+姓名+来意

「往期精彩推荐」

深度研报：AI芯片厂商｜存算?一体｜存储行业｜信创战略｜2022智能汽车盘点｜2022智能汽车盘点｜化学电池｜人工智能机器人｜碳中和｜低代码/无代码｜VR/AR｜国产数据库｜碳中和氢能｜协同办公｜RISC-V芯片AI大爆炸：硅谷AI融资｜数字人｜消费物联网｜京东大模型｜腾讯云MaaS｜世界人工智能大会｜阿里云｜ChatGPT｜AI并购潮｜云知声山海大模型｜模型安全｜大模型创业｜国产大模型｜百度文心一言｜生成式AI｜火山方舟｜AI面试｜360大模型｜ SaaS观察|云计算：东数西算｜算力革命｜华为昇腾｜云厂商｜云数据库｜阿里云算力｜亚马逊云｜华为云｜云智一体｜云存储｜云原生数据仓库｜云大厂交战低代码｜微软云｜云原生｜汽车云汽车智能化：上海车展｜禾赛科技上市｜港口自动驾驶｜零跑上市｜高通｜宏景智驾｜威马上市｜小米造车｜车企自研自动驾驶｜自动驾驶黄金拐点｜高精地图｜无人重卡｜飞行汽车｜港口自动驾驶｜宏景智驾｜硅谷明星无人车wayoo｜无人公交数智化案例：

金融数据?库｜安全芯片｜国产GPU｜中国芯片投资十年｜苹果芯片｜高通｜苹果WWDC2022｜英伟达｜高科数聚｜菜鸟｜赢识科技｜零售行业数字化转型

投稿、开白、

商务合作、应聘

请添加小助手

更多精彩内容

关注商业数据派

本文首发于微信公众号：光锥智能。文章内容属作者个人观点，不代表立场。投资者据此操作，风险请自担。