类似GPT-4的全部功能将开源，而且速度更快、成本更低。这和GPT-5一样让我兴奋。
具体来说，方法使用了场景的自分解技术，通过倒置球面参数化的扩展，引入了感知遮挡的场景参数化。在这个参数化中，除了第一个由倒置球面参数化定义的球体外，引入了第二个内部球体，并将从摄像机到内部球体边缘的区域定义为遮挡区域。通过分开渲染这个区域，可以将遮挡与场景的其余部分解耦。为了确保对人的高保真和完整呈现，方法通过像素级光度损失、场景分解损失、遮挡解耦损失和几何完整性损失的组合来聚合三个渲染。
据悉，M2UGen采用了创新的方法，生成了大规模的多模态音乐指导数据集，用于训练模型。这包括MU-LLaMA模型生成的1.2k多小时音乐字幕数据集。模型结合了MU-LLaMA、BLIP图像字幕模型、MPT-7B-Chat模型以及VideoMAE字幕模型，以在各个领域生成对应的指导。
要点:通过实验，Paint3D 在生成多样化纹理贴图方面表现显著，几乎在所有样本上达到更好的效果，成为唯一一个能生成无内嵌光照纹理的算法。