Transformer图解
Transformer 是一种在自然语言处理（NLP）领域广泛使用的模型架构该模型通过Self-Attention机制和位置编码技术替代传统的RNN结构，实现了并行处理和更有效的长距离依赖捕捉。Transformer主要由编码器（Encoder）和解码器（Decoder）两部分组成，其中编码器负责处理输入序列，解码器则基于编码器的输出生成目标序列。每一层的编码器和解码器内部均采用多头注意力机制（Multi-Head Attention）、前馈神经网络以及残差连接和归一化层，以增强模型的学习能力和稳定性。此外，位置编码的引入使得模型能够在处理无序的输入序列时保留词语的位置信息。
See3D：智源研究院开源的无标注视频学习 3D 生成模型
See3D 是智源研究院推出的无标注视频学习 3D 生成模型，能够从大规模无标注的互联网视频中学习 3D 先验，实现从视频中生成 3D 内容。See3D 采用视觉条件技术，支持从文本、单视图和稀疏视图到 3D 的生成，并能进行 3D 编辑与高斯渲染。