基于深度学习的钢轨表面伤损细粒度图像识别与目标检测
基于深度学习的钢轨表面伤损细粒度图像识别与视觉测量，实现轨面光带、剥离掉块、波浪磨耗、疲劳裂纹、扣件螺栓的计数及尺寸测量。毕业论文：钢轨表面伤损细粒度图像识别与检测系统。轨面伤损数据集Rail-5k论文：https://arxiv.org/abs/2106.14366同济大学交通运输工程学院 铁道系 张子豪
《解码AI大模型涌现能力：从量变到质变的智能跃迁》
人工智能大模型的涌现能力是当今科技的焦点。其产生依赖于四大关键因素：1) 海量数据提供丰富的训练素材，涵盖多样化的文本和图像；2) 强大算力如GPU、TPU加速模型训练，突破性能瓶颈；3) 精妙架构如Transformer引入自注意力机制，提升语义理解；4) 过参数化与优化策略使模型不断进化，展现未曾预设的能力。这些因素协同作用，推动大模型在复杂任务中表现出色，为未来带来更多可能。
GenCast：谷歌DeepMind推出的AI气象预测模型
GenCast是由谷歌DeepMind推出的革命性AI气象预测模型，基于扩散模型技术，提供长达15天的全球天气预报。该模型在97.2%的预测任务中超越了全球顶尖的中期天气预报系统ENS，尤其在极端天气事件的预测上表现突出。GenCast能在8分钟内生成预报，显著提高预测效率，并且已经开源，包括代码和模型权重，支持更广泛的天气预报社区和研究。
【AI系统】张量并行
在大模型训练中，单个设备难以满足需求，模型并行技术应运而生。其中，张量并行（Tensor Parallelism, TP）将模型内部的参数和计算任务拆分到不同设备上，特别适用于大规模模型。本文介绍了张量并行的基本概念、实现方法及其在矩阵乘法、Transformer、Embedding和Cross Entropy Loss等场景中的应用，以及通过PyTorch DeviceMesh实现TP的具体步骤。