【文献学习】Channel Estimation Method Based on Transformer in High Dynamic Environment

简介: 一种基于CNN和Transformer的信道估计方法,用于在高度动态环境中跟踪信道变化特征,并通过实验结果展示了其相比传统方法的性能提升。

1 引言

提出了基于CNN+Transformers的信道估计结构,CNN 用于提取信道响应的特征向量,Transformers用于估计信道状态信息,适应高度动态的环境中跟踪信道变化特征。与传统的相比有提升。

2 介绍

根据信道估计算法中是否使用先验信息的判断条件,分为基于参考信号的估计算法和盲估计算法两种。 盲估计算法通常需要信道在多个符号上保持稳定,因此这不适合高动态场景。

随着通信双方速度的增加,多普勒频偏也会相应增加,单个OFDM符号内的信道变化会更加剧烈,使得线性插值信道模型引起的建模误差值越来越大,直接导致信道估计精度的下降。

3 模型

3.1 问题分析

1.png

以上是不同多普勒频移中OFDM符号中信道脉冲响应的抽头分量的变化,左边多普勒频移0.01,右边多普勒频移0.2。从图中可以看出,左边的脉冲响应大致满足线性变化,右边则不满足线性变化。

3.2 模型结构

(1)参数
块状导频
激活函数:ReLU
损失函数:MSE
训练集、验证集、测试集:200000、6000、3000
带宽:3MHZ
子载波数量:400
符号数:100
FFT大小:512
循环前缀CP长度:32
调制方式:QPSK
信道模型:3GPP-Extend 典型的城市模型
训练集构造方法是:导频位置的CSI通过DFT估计方法获得,数据位置的CSI设置为零。
(2)网络结构

2.png

测试阶段,将导频位置的CSI作为网络输入,数据位置的CSI设置为零,输出为与输入维数相同的CSI矩阵。先试用一维的CNN网络图提取特征,输入是通过DFT估计方法获得的CSI矩阵,输出维度和输入维度一样。再使用了Transformer的encoder部分,包含了6层的tranformer block,这个block中主要包括Muti-head Attention多头注意力和Feed Forward前馈。

3.png

一维CNN提取到的h特征矩阵输入到Transformers中,h分别经过运算得到三个向量Q、K、V。QKTV 得到输出矩阵,即信道估计的CSI。

4 实验结果

4.png

左边评价标准是MSE,右边评价标准是BER。LS精度有限的原因是:时域相关系数是非平稳信道环境下的时变参数,信道变化规律不满足线性假设。不同的多普勒频移,LS方法的精度都没有太大区别,说明LS结合线性插值法在归一化多普勒频偏较大或较小的情况下估计性能较差。

5 疑问和思考

  • 作者通过DFT方法得到的CSI,然后准备的数据集,如果DFT的方法准确率并不高,构造出来的数据集质量并不高,将会影响深度学习模型的训练。不知道作者是如何准备数据集的。

  • 公式的6-8中的α代表什么?W是什么?作者并没有描述。

    5.png

  • 图中的h 是同一个值,还是代表不一样的值?

    6.png

  • 这篇文章算是目前我看到的首个把Transformers运用到OFDM中的文献。既然Transformers是能够替代LSTM的存在,为什么在通信领域对Transformer的应用如此少。LSTM 的应用数不胜数。

目录
相关文章
|
5月前
|
算法 数据挖掘
文献解读-Consistency and reproducibility of large panel next-generation sequencing: Multi-laboratory assessment of somatic mutation detection on reference materials with mismatch repair and proofreading deficiency
Consistency and reproducibility of large panel next-generation sequencing: Multi-laboratory assessment of somatic mutation detection on reference materials with mismatch repair and proofreading deficiency,大panel二代测序的一致性和重复性:对具有错配修复和校对缺陷的参考物质进行体细胞突变检测的多实验室评估
38 6
文献解读-Consistency and reproducibility of large panel next-generation sequencing: Multi-laboratory assessment of somatic mutation detection on reference materials with mismatch repair and proofreading deficiency
|
4月前
|
编解码 人工智能 文件存储
轻量级网络论文精度笔记(二):《YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-time object ..》
YOLOv7是一种新的实时目标检测器,通过引入可训练的免费技术包和优化的网络架构,显著提高了检测精度,同时减少了参数和计算量。该研究还提出了新的模型重参数化和标签分配策略,有效提升了模型性能。实验结果显示,YOLOv7在速度和准确性上超越了其他目标检测器。
79 0
轻量级网络论文精度笔记(二):《YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-time object ..》
|
6月前
|
机器学习/深度学习 编解码 算法
【文献学习】Model-Driven Channel Estimation for OFDM Systems Based on Image SuperResolution Network
本文介绍了一种基于图像超分辨率网络的OFDM系统模型驱动信道估计算法,通过结合最小二乘法和深度学习技术来提高信道估计的准确性。
49 6
|
数据挖掘
MUSIED: A Benchmark for Event Detection from Multi-Source Heterogeneous Informal Texts 论文解读
事件检测(ED)从非结构化文本中识别和分类事件触发词,作为信息抽取的基本任务。尽管在过去几年中取得了显著进展
76 0
|
机器学习/深度学习 自然语言处理 索引
GTEE-DYNPREF: Dynamic Prefix-Tuning for Generative Template-based Event Extraction 论文解读
我们以基于模板的条件生成的生成方式考虑事件抽取。尽管将事件抽取任务转换为带有提示的序列生成问题的趋势正在上升,但这些基于生成的方法存在两个重大挑战
161 0
|
算法 数据可视化 机器人
Object SLAM: An Object SLAM Framework for Association, Mapping, and High-Level Tasks 论文解读
Object SLAM: An Object SLAM Framework for Association, Mapping, and High-Level Tasks 论文解读
107 0
|
自然语言处理 Java 计算机视觉
ACL2023 - AMPERE: AMR-Aware Prefix for Generation-Based Event Argument Extraction Model
事件论元抽取(EAE)识别给定事件的事件论元及其特定角色。最近在基于生成的EAE模型方面取得的进展显示出了与基于分类的模型相比的良好性能和可推广性
206 0
|
机器学习/深度学习 自然语言处理 算法
Joint Information Extraction with Cross-Task and Cross-Instance High-Order Modeling 论文解读
先前的信息抽取(IE)工作通常独立地预测不同的任务和实例(例如,事件触发词、实体、角色、关系),而忽略了它们的相互作用,导致模型效率低下。
110 0
|
机器学习/深度学习 自然语言处理 算法
TPLinker: Single-stage Joint Extraction of Entities and Relations Through Token Pair Linking 论文解读
近年来,从非结构化文本中提取实体和关系引起了越来越多的关注,但由于识别共享实体的重叠关系存在内在困难,因此仍然具有挑战性。先前的研究表明,联合学习可以显著提高性能。然而,它们通常涉及连续的相互关联的步骤,并存在暴露偏差的问题。
233 0
|
机器学习/深度学习 算法 图形学
Deep learning based multi-scale channel compression feature surface defect detection system
简述:首先应用背景分割和模板匹配技术来定义覆盖目标工件的ROI区域。提取的感兴趣区域被均匀地裁剪成若干个图像块,每个块被送到基于CNN的模型,以分类杂乱背景中不同大小的表面缺陷。最后,对空间上相邻且具有相同类别标签的图像块进行合并,以生成各种表面缺陷的识别图。
158 0