【文献学习】Channel Estimation Method Based on Transformer in High Dynamic Environment

简介: 一种基于CNN和Transformer的信道估计方法,用于在高度动态环境中跟踪信道变化特征,并通过实验结果展示了其相比传统方法的性能提升。

1 引言

提出了基于CNN+Transformers的信道估计结构,CNN 用于提取信道响应的特征向量,Transformers用于估计信道状态信息,适应高度动态的环境中跟踪信道变化特征。与传统的相比有提升。

2 介绍

根据信道估计算法中是否使用先验信息的判断条件,分为基于参考信号的估计算法和盲估计算法两种。 盲估计算法通常需要信道在多个符号上保持稳定,因此这不适合高动态场景。

随着通信双方速度的增加,多普勒频偏也会相应增加,单个OFDM符号内的信道变化会更加剧烈,使得线性插值信道模型引起的建模误差值越来越大,直接导致信道估计精度的下降。

3 模型

3.1 问题分析

1.png

以上是不同多普勒频移中OFDM符号中信道脉冲响应的抽头分量的变化,左边多普勒频移0.01,右边多普勒频移0.2。从图中可以看出,左边的脉冲响应大致满足线性变化,右边则不满足线性变化。

3.2 模型结构

(1)参数
块状导频
激活函数:ReLU
损失函数:MSE
训练集、验证集、测试集:200000、6000、3000
带宽:3MHZ
子载波数量:400
符号数:100
FFT大小:512
循环前缀CP长度:32
调制方式:QPSK
信道模型:3GPP-Extend 典型的城市模型
训练集构造方法是:导频位置的CSI通过DFT估计方法获得,数据位置的CSI设置为零。
(2)网络结构

2.png

测试阶段,将导频位置的CSI作为网络输入,数据位置的CSI设置为零,输出为与输入维数相同的CSI矩阵。先试用一维的CNN网络图提取特征,输入是通过DFT估计方法获得的CSI矩阵,输出维度和输入维度一样。再使用了Transformer的encoder部分,包含了6层的tranformer block,这个block中主要包括Muti-head Attention多头注意力和Feed Forward前馈。

3.png

一维CNN提取到的h特征矩阵输入到Transformers中,h分别经过运算得到三个向量Q、K、V。QKTV 得到输出矩阵,即信道估计的CSI。

4 实验结果

4.png

左边评价标准是MSE,右边评价标准是BER。LS精度有限的原因是:时域相关系数是非平稳信道环境下的时变参数,信道变化规律不满足线性假设。不同的多普勒频移,LS方法的精度都没有太大区别,说明LS结合线性插值法在归一化多普勒频偏较大或较小的情况下估计性能较差。

5 疑问和思考

  • 作者通过DFT方法得到的CSI,然后准备的数据集,如果DFT的方法准确率并不高,构造出来的数据集质量并不高,将会影响深度学习模型的训练。不知道作者是如何准备数据集的。

  • 公式的6-8中的α代表什么?W是什么?作者并没有描述。

    5.png

  • 图中的h 是同一个值,还是代表不一样的值?

    6.png

  • 这篇文章算是目前我看到的首个把Transformers运用到OFDM中的文献。既然Transformers是能够替代LSTM的存在,为什么在通信领域对Transformer的应用如此少。LSTM 的应用数不胜数。

目录
相关文章
|
1月前
|
机器学习/深度学习 算法
【文献学习】RoemNet: Robust Meta Learning based Channel Estimation in OFDM Systems
本文提出了一种基于元学习的鲁棒信道估计算法RoemNet,旨在解决OFDM系统中由于训练和部署信道模型不一致导致的问题,并展示了其在不同信道环境下优越的性能。
30 5
|
1月前
|
机器学习/深度学习 编解码 算法
【文献学习】Model-Driven Channel Estimation for OFDM Systems Based on Image SuperResolution Network
本文介绍了一种基于图像超分辨率网络的OFDM系统模型驱动信道估计算法,通过结合最小二乘法和深度学习技术来提高信道估计的准确性。
19 6
|
机器学习/深度学习 自然语言处理 索引
GTEE-DYNPREF: Dynamic Prefix-Tuning for Generative Template-based Event Extraction 论文解读
我们以基于模板的条件生成的生成方式考虑事件抽取。尽管将事件抽取任务转换为带有提示的序列生成问题的趋势正在上升,但这些基于生成的方法存在两个重大挑战
114 0
|
自然语言处理 Java 计算机视觉
ACL2023 - AMPERE: AMR-Aware Prefix for Generation-Based Event Argument Extraction Model
事件论元抽取(EAE)识别给定事件的事件论元及其特定角色。最近在基于生成的EAE模型方面取得的进展显示出了与基于分类的模型相比的良好性能和可推广性
160 0
|
机器学习/深度学习 存储 数据挖掘
Global Constraints with Prompting for Zero-Shot Event Argument Classification 论文解读
确定事件论元的角色是事件抽取的关键子任务。大多数以前的监督模型都利用了昂贵的标注,这对于开放域应用程序是不实际的。
63 0
|
自然语言处理 算法 知识图谱
DEGREE: A Data-Efficient Generation-Based Event Extraction Model论文解读
事件抽取需要专家进行高质量的人工标注,这通常很昂贵。因此,学习一个仅用少数标记示例就能训练的数据高效事件抽取模型已成为一个至关重要的挑战。
106 0
|
数据挖掘
MUSIED: A Benchmark for Event Detection from Multi-Source Heterogeneous Informal Texts 论文解读
事件检测(ED)从非结构化文本中识别和分类事件触发词,作为信息抽取的基本任务。尽管在过去几年中取得了显著进展
55 0
|
机器学习/深度学习 自然语言处理 算法
SS-AGA:Multilingual Knowledge Graph Completion with Self-Supervised Adaptive Graph Alignment 论文解读
预测知识图(KG)中缺失的事实是至关重要的,因为现代知识图远未补全。由于劳动密集型的人类标签,当处理以各种语言表示的知识时,这种现象会恶化。
86 0
|
机器学习/深度学习 存储 自然语言处理
PESE Event Structure Extraction using Pointer Network based Encoder-Decoder Architecture论文解读
事件抽取(EE)的任务旨在从文本中找到事件和事件相关的论元信息,并以结构化格式表示它们。大多数以前的工作都试图通过分别识别多个子结构并将它们聚合以获得完整的事件结构来解决这个问题。
72 0
|
算法
Single TPR论文解读
Single TPR是2015年提出来的,是基于TPR的进一步改进,TPR论文解读可以参考Topical PageRank(TPR)论文解读_Trouble…的博客-CSDN博客。
90 0