Reinforcement Learning-based Joint Antenna Beamwidth and Beam Alignment Interval Optimization in V2I Communications
- 주제어 (키워드) directional antenna beamwidth , beam alignment overhead , beam alignment interval , vehicle communications , reinforcement learning
- 발행기관 서강대학교 일반대학원
- 지도교수 소재우
- 발행년도 2024
- 학위수여년월 2024. 2
- 학위명 석사
- 학과 및 전공 일반대학원 전자공학과
- 실제URI http://www.dcollection.net/handler/sogang/000000076622
- UCI I804:11029-000000076622
- 본문언어 영어
- 저작권 서강대학교 논문은 저작권 보호를 받습니다.
초록
The directional antenna combined with beamforming is one of the promising technologies that can significantly improve high data rate and signal-to-noise ratio to satisfy quality-of-service in vehicle communications. However, due to the directional nature of beamforming, beam alignment is required between the transmitter and receiver, which incurs significant signaling overhead and can reduce system throughput. Therefore, it is important to find the optimal parameters for directional beamforming, i.e., the antenna beamwidth and beam alignment interval, that maximize the throughput while taking into account the beam alignment overhead. In this dissertation, we propose a reinforcement learning (RL)-based beamforming scheme in a vehicle-to-infrastructure system, where we jointly determine the antenna beamwidth and the beam alignment interval, taking into account the past and future rewards. The simulation results show that the proposed RL-based beamforming scheme outperforms conventional beamforming schemes in terms of the average throughput and the average link stability ratio.
more초록
빔포밍과 결합된 지향성 안테나는 높은 데이터 전송률 및 신호대잡음비를 크게 향상시켜 차량 통신에서 요구하는 서비스 품질 요구 조건을 충족시킬 수 있는 유망한 기술 중 하나이다. 그러나 빔포밍의 지향성 특성으로 인해 송신기와 수신기 사이에 빔 정렬이 필요하며, 이로 인해 시그널링 오버헤드가 크게 발생하고 시스템 수율이 감소할 수 있다. 따라서 빔 정렬 오버헤드를 고려하면서 시스템 수율을 최대화하는 안테나 빔 폭과 빔 정렬 간격 등 지향성 빔포밍을 위한 최적의 파라미터를 찾는 것이 매우 중요하다. 본 논문에서는 차량-인프라 통신 환경에서 과거와 미래의 보상을 고려하여 안테나 빔 폭과 빔 정렬 간격을 동시에 결정하는 강화학습(RL; Reinforcement Learning) 기반 빔포밍 기법을 제안한다. 시뮬레이션 결과에 따르면 제안된 RL 기반 빔포밍 기법은 평균 시스템 수율과 평균 링크 안정성 비율 관점에서 기존 빔포밍 기법보다 우수한 성능을 보인다.
more목차
1. Introduction 1
2. System Model 6
2.1 System Description 6
2.2 Frame Structure 10
3. Proposed RL-based Antenna Beamwidth and Beam Alignment Interval Optimization 12
3.1 Problem Formulation 12
3.2 RL-based Joint Antenna Beamwidth and Beam Alignment Interval Optimization 15
4. Simulation Results 19
4.1 Simulation Setting 19
4.2 Antenna Link Stability 23
4.3 Impact of Weight for the Future Reward 25
4.4 Scenario 1: A Single Vehicle 29
4.5 Scenario 2: Multiple Vehicles 38
5. Conclusion 43
Bibliography 45