HOME > 상세정보

상세정보

Buffer sharing mechanisms for data center networks

Buffer sharing mechanisms for data center networks

자료유형
학위논문
개인저자
김규영, 金奎榮
서명 / 저자사항
Buffer sharing mechanisms for data center networks / Gyuyeong Kim
발행사항
Seoul :   Graduate School, Korea University,   2020  
형태사항
viii, 105장 : 도표 ; 26 cm
기타형태 저록
Buffer Sharing Mechanisms for Data Center Networks   (DCOLL211009)000000127337  
학위논문주기
학위논문(박사)-- 고려대학교 대학원: 컴퓨터·전파통신공학과, 2020. 2
학과코드
0510   6YD36   376  
일반주기
지도교수: 이원준  
서지주기
참고문헌: 장 96-105
이용가능한 다른형태자료
PDF 파일로도 이용가능;   Requires PDF file reader(application/pdf)  
비통제주제어
스위치 버퍼 , 네트워크 시스템 , 데이터센터 네트워크,,
000 00000nam c2200205 c 4500
001 000046026200
005 20200428142011
007 ta
008 191226s2020 ulkd bmAC 000c eng
040 ▼a 211009 ▼c 211009 ▼d 211009
041 0 ▼a eng ▼b kor
085 0 ▼a 0510 ▼2 KDCP
090 ▼a 0510 ▼b 6YD36 ▼c 376
100 1 ▼a 김규영, ▼g 金奎榮
245 1 0 ▼a Buffer sharing mechanisms for data center networks / ▼d Gyuyeong Kim
246 1 1 ▼a 데이터센터 네트워크를 위한 버퍼 공유 기법
260 ▼a Seoul : ▼b Graduate School, Korea University, ▼c 2020
300 ▼a viii, 105장 : ▼b 도표 ; ▼c 26 cm
500 ▼a 지도교수: 이원준
502 1 ▼a 학위논문(박사)-- ▼b 고려대학교 대학원: ▼c 컴퓨터·전파통신공학과, ▼d 2020. 2
504 ▼a 참고문헌: 장 96-105
530 ▼a PDF 파일로도 이용가능; ▼c Requires PDF file reader(application/pdf)
653 ▼a 스위치 버퍼 ▼a 네트워크 시스템 ▼a 데이터센터 네트워크
776 0 ▼t Buffer Sharing Mechanisms for Data Center Networks ▼w (DCOLL211009)000000127337
900 1 0 ▼a Kim, Gyu-yeong, ▼e
900 1 0 ▼a 이원준, ▼g 李源埈, ▼e 지도교수
945 ▼a KLPA

전자정보

No. 원문명 서비스
1
Buffer sharing mechanisms for data center networks (47회 열람)
PDF 초록 목차

소장정보

No. 소장처 청구기호 등록번호 도서상태 반납예정일 예약 서비스
No. 1 소장처 과학도서관/학위논문서고/ 청구기호 0510 6YD36 376 등록번호 123063721 도서상태 대출가능 반납예정일 예약 서비스 B M
No. 2 소장처 과학도서관/학위논문서고/ 청구기호 0510 6YD36 376 등록번호 123063722 도서상태 대출가능 반납예정일 예약 서비스 B M

컨텐츠정보

초록

오늘날의 데이터 센터는 웹 검색, 추천 시스템 및 데이터 분석과 같은 최신 응용들의 근간이 되는 시설이다.
이러한 응용들은 각각 사용자 쿼리 메시지와 대량의 데이터 전송 트래픽을 생성하며 이는 네트워크에서 작은 흐름과 큰 흐름으로 표현된다.
테넌트 응용들은 더 나은 사용자 경험을 제공하기 위해 작은 흐름에 대해서는 짧은 지연시간을, 큰 흐름에 대해서는 높은 처리량을 요구한다.
또한 테넌트는 다른 테넌트로 인한 자신의 응용 성능 저하를 방지하기 위해 네트워크 격리를 요구한다.
불행하게도, 여러 테넌트의 응용에서 생성 된 네트워크 트래픽은 동적이고 버스티(Bursty) 하기 때문에 이러한 요구 사항을 만족시키는 것은 어려운 문제이다.

본 학위 논문은 데이터 센터 네트워크 상에서의 버퍼 공유 문제 해결에 중점을 두어 짧은 지연 시간, 높은 처리량, 그리고 네트워크 격리를 동시에 달성하는 것이 가능함을 보인다.
버퍼는 네트워크 혼잡 발생 시 네트워크 성능을 결정하는 핵심적인 자원이다.
그러나 종단 호스트 및 스위치의 버퍼는 현재 최선노력 방식으로 공유되고 있어 다양한 성능 문제가 발생하고 있다.
이를 위해 우리는 데이터 센터 네트워크 상의 세 가지 버퍼 공유 문제를 심도있게 논의한다.

먼저 패킷 손실의 주요 원인으로 알려져있는 마이크로 버스트 트래픽에 대해 다룬다.
기존 ECN은 스위치의 버퍼 헤드 룸을 사용하여 마이크로 버스트를 흡수 할 수 있지만 지연 시간과 처리량 사이에 근본적인 트레이드오프를 발생시킨다.
이를 해결하기 위해, 우리는 버퍼되어있는 큰 흐름 패킷을 제거하여 현재 도착중인 작은 흐름의 패킷 손실을 회피함으로써 ECN의 트레이드오프를 제거하는 새로운 버퍼 관리 솔루션인 LossPass를 제안한다.

다음으로, 우리는 정교한 버퍼 공유 기법 없이는 스위치의 서비스 큐를 격리 할 수 없으며 현재 ECN 기반 솔루션의 프로토콜 의존성에서 오는 한계점을 논의한다.
따라서 우리는 프로토콜에 독립적인 다중 큐 관리 체계인 DynaQ를 제안한다.
DynaQ는 서비스 큐의 버퍼 점유율을 동적으로 조정하여 프로토콜 종속성없이 서비스 대기열을 분리할 수 있다.

마지막으로 우리는 종단 호스트 네트워크 스택상의  네트워크 정책 강제방법에 대해 다룬다.
새롭게 등장하는 고속의 MQ-NIC에서는 NIC 스케줄러가 라운드 로빈 방식만으로 버퍼에서 패킷을 스케줄링하므로 다양한 네트워크 정책을 적용하기가 어렵다.
이를 해결하기 위해 상용 MQ-NIC로도 네트워크 정책을 강제 할 수 있는 종단 호스트 패킷 스케줄링 솔루션인 TONIC을 제안한다.
TONIC은 패킷 버퍼링 결정을 세심하게 제어하여 하드웨어 스케줄러의 패킷 스케줄링 순서를 조작한다.
이를 통해 하드웨어 수정없이 다양한 패킷 스케줄러를 간접적으로 구현하여 네트워크 정책을 적용할 수 있다.

Today's data centers are fundamental infrastructure of modern applications like web search, recommendation systems, and data analytics. These applications generate a diverse mix of small and large flows representing query messages and bulk transfers, respectively. For better user experience, tenants of applications require low latency for small flows and high throughput for large flows. Tenants also demand network isolation to prevent performance degradation caused by the other tenants. Unfortunately, it is hard to satisfy the requirements because network traffic generated by hundreds of applications of multiple tenants is dynamic and bursty. In this dissertation, we focus on buffer sharing in data center networks to achieve low latency, high throughput, and network isolation simultaneously. The buffer is a key resource that determines network performance when the network is congested. However, the current buffer is shared in a best-effort manner, causing various issues like performance degradation and unfair bandwidth sharing. To this end, we study three important but unrevealed buffer sharing problems in data center networks. First, we study microburst traffic, which is the key source of packet loss. We observe that existing Explicit Congestion Notification (ECN) can absorb microbursts using buffer headroom in the switch, but has a fundamental tradeoff between latency and throughput. As a remedy, we propose LossPass, a novel buffer management solution that breaks the tradeoff of ECN by evicting buffered large flow packets to avoid packet loss of arriving small flows. Second, we find that service queues in the switch cannot be isolated without elaborate buffer sharing and current ECN-based solutions prevent the network from employing emerging transport protocols. Therefore, we propose DynaQ, a protocol-independent multi-queue management scheme. DynaQ adjusts buffer share of service queues dynamically to isolate service queues without protocol dependency. Third, we study network policy enforcement in the end-host network stack. With emerging Multi-Queue Network Interface Cards (MQ-NICs), it is hard to enforce network policy because the NIC scheduler drains bytes from the buffer in a round-robin manner. To this end, we present TONIC, an end-host packet scheduling solution that enables network policy enforcement with commodity MQ-NICs. TONIC handles packet buffering decisions carefully to manipulate the packet scheduling sequence of hardware scheduler. This enables us to implement various packet schedulers indirectly without hardware modifications.

목차

1 Introduction 1
 1.1 Background and Motivation 1
 1.2 Contributions 2 
 1.3 Structure of the Dissertation 4
2 Absorbing Microbursts without Buffer Headroom 5
 2.1 Introduction 5
 2.2 Background and Motivation  8
  2.2.1 Microbursts in Data Center Networks 8
  2.2.2 Latency-Throughput Trade-off of ECN 9
 2.3 LossPass Design 11
  2.3.1 Overview and Design Rationale 11
  2.3.2 Detailed Mechanisms 13
  2.3.3 Alternative Designs 16
  2.3.4 Analysis of LossPass 17
 2.4 Implementation 21
  2.4.1 Hardware Implementation 21
  2.4.2 Software Implementation 22
 2.5 Performance Evaluation 23
  2.5.1 Testbed Experiments 24
  2.5.2 Large-scale ns-2 Simulations 30
 2.6 Related work 33
 2.7 Conclusion 33
3 Protocol-Independent Multi-Queue Management 34
 3.1 Introduction 34
 3.2 Background and Motivation 37
  3.2.1 Impact of Buffers on Bandwidth Sharing 37
  3.2.2 Why Protocol Dependency Matters 39
  3.2.3 Why Not Modifying Existing Solutions 40
 3.3 DynaQ Design 42
  3.3.1 Design goals 42
  3.3.2 Mechanisms 43
 3.4 Implementation 48
  3.4.1 Hardware Implementation 48
  3.4.2 Software Implementation 50
 3.5 Performance Evaluation 51
  3.5.1 Testbed Experiments 52
  3.5.2 Large-Scale Simulations 61
 3.6 Related work 65
 3.7 Conclusion 66
4 Network Policy Enforcement with Commodity Multi-Queue NICs 67
 4.1 Introduction 67
 4.2 Background and Motivation 70
  4.2.1 Network Policy Enforcement 70
  4.2.2 End-host Packet Scheduling with MQ-NICs 71
  4.2.3 Network Policy Violation with MQ-NICs 72
 4.3 TONIC Design 74
  4.3.1 Overview 74
  4.3.2 Detailed Mechanisms 76
  4.3.3 Discussions 83
 4.4 Performance Evaluation 84
  4.4.1 Implementation and Experiment Setup 85
  4.4.2 Experiment Methodology and Results 86
 4.5 Related Work 92
 4.6 Conclusion 93
5 Conclusion 94
Bibliography 96