본문 바로가기
KERD
논문KCI 등재

워프 스케쥴링 기법에 따른 GPU 성능 분석

Analysis of GPU Performance Depending on Warp Scheduling Schemes

김종면|김철홍|최홍준
한국차세대컴퓨팅학회 (KINGComputing)|2013.04|한국차세대컴퓨팅학회 논문지 (The Journal of Korean Institute of Next Generation Computing)|제9권 제2호|pp. 54-66

2

조회

0

다운로드

4

인용

0

참고문헌

키워드

GPUShader coreWarp세이더코어워프워프 스케쥴링 기법분기 명령어Warp scheduling schemeBranch instruction
주제분류컴퓨터학

초록

GPU에서 실제 연산을 담당하는 세이더코어는 다수의 워프를 동시에 할당받아 수행함으로써 연산자원 활용률을 극대화한다. 세이더코어가 할당받은 다수의 워프들 중에서 어떠한 워프를 선택하여 수행하는지에 따라 GPU의 성능은 달라질 것으로 예상된다. 효율적인 워프 스케쥴링 기법을 개발하기 위해서는 워프 스케쥴링 기법의 특성 분석이 선행되어야 한다. 본 논문에서는 워프 스케쥴링 기법에 따른 GPU의 성능을 분석하고자 한다. 무작위 스케쥴링, 라운드로빈 스케쥴링, 그리고 선입선처리 스케쥴링 기법을 분석 대상으로 사용한다. 실험 결과에 따르면, 분기 명령어를 포함하지 않는 응용프로그램을 수행하는 경우에는 스케쥴링 기법에 따른 성능 차이가 거의 없는 반면에, 분기 명령어를 다수 포함하는 응용프로그램을 수행하는 경우에는 스케쥴링 기법에 따른 성능 차이가 상당히 발생함을 알 수 있다. 그 이유는 분기 명령어는 워프 스케쥴링 기법에 따라 무작위적인 메모리 접근으로 유발되는 병목현상을 완화 또는 악화시키기기 때문으로 분석된다. 본 논문의 분석 결과는 범용 응용프로그램을 수행하는 GPU를 위한 워프 스케쥴링 기법을 개발하고자 하는 경우 가이드라인을 제시할 수 있을 것으로 기대된다.

Abstract

Shader core can process multiple warps simultaneously, enabling the GPU to improve the utilization of computational resources. The performance of the shader core depends on the warp scheduling schemes which select the warp to execute among assigned multiple warps. Therefore, we analyze the GPU performance according to three warp scheduling schemes in this work: random scheduling, round robin scheduling, and first ready first come first service scheduling schemes. Experimental results show that the performance gap between simulated warp scheduling schemes is negligible when the applications without branch instructions are executed, while the performance gap increases when the applications including lots of branch instructions are executed. The performance gap is caused by branch instructions which have strong relation to memory bottleneck depending on the warp scheduling schemes.

참고문헌 (24)

  1. Buck, T. Foley, "Brook for GPUs: stream computing on graphics hardware", Proceedings of 31th Annual Conference on Computer Graphics, pp.777~786 (2004)
  2. 김재하, "GPU 기반 테셀레이션을 이용한 연속상세단계 기법", 한국차세대컴퓨팅학회 논문지, 9(1), pp.84~92 (2013), 한국차세대컴퓨팅학회
  3. 이인, "디테일을 유지하는 대규모 지형의 GPU 기반 가시화 및 편집", 한국차세대컴퓨팅학회 논문지, 8(4), pp.35~46 (2012), 한국차세대컴퓨팅학회
  4. 윤민, "GPU를 이용한 Salsa20 스트림 암호의 병렬화", 한국차세대컴퓨팅학회 논문지, 5(1), pp.53~62 (2009), 한국차세대컴퓨팅학회
  5. "General-purpose computation on graphics hardware"[URL]
  6. "NVIDIA CUDA Programming"[URL]
  7. "OpenCL"[URL]
  8. "ATI Streaming"[URL]
  9. J. Meng, "Dynamic Warp Subdivision for Integrated Branch and Memory Divergence Tolerance", Proceedings of 37th International Symposium on Computer Architecture, pp.235~246 (2010)
  10. J. E. Thornton, "Parallel operation in the control data 6600", AFIPS Proceedings of FJCC, Part.2, 26, pp.33~40 (1964)
  11. M. R. Thistle, "A processor architecture for Horizon", Proceedings of Supercomputing, pp.35~41 (1988)
  12. "NVIDIA Corporation"[URL]
  13. "AMD(Advanced Micro Devices)Inc."[URL]
  14. W. W. L. Fung, "Dynamic Warp Formation and Scheduling for Efficient GPU Control Flow", Proceedings of 40th Microarchitecture, pp.407~420 (2007)
  15. B. W. Coon, "United States Patent #7,353,369: System and Method for Managing Divergent Threads in a SIMD Architecture", Assignee NVIDIA Corp, ~ (2008)
  16. B. W. Coon, "United States Patent #7,434,032: Tracking Register Usage During Multi-threaded Processing Using a Scorebard having Separate Memory Regions and Storing Se-quential Register Size Indicators", Assignee NVIDIA Corp, ~ (2008)
  17. E. Lindholm, "United States Patent #2010", 0122067: Across-Thread Out-of-Order Instruction Dispatch in a Multithreaded Microprocessor, 2010
  18. E. Rotenberg, "A study of control independence in superscalar processors", Proceedings of 5th International Symposium on High-Performance Computer Architecture, pp.115~124 (1999)
  19. B. W. Coon, "US Patent #7353369: System and method for managing divergent threads in a SIMD architecture", Assignee NVIDIA Corp, ~ (2008)
  20. N. B. Lakshminarayana, "Effect of Instruction Fetch and Memory Scheduling on GPU Performance", Workshop on Language, Compiler, and Architecture Support for GPGPU in conjunction with HPCA, 2010, ~
  21. D. C. Burger, "The Simple Scalar tool set, version 2.0", Computer Architecture News, 25(3), pp.13~25 (1997)
  22. A. Bakhoda, "Analyzing CUDA Workloads Using a Detailed GPU Simulator", Proceedings of 9th International Symposium on Performance Analysis of Systems and Software, pp.163~174 (2009)
  23. "CUDA SDK"[URL]
  24. "Booksim simulator"[URL]

관련 논문AI추천

GPU 성능 향상을 위한 지연시간 숨김 기반 워프 스케줄링김광복, 김종면, 김철홍한국컴퓨터정보학회 · 한국컴퓨터정보학회논문지2019 · 제24권 제4호GPU 성능 향상을 위한 MSHR 정보 기반 워프스케줄링 기법김광복, 김종면, 김철홍한국차세대컴퓨팅학회 · 한국차세대컴퓨팅학회 논문지2017 · 제13권 제3호GPU 성능 향상을 위한 MSHR 활용률 기반 동적 워프 스케줄러김광복, 김종면, 김철홍한국정보처리학회 · 정보처리학회논문지. 컴퓨터 및 통신시스템2019 · 제8권 제5호작업 처리 단위 변화에 따른 GPU 성능과 메모리 접근 시간의 관계 분석김철홍, 손동오, 심규연(사)한국스마트미디어학회 · 스마트미디어저널2015 · 제4권 제4호GPU 코어에 할당된 CTA 수에 따른 GPGPU 구조의성능 및 전력 효율성 분석김종면, 김철홍, 손동오, 최홍준한국차세대컴퓨팅학회 · 한국차세대컴퓨팅학회 논문지2014 · 제10권 제6호A Novel Cooperative Warp and Thread Block Scheduling Technique for Improving the GPGPU Resource Utilization최용, 김종면, 김철홍, DOCONG THUAN한국정보처리학회 · 정보처리학회논문지. 컴퓨터 및 통신시스템2017 · 제6권 제5호

이 간행물의 다른 논문 (7건)

모바일 씬 클라이언트를 위한 크로스 레이어 기법과 하이브리드 프로토콜임철수, 허의남, 조철회, 송표, 김명섭, 이현우pp. 6-15QoS-enabled HOB Architecture and Bandwidth Reservation Protocol in EPON-WiMAX Integrated Network정복래pp. 16-23스마트폰의 증강현실을 활용한 광고의 속성이 광고태도와 브랜드태도, 구매의도에 미치는 영향김중규pp. 24-35데이터센터 에너지 감시장치의 패키지 형태 개발과 전력효율성 향상을 위한 Building block 구조의 에너지 최적화기술김경남, 조창희pp. 36-43GPGPU 응용의 고성능 원격수행을 위한 OpenCL 기반 오프로딩 프레임워크박찬익, 마정현, 박세진pp. 44-53
원문 보기