13.1 병렬 처리 소개

• 병렬 처리

  • 다수의 프로세서들이 여러 개의 프로그램들 또는 한 프로그램의 분할된 부분들을 동시에 처리하는 기술

• 병렬 처리가 허용되려면?

  • 분할해서 병렬 실행한 결과와 한번에 실행한 결과가 같아야 함

• 컴퓨터 시스템을 분류 - Flynn의 분류

  • SISD

  • SIMD (병렬) → 프로그램 내부에서 돌아가는 병렬처리

    

  • MISD

  • MIMD (병렬) → 일반적인 병렬처리

    

• MIMD

  • 공유 메모리 구조 (shared-memory architecture)

    

    → 버스, 크로스바 스위치, 다단계 상호 연결망

    → 주기억 장치 공유

    → 전역변수와 유사

  • 분산 메모리 구조 (distributed-memory architecture)

    

    → 지역변수와 유사

    • 선형 배열 구조
    • 원형 구조
    • 트리 구조
    • 메시 구조 …. 등

13.2 병렬 처리와 프로그래밍 언어

• 병렬 : 하드웨어와 관련된 용어, 실제 기계에서 동시에 실행되는 것

• 병행 : 실제 기계는 관계없이 언어적 표현으로 동시에 실행된다는 것 (소프트웨어)

• 병렬 구조 모델

  • 언어들이 분산 모델을 가정하고 통신 기능을 제공
  • 공유 기억 장소 모델과 상호 배제를 위한 기능들을 사용

• 유한 버퍼 문제

• 병렬 행렬 곱셈

• 명시적인 언어 기능을 사용하지 않는 병렬 프로그래밍 - 뭐가 제일 성능이 좋은가?

  • 묵시적으로 지원 (함수형 언어, 논리형 언어, 객체 지향 언어) → 운영체제에 맡김
  • 프로그래밍 언어에서 병렬 구조의 정의 (특정 부분을 지정하면 병렬로)
  • 병렬 처리를 할 수 있는 라이브러리 제공