2017年8月14日 星期一

OS - Ch4 多執行緒 Multithread Programming

於
標籤：
 

Multithread 狗狗很可愛，可惜 coding 起來就沒這麼可愛了~ thread 和 process 的差別、 thread 一些議題 (如 pthread) 都滿常出現的，那就開始吧！ 

2015.1.15 初版
2017.8.14 二版




一、thread 簡介


thread 是 OS 能夠進行運算排程的最小單位，它被包含在 process 之中，是 process 中的實際運作單位。

  • thread 是 OS 分配 CPU 時間的對象。
  • process 是 OS 分配資源的對象。

thread 擁有以下內容 :

  • Thread ID
  • Thread State
  • Program counter 
  • Register set
  • Stack

process 內的 threads 彼此共享 :

  • code Section
  • data Section
  • OS Resources

 (Code section + Data section = memory space, Address space, Heap memory)

process 中有 multi-thread 的好處：

  • 應答 : 允許程式中的某部份被中斷或是執行得非常久時，該程式仍然可以繼續執行。
  • 資源分享 : 分享 code、data 和 OS 資源
  • 經濟 : 輕量化的 process。(context switch 一個 thread 比 process 快約 5 倍，建立一個 thread 比 process 快約 13 倍。)
  • 可使用多處理器架構 : 使用多核心。





二、Multi-threading 介紹



1. user threads and kernel threads


a. User threads

在 user mode 下進行，OS 不知道有這些 thread 存在不需要 OS 介入管理。

  • 優點：產生、管理成本較低
  • 缺點：若 process 的 user thread 發出鎖定的 system call 且 kernel 是 single thread 則整個 process 被鎖住。

常見的 user thread

  • Pthreads (POSIX threads)
  • Win32 threads
  • Java threads 


b. Kernel thread

在 kernel mode 下進行，OS 知道有這些 thread 存在，由 OS 介入管理。

常見的 kernel threads

  • Windows XP/2000
  • Solaris
  • Linux
  • Tru64 UNIX


[Multi-threads 例題]

有兩個 Process P_A 與 P_B，P_A 三 條thread、P_B 兩條thread，若 OS 採平均分配原則來分配 CPU Time，則 P_A 與 P_B 各分多少 % 之 CPU Time？

  1. User thread   
  2. Kernel thread

Ans :

  1. Kernel 不知道有 user thread，只知道有 P_A 與 P_B 兩個 process。P_A 與 P_B 各分到 50% 的 CPU Time。
  2. 有 5 條 thread 欲分配，每條可分到 20% 的 CPU time。
    P_A 分到 3×20% = 60% 的 CPU time。
    P_B 分到 2×20% = 40% 的 CPU time 。


2. Multi-threading models


a. Many-to-one Model

  • 系統容易被 single thread 執行鎖死 
  • 沒有平行化
  • 可攜性佳 



b. One-to-one Model

  • 成本較高
  • 產生一個 user thread 時，需連帶產生一個 kernel thread，而 kernel thread 會對程式的執行產生一些額外的負擔。因此此模式限制執行緒產生的個數。 



c. Many-to-Many Model

  • 系統不會被 single thread 執行鎖死
  • 比 one-to-one 經濟
  • i/o bound thread 要有 kernel thread 對應，但是不會讓執行的核心忙碌。所以想讓執行的核心忙碌要再加等量的 kernel thread 





 [用心去感覺] When you write multithreaded programs, It should not be assumed that which model is adopted by the thread library!

程式設計師寫 multithread 程式是呼叫 thread API 來撰寫 (也就是 thread libraries)，而該 API 內部實作是用哪一種模型 (Many-to-one, One-to-one 或 Many-to-Many) 在規範中是沒有規定的，所以程式設計師不應該預設內部是某一種模型，以避免預期之外的錯誤。




三、Threading Issue



a. Semantics of fork() and exec()，fork 呼叫一個 thread 或 all thread?

Undefined. maybe the following

  • 只 fork 該 thread : 當 child 做工作與 parent 不同
  • fork 整個 process : 當 child 所做的工作與 parent 相同


b. Signal handling

Signal type :

  • synchronous signal, ex : illegal memory access,division by zero
  • asynchronous signal, ex : control+c

Signal handler :

  • default 由編輯器自動載入預設的訊號處理
  • user-defined 自行定義訊號的處理


[補充] process 或裝置通知 kernel -> interrupt；kernel 通知 process -> signal。


c. Thread cancellation

  • asynchronous cancellation : 立刻取消
  • deferred cancellation : 一個時間周期到才會取消
  • actual cancellation : 根據thread狀態取消


d. Thread pools

產生多個thread 並等待執行，採取此方法的原因使用現有 thread 比新產生一個thread 快。此法等待執行的 thread 數目前依目前 thread pool 大小決定。


e. TLS (thread-local storage)

TLS 要解決的問題，並不是 Thread 之間資源共享的問題，而是 Thread 本身資源共享的問題。TLS 是在 thread 中佈置一塊空間，並讓 thread 外面可以觀測。


f. Light weight process (LWP)

介於 user-level thread 和 kernel-level thread 的資料結構，用來提供一個 virtual process 讓應用程式 thread 做排程，支援多個 User-level Thread 對應到一個 kernel thread，屬於 kernel-level thread。


g. Thread libraries : pthreads

Pthreads (POSIX threads) 是依據 ieee 1003.1c 標準定義的 thread 標準，定義了創建和操縱 thread 的一套 API，可用在 user-level 和 kernel-level，常用在一般 Unix 作業系統。


h. Implicit threading methods

  • thread pools
  • openMP
  • grand central dispatch 
  • TBB (threading building blocks)





References


.NET guide - Thread Local Storage: Thread-Relative Static Fields and Data Slots





技術提供：Blogger.
 
© 2023 Mr. Opengate