Cơ sở dữ liệu - Chương IV: Định thời CPU

Nội dung text: Cơ sở dữ liệu - Chương IV: Định thời CPU

1. Chương IV: Định thời CPU  Khái niệm cơ bản  Các bộ định thời ‟ long-term, mid-term, short-term  Các tiêu chuẩn định thời CPU  Các giải thuật định thời ‟ First-Come, First-Served (FCFS) ‟ Shortest Job First (SJF) và Shortest Remaining Time First (SRTF) ‟ Priority Scheduling ‟ Round-Robin (RR) ‟ Highest Response Ratio Next (HRRN) ‟ Multilevel Queue ‟ Multilevel Feedback Queue Khoa KTMT 1
2. Mục tiêu  Hiểu được: – Tại sao phải định thời. – Các tiêu chí định thời – Một số giải thuật định thời Khoa KTMT 2
3. Khái niệm cơ bản  Trong các hệ thống multitasking ‟ Thực thi nhiều chương trình đồng thời làm tăng hiệu suất hệ thống. ‟ Tại mỗi thời điểm, chỉ có một process được thực thi. Do đó, cần phải giải quyết vấn đề phân chia, lựa chọn process thực thi sao cho được hiệu quả nhất chiến lược định thời CPU.  Định thời CPU ‟ Chọn một process (từ ready queue) thực thi. ‟ Với một multithreaded kernel, việc định thời CPU là do OS chọn kernel thread được chiếm CPU. Khoa KTMT 3
4. Các bộ định thời new Long-term Long-term scheduling scheduling Medium-term suspended scheduling Short-term ready ready scheduling running Medium-term suspended scheduling blocked blocked terminated Khoa KTMT 4
5. Các bộ định thời  Long-term scheduling ‟ Xác định chương trình nào được chấp nhận nạp vào hệ thống để thực thi ‟ Điều khiển mức độ multiprogramming của hệ thống ‟ Long term scheduler thường cố gắng duy trì xen lẫn CPU-bound và I/O-bound process  Medium-term scheduling ‟ Process nào được đưa vào (swap in), đưa ra khỏi (swap out) bộ nhớ chính ‟ Được thực hiện bởi phần quản lý bộ nhớ và được thảo luận ở phần quản lý bộ nhớ. Khoa KTMT 5
6. Các bộ định thời (tt) „ Short term scheduling  Xác định process nào trong ready queue sẽ được chiếm CPU để thực thi kế tiếp (còn được gọi là định thời CPU, CPU scheduling)  Short term scheduler còn được gọi với tên khác là dispatcher  Bộ định thời short-term được gọi mỗi khi có một trong các sự kiện/interrupt sau xảy ra: ‟ t thời gian (clock interrupt) ‟ Ngắt ngoại vi (I/O interrupt) ‟ Lời gọi hệ thống (operating system call) ‟ChươngSignal này sẽ tập trung vào định thời ngắn hạn Khoa KTMT 6
7. Dispatcher  Dispatcher sẽ chuyển quyền điều khiển CPU về cho process được chọn bởi bộ định thời ngắn hạn  Bao gồm: ‟ Chuyển ngữ cảnh (sử dụng thông tin ngữ cảnh trong PCB) ‟ Chuyển chế độ người dùng ‟ Nhảy đến vị trí thích hợp trong chương trình ứng dụng để khởi động lại chương trình (chính là program counter trong PCB)  Công việc này gây ra phí tổn ‟ Dispatch latency: thời gian mà dispatcher dừng một process và khởi động một process khác Khoa KTMT 7
8. Các tiêu chuẩn định thời CPU  User-oriented ‟ Thời gian đáp ứng (Response time): khoảng thời gian process nhận yêu cầu đến khi yêu cầu đầu tiên được đáp ứng (time- sharing, interactive system) cực tiểu ‟ Thời gian quay vòng (hoàn thành) (Turnaround time): khoảng thời gian từ lúc một process được nạp vào hệ thống đến khi process đó kết thúc cực tiểu ‟ Thời gian chờ (Waiting time): tổng thời gian một process đợi trong ready queue cực tiểu  System-oriented ‟ Sử dụng CPU (processor utilization): định thời sao cho CPU càng bận càng tốt cực đại ‟ Công bằng (fairness): tất cả process phải được đối xử như nhau ‟ Thông lượng (throughput): số process hoàn tất công việc trong một đơn vị thời gian cực đại. Khoa KTMT 8
9. Hai yếu tố của giải thuật định thời  Hàm chọn lựa (selection function): dùng để chọn process nào trong ready queue được thực thi (thường dựa trên độ ưu tiên, yêu cầu về tài nguyên, đặc điểm thực thi của process, ), ví dụ „ w = tổng thời gian đợi trong hệ thống „ e = thời gian đã được phục vụ „ s = tổng thời gian thực thi của process (bao gồm cả “e”) Khoa KTMT 9
10. Hai yếu tố của giải thuật định thời (tt)  Chế độ quyết định (decision mode): chọn thời điểm thực hiện hàm chọn lựa để định thời. Có hai chế độ ‟ Không trưng dụng (Non-preemptive) . Khi ở trạng thái running, process sẽ thực thi cho đến khi kết thúc hoặc bị blocked do yêu cầu I/O ‟ Trưng dụng (Preemptive) . Process đang thực thi (trạng thái running) có thể bị ngắt nửa chừng và chuyển về trạng thái ready bởi hệ điều hành . Chi phí cao hơn non-preemptive nhưng đánh đổi lại bằng thời gian đáp ứng tốt hơn vì không có trường hợp một process độc chiếm CPU quá lâu. Khoa KTMT 10
11. Preemptive và Non-preemptive  Hàm định thời được thực hiện khi ( ) n từ ng i running sang waiting ( ) n từ ng i running sang ready ( ) n từ ng i waiting, new sang ready ( ) t c c thi 1 và 4 khơng cần lựa chọn loại định thời biểu, 2 và 3 cần  ng p , c i nh i nonpreemptive  ng p , c i nh i preemptive c n cơ o hơn? i sao? Khoa KTMT 11
12. Khảo sát giải thuật định thời load store add store CPU burst một chu kỳ read from file CPU-I/O Arrival Service Process wait for I/O I/O burst Time Time inc store 1 0 3 CPU burst write to file 2 2 6 wait for I/O I/O burst 3 4 4 load store 4 6 5 CPU burst add store 5 8 2 read from file wait for I/O I/O burst  Service time = thời gian process cần CPU trong một chu kỳ CPU-I/O  Process có service time lớn là các CPU-bound process Khoa KTMT 12
13. 1. First-Come First-Served (FCFS)  Hàm lựa chọn: Tiến trình nào yêu cầu CPU trước sẽ được cấp phát CPU trước; Process sẽ thực thi đến khi kết thúc hoặc bị blocked do I/O  Chế độ quyết định: non-preemptive algorithm  Hiện thực : sử dụng hàng đợi FIFO (FIFO queues) ‟ Tiến trình đi vào được thêm vào cuối hàng đợi ‟ Tiến trình được lựa chọn để xử lý được lấy từ đầu của queues 0 5 10 15 20 P1 P2 P3 P4 P5 run add Khoa KTMT 13
14. FCFS Scheduling  Ví dụ :  Giả sử thứ tự vào của các tiến trình là Process Burst Time P1 24 . P1, P2, P3 P2 3  Thời gian chờ P3 3 . P1 = 0; . P2 = 24; Gantt Chart for Schedule . P3 = 27; P1 P2 P3  Thời gian chờ trung 0 24 27 30 bình . (0+24+27)/3 = 17 Khoa KTMT 14
15. FCFS Scheduling  Ví dụ:  Giả sử thời gian vào của Process Burst Time các tiến trình là P1 24 . P2, P3, P1 P2 3  Thời gian chờ : P3 3 . P1 = 6; P2 = 0; P3 = 3;  Thời gian chờ trung bình Gantt Chart for Schedule . (6+0+3)/3 = 3 , tốt P2 P3 P1 hơn 0 3 6 30 Liệu cĩ xảy ra trường hợp trì hỗn vơ hạn định (starvation hay indefinte blocking) với giải thuật FCFS? Khoa KTMT Nhận xét 15
16. 2. Shortest-Job-First(SJF) Scheduling  Định thời biểu công việc ngắn nhất trước  Khi CPU được tự do, nó sẽ cấp phát cho tiến trình yêu cầu ít thời gian nhất để kết thúc ( tiến trình ngắn nhất)  Liên quan đến chiều dài thời gian sử dụng CPU cho lần tiếp theo của mỗi tiến trình. Sử dụng những chiều dài này để lập lịch cho tiến trình với thời gian ngắn nhất. Khoa KTMT 16
17. 2. Shortest-Job-First(SJF) Scheduling  Hai hình thức (Schemes): ‟ Scheme 1: Non-preemptive( tiến trình độc quyền CPU) . Khi CPU được trao cho quá trình nó không nhường cho đến khi nó kết thúc chu kỳ xử lý của nó ‟ Scheme 2: Preemptive( tiến trình không độc quyền) . Nếu một tiến trình CPU mới được đưa vào danh sách với chiều dài sử dụng CPU cho lần tiếp theo nhỏ hơn thời gian còn lại của tiến trình đang xử lý nó sẽ dừng hoạt động tiến trình hiện hành (hình thức này còn gọi là Shortest- Remaining-Time-First (SRTF).) ‟ SJF là tối ưu ‟ cho thời gian chờ đợi trung bình tối thiểu với một tập tiến trình cho trước Khoa KTMT 17
18. Non-Preemptive SJF Scheduling  Ví dụ : Process Arrival TimeBurst Time P1 0 7 P2 2 4 P3 4 1 P4 5 4 Gantt Chart for Schedule P1 P3 P2 P4 0 7 8 12 16 Average waiting time = (0+6+3+7)/4 = 4 Khoa KTMT 18
19. Preemptive SJF Scheduling (hay Sortest Remaining Time First - SRTF)  Ví dụ 1: Process Arrival TimeBurst Time Thực hiện ở P1 0 7 chế độ nào? P2 2 4 P3 4 1 P4 5 4 VD2: Gantt Chart for Schedule Process Arrival TimeBurst Time P1 0 8 P1 P2 P3 P2 P4 P1 P2 1 4 0 2 4 5 7 11 16 P3 2 9 Average waiting time = P4 3 5 (9+1+0+2)/4 = 3 Khoa KTMT 19
20. Nhận xét về giải thuật SJF  Có thể xảy ra tình trạng “đói” (starvation) đối với các process có CPU-burst lớn khi có nhiều process với CPU- burst nhỏ đến hệ thống.  Cơ chế non-preemptive không phù hợp cho hệ thống time sharing (interactive)  Giải thuật SJF ngầm định ra độ ưu tiên theo burst time  Các CPU-bound process có độ ưu tiên thấp hơn so với I/O-bound process, nhưng khi một process không thực hiện I/O được thực thi thì nó độc chiếm CPU cho đến khi kết thúc Khoa KTMT 20
21. Nhận xét về giải thuật SJF  Tương ứng với mỗi process cần cĩ độ dài của CPU burst tiếp theo  Hàm lựa chọn: chọn process cĩ độ dài CPU burst nhỏ nhất  Chứng minh được: SJF tối ưu trong việc giảm thời gian đợi trung bình  Nhược điểm: Cần phải ước lượng thời gian cần CPU tiếp theo của process  Giải pháp cho vấn đề này? Khoa KTMT 21
22. Nhận xét về giải thuật SJF (Thời gian sử dụng CPU chính là độ dài của CPU burst)  Trung bình tất cả các CPU burst đo được trong quá khứ  Nhưng thơng thường những CPU burst càng mới càng phản ánh đúng hành vi của process trong tương lai  Một kỹ thuật thường dùng là sử dụng trung bình hàm mũ (exponential averaging) – τn+1 = a tn + (1 - a) τn , 0 a 1 j n+1 – τn+1 = a tn + (1- a) a tn-1 + + (1- a) aτn-j + + (1- a) aτ0 – Nếu chọn a = ½ thì cĩ nghĩa là trị đo được tn và trị dự đốn τn được xem quan trọng như nhau. Khoa KTMT 22
23. Dự đốn thời gian sử dụng CPU Độ dài CPU burst đo được Độ dài CPU burst dự đốn, với a = ½ và 0 = 10 Khoa KTMT 23
24. 3. Priority Scheduling  Mỗi process sẽ được gán một độ ưu tiên  CPU sẽ được cấp cho process có độ ưu tiên cao nhất  Định thời sử dụng độ ưu tiên có thể: ‟ Preemptive hoặc ‟ Nonpreemptive Khoa KTMT 24
25. Gán độ ưu tiên  SJF là một giải thuật định thời sử dụng độ ưu tiên với độ ưu tiên là thời-gian-sử-dụng- CPU-dự-đoán.  Gán độ ưu tiên còn dựa vào: ‟ Yêu cầu về bộ nhớ ‟ Số lượng file được mở ‟ Tỉ lệ thời gian dùng cho I/O trên thời gian sử dụng CPU ‟ Các yêu cầu bên ngoài ví dụ như: số tiền người dùng trả khi thực thi công việc Khoa KTMT 25
26. 3. Priority Scheduling  Vấn đề: trì hoãn vô hạn định ‟ process có độ ưu tiên thấp có thể không bao giờ được thực thi  Giải pháp: làm mới (aging) ‟ độ ưu tiên của process sẽ tăng theo thời gian  Vd: ‟ IBM, MIT 1973 ‟ process 1967. – 0 – 127. Sau 15’ tăng độ ưu tiên 1 lần khỗng bao lâu thì process được thực thi. Khoa KTMT 26
27. 4. Định thời luân phiên (Round Robin -RR)  Mỗi process nhận được một đơn vị nhỏ thời gian CPU (time slice, quantum time), thông thường từ 10-100 msec để thực thi. Sau khoảng thời gian đó, process bị đoạt quyền và trở về cuối hàng đợi ready.  Nếu có n process trong hàng đợi ready và quantum time = q thì không có process nào phải chờ đợi quá (n 1)q đơn vị thời gian.  Hiệu suất ‟ Nếu q lớn: RR FCFS ‟ Nếu q nhỏ (q không được quá nhỏ bởi vì phải tốn chi phí chuyển ngữ cảnh)  Thời gian chờ đợi trung bình của giải thuật RR thường khá lớn nhưng thời gian đáp ứng nhỏ Khoa KTMT 27
28. Ví dụ Round Robin  Time Quantum = 20 Process Burst Time P1 53 P2 17 P3 68 P4 24 Gantt Chart for Schedule P1 P2 P3 P4 P1 P3 P4 P1 P3 P3 0 20 37 57 77 97 117 121 134 154 162 turnaround time trung bình lớn hơn SJF, nhưng đáp ứng tốt hơn Khoa KTMT 28
29. RR với time quantum = 1  Thời gian turn-around trung bình cao hơn so với SJF nhưng có thời gian đáp ứng trung bình tốt hơn.  Ưu tiên CPU-bound process . I/O-bound process thường sử dụng rất ít thời gian của CPU, sau đó phải blocked đợi I/O . CPU-bound process tận dụng hết quantum time, sau đó quay về ready queue được xếp trước các process bị blocked Khoa KTMT 29
30. Time quantum và context switch context quantum Process time = 10 switch 12 0 0 10 6 1 0 6 10 1 9 0 1 2 3 4 5 6 7 8 9 10 Khoa KTMT 30
31. Thời gian hồn thành và quantum time  Thời gian hồn thành trung bình (average turnaround time) khơng chắc sẽ được cải thiện khi quantum lớn Khoa KTMT 31
32. Quantum và response time  Quantum time phải lớn hơn thời gian dùng để xử lý clock interrupt (timer) và thời gian dispatching  Nên lớn hơn thời gian tương tác trung bình (typical interaction) Khoa KTMT 32
33. Quantum time cho Round Robin*  Khi thực hiện process switch thì OS sẽ sử dụng CPU chứ khơng phải process của người dùng (OS overhead) – Dừng thực thi, lưu tất cả thơng tin, nạp thơng tin của process sắp thực thi  Performance tùy thuộc vào kích thước của quantum time (cịn gọi là time slice), và hàm phụ thuộc này khơng đơn giản  Time slice ngắn thì đáp ứng nhanh – Vấn đề: cĩ nhiều chuyển ngữ cảnh. Phí tổn sẽ cao.  Time slice dài hơn thì throughput tốt hơn (do giảm phí tổn OS overhead) nhưng thời gian đáp ứng lớn – Nếu time slice quá lớn, RR trở thành FCFS. Khoa KTMT 33
34. Quantum time cho Round Robin  Quantum time và thời gian cho process switch: – Nếu quantum time = 20 ms và thời gian cho process switch = 5 ms, như vậy phí tổn OS overhead chiếm 5/25 = 20% – Nếu quantum = 500 ms, thì phí tổn chỉ cịn 1% . Nhưng nếu cĩ nhiều người sử dụng trên hệ thống và thuộc loại interactive thì sẽ thấy đáp ứng rất chậm – Tùy thuộc vào tập cơng việc mà lựa chọn quantum time – Quantum time nên lớn trong tương quan so sánh với thời gian cho process switch – Ví dụ với 4.3 BSD UNIX, quantum time là 1 giây Khoa KTMT 34
35. Round Robin  Nếu cĩ n process trong hàng đợi ready, và quantum time là q, như vậy mỗi process sẽ lấy 1/n thời gian CPU theo từng khối cĩ kích thước lớn nhất là q – Sẽ khơng cĩ process nào chờ lâu hơn (n - 1)q đơn vị thời gian  RR sử dụng một giả thiết ngầm là tất cả các process đều cĩ tầm quan trọng ngang nhau – Khơng thể sử dụng RR nếu muốn các process khác nhau cĩ độ ưu tiên khác nhau Khoa KTMT 35
36. Round Robin: nhược điểm  Các process dạng CPU-bound vẫn cịn được “ưu tiên” – Ví dụ: . Một I/O-bound process sử dụng CPU trong thời gian ngắn hơn quantum time và bị blocked để đợi I/O. Và . Một CPU-bound process chạy hết time slice và lại quay trở về hàng đợi ready queue (ở phía trước các process đã bị blocked) Khoa KTMT 36
37. 5. Highest Response Ratio Next time spent waiting expected service time RR expected service time  Chọn process kế tiếp có giá trị RR (Response ratio) lớn nhất  Các process ngắn được ưu tiên hơn (vì service time nhỏ) Khoa KTMT 37
38. Highest Response Ratio Next Process Arrival Service Time Time 1 0 3 2 2 6 3 4 4 4 6 5 5 8 2 Khoa KTMT 38
39. 6. Multilevel Queue Scheduling  Hàng đợi ready được chia thành nhiều hàng đợi riêng biệt theo một số tiêu chuẩn như ‟ Đặc điểm và yêu cầu định thời của process ‟ Foreground (interactive) và background process,  Process được gán cố định vào một hàng đợi, mỗi hàng đợi sử dụng giải thuật định thời riêng  Hệ điều hành cần phải định thời cho các hàng đợi. ‟ Fixed priority scheduling: phục vụ từ hàng đợi có độ ưu tiên cao đến thâp. Vấn đề: có thể có starvation. ‟ Time slice: mỗi hàng đợi được nhận một khoảng thời gian chiếm CPU và phân phối cho các process trong hàng đợi khoảng thời gian đó. Ví dụ: . 80% cho hàng đợi foreground định thời bằng RR. . 20% cho hàng đợi background định thời bằng giải thuật FCFS. Khoa KTMT 39
40. Multilevel Queue Scheduling*  Ví dụ phân nhĩm các quá trình Độ ưu tiên cao nhất System Processes Interactive Processes Batch Processes Student Processes Độ ưu tiên thấp nhất Khoa KTMT 40
41. 7. Hàng đợi phản hồi đa cấp Multilevel Feedback Queue  Vấn đề của multilevel queue ‟ process không thể chuyển từ hàng đợi này sang hàng đợi khác khắc phục bằng cơ chế feedback: cho phép process di chuyển một cách thích hợp giữa các hàng đợi khác nhau.  Multilevel Feedback Queue ‟ Phân loại processes dựa trên các đặc tính về CPU-burst ‟ Sử dụng decision mode preemptive ‟ Sau một khoảng thời gian nào đó, các I/O-bound process và interactive process sẽ ở các hàng đợi có độ ưu tiên cao hơn còn CPU-bound process sẽ ở các queue có độ ưu tiên thấp hơn. ‟ Một process đã chờ quá lâu ở một hàng đợi có độ ưu tiên thấp có thể được chuyển đến hàng đợi có độ ưu tiên cao hơn (cơ chế niên hạn, aging). Khoa KTMT 41
42. 7. Multilevel Feedback Queue  Ví dụ: Có 3 hàng đợi ‟ Q0 , dùng RR với quantum 8 ms ‟ Q1 , dùng RR với quantum 16 ms ‟ Q2 , dùng FCFS Khoa KTMT 42
43. 7. Multilevel Feedback Queue (tt)  Định thời dùng multilevel feedback queue đòi hỏi phải giải quyết các vấn đề sau ‟ Số lượng hàng đợi bao nhiêu là thích hợp? ‟ Dùng giải thuật định thời nào ở mỗi hàng đợi? ‟ Làm sao để xác định thời điểm cần chuyển một process đến hàng đợi cao hơn hoặc thấp hơn? ‟ Khi process yêu cầu được xử lý thì đưa vào hàng đợi nào là hợp lý nhất? Khoa KTMT 43
44. So sánh các giải thuật  Giải thuật định thời nào là tốt nhất?  Câu trả lời phụ thuộc các yếu tố sau: ‟ Tần xuất tải việc (System workload) ‟ Sự hỗ trợ của phần cứng đối với dispatcher ‟ Sự tương quan về trọng số của các tiêu chuẩn định thời như response time, hiệu suất CPU, throughput, ‟ Phương pháp định lượng so sánh Khoa KTMT 44
45. Đọc thêm  Policy và Mechanism  Định thời trên hệ thống multiprocessor  Đánh giá giải thuật định thời CPU  Định thời trong một số hệ điều hành thơng dụng  Nguồn: Operating System Concepts. Sixth Edition. John Wiley & Sons, Inc. 2002. Silberschatz, Galvin, Gagne Khoa KTMT 45
46. Bài tập Xét 1 tập các process sau cĩ thời gian thực thi CPU tính bằng mili giây: Process Burst - time Priority P1 10 3 P2 1 1 P3 2 3 P4 1 4 p5 5 2 Giả sử thứ tự đến để thực thi của các process là P1, P2, P3, P4, P5. (tất cả process này đều đến tại thời điểm bằng 0). 1. Vẽ sơ đồ Gautt thực thi của các process theo giải thuật định thời: FCFS, SJF, RR (quantumn = 1). Ở cả 2 chế độ preemptive và nonpreemptive. 2. Thời gian đợi của các process trong từng giải thuật định thời? Khoa KTMT 46
47. 3. Tính thời gian hồn thành(turnaround time) của từng process cho từng giải thuật? Trong các giải thuật sau, giải thuật nào cĩ thể gây ra trường hợp 1 process cĩ thể khơng bao giờ được thực thi: 1. First come, first serve 2. Shortest job first 3. Round robin 4. Priority. Giải thích lý do tại sao xảy ra trường hợp trên? Khoa KTMT 47