Dealing with performance/portability and performance/accuracy trade-offs in heterogeneous computing systems: a case study with matrix multiplication modulo primes

Η εποχή της αύξησης των υπολογιστικών επιδόσεων και της ταυτόχρονης μείωσης της κατανάλωσης ισχύος μέσω της σμίκρυνσης των ημιαγωγών και της αύξησης της συ- χνότητας λειτουργίας (νόμος του Dennard) έχει παρέλθει. Παρ ́ όλ ́ αυτά, ο αριθμός των διαθέσιμων ημιαγωγών συνεχίζει να διπλασιάζεται. Αυτός είναι ο λόγος που η αρχιτεκτονική υπολογιστών έχει μετακινηθεί στη σχεδίαση πολυπύρηνων επεξεργαστών για την αύξηση των υπολογιστικών επιδόσεων μέσω της παράλληλης επεξεργασίας. ́Ομως, αυτή η κλιμάκωση στον αριθμό των επεξεργαστών έφερε στην επιφάνεια ένα νέο πρόβλημα, αυτό της κατανάλωσης ισχύος, που πλέον είναι σημαντικός περιοριστικός παράγοντας στην περαιτέρω κλιμάκωση των συστημάτων. Το επόμενη βήμα στην εξέλιξη της αρχιτεκτονικής συστημάτων είναι η σχεδίαση ετερογενών υπολογιστικών συστημάτων που μπορούν να βελτιώσουν σημαντικά τόσο τις υπολογιστικές επιδόσεις, την κατανάλωση ισχύος και τελικά την ενεργειακή αποδοτικότητα των συστημάτων. Λόγω αυτών των χαρακτηριστικών, τα ετερογενή συστήματα βρίσκονται σε κάθε έκφανση της υπολογιστικής, από φορητές συσκευές μέχρι εγκαταστάσεις υπερ-υπολογιστών και κέντρων δεδομένων. Για να επιτύχουν αυτά τα οφέλη, οι ετερογενείς αρχιτεκτονικές ακολουθούν την αρχή της εξειδίκευσης υλικού (hardware specialization), περιλαμβάνοντας συστήματα με διαφορετικές επιδόσεις και κατανάλωση ισχύος για την εκτέλεση προγραμμάτων. Ωστόσο, η ποσοτικοποίηση για τον χαρακτηρισμό της απόδοσης των ετερογενών πόρων και ο χρονοπρογραμματισμός τους για την αποδοτική εκτέλεση προγραμμάτων παραμένει ανοιχτό πρόβλημα.Σε αυτή τη διατριβή, συνεισφέρουμε νέες λύσεις, μεθόδους και τεχνικές στοχεύοντας στο πρόβλημα της απόδοσης και του χρονοπρογραμματισμού ετερογενών αρχιτεκτονικών. Συγκεκριμένα, στο επίπεδο των ετερογενών αρχιτεκτονικών επεξεργαστών, μελετούμε τις αρχιτεκτονικές διαμοιραζόμενου συνόλου εντολών (shared-ISA architectures) ως τεχνολογία αιχμής, και παρουσιάζουμε νέες τεχνικές για τη διαχείριση της ετερογένειας στο επίπεδο εντολών. Σ ́ αυτές περιλαμβάνονται τεχνικές μετεγγραφής δυαδικού κώδικα που επιτρέπουν τη φορητότητα δυαδικού κώδικα αλλά πιο σημαντικά επιτρέπουν τη μεταφορά νημάτων εκτέλεσης μεταξύ ετερογενών, επεξεργαστικών πυρήνων παρά τις ασυμβατότητες στο σύνολο εντολών. Επιπρόσθετα, παρουσιάζουμε μια καινούρια μέθοδο δυναμικού χρονοπρογραμματισμού που επιταχύνει την ταυτόχρονη εκτέλεση πολλαπλών προγραμμάτων, αντιλαμβάνοντας την επιτάχυνση λόγω της ετερογένειας για κάθε πρόγραμμα για να ανακατανείμει τους ετερογενείς πυρήνες μέσω της μεταφοράς νημάτων εκτέλεσης. Η αξιολόγηση των μεθόδων μας σε μια πλατφόρμα υλικού που υλοποιεί μια αρχιτεκτονική διαμοιραζόμενου συνόλου εντολών δείχνει ότι υπερτερούν σημαντικά σε επιδόσεις από τις υπάρχουσες προτεινόμενες τεχνικές. Επίσης, μελετούμε το πρόβλημα της διαχείρισης υπολογιστικών πόρων σε ετερογενείς αρχιτεκτονικές κέντρων δεδομένων. Παρουσιάζουμε μια νέα μεθοδολογία βασισμένη σε ισο-μετρικές που επιτρέπει τη σύγκριση ετερογενών εξυπηρετητών, όσον αφορά την υπολογιστική και ενεργειακή απόδοση τους, σε περιβάλλοντα εκτέλεσης online υπηρεσιών ανάλυσης δεδομένων. Μέσω αυτής της μεθοδολογίας, ποσοτικοποιούμε την απόδοση διάφορων τύπων εξυπηρετητών που περιλαμβάνουν τυπικούς εξυπηρετητές, μικρο-εξυπηρετητές και πλατφόρμες επιταχυντών πολλαπλών πυρήνων. Οι μέθοδοί μας εξετάζουν την ποσοτικοποίηση της ενεργειακής απόδοσης θέτοντας καθορισμένους στόχους στην αποδεκτή ποιότητα υπηρεσίας ως κοινό μέτρο της επίδοσης ετερογενών εξυπηρετητών. Η εφαρμογή της μεθοδολογίας μας μπορεί αποτελεσματικά να καθοδηγήσει τη διαμοιρασμό ετερογενών πόρων και τη προδιαγραφή ενεργειακά αποδοτικών κέντρων δεδομένων.

Download Full-text

An extensible framework for software configuration optimization on heterogeneous computing systems: Time and energy case study

Information and Software Technology ◽

10.1016/j.infsof.2018.08.003 ◽

2019 ◽

Vol 105 ◽

pp. 30-42 ◽

Cited By ~ 2

Author(s):

Ivan Švogor ◽

Ivica Crnković ◽

Neven Vrček

Keyword(s):

Heterogeneous Computing ◽

Configuration Optimization ◽

Computing Systems ◽

Software Configuration ◽

Time And Energy ◽

Heterogeneous Computing Systems

Download Full-text

An Elastic Energy-Aware Scheduling Strategy for Heterogeneous Computing Systems

Chinese Journal of Computers ◽

10.3724/sp.j.1016.2012.01313 ◽

2012 ◽

Vol 35 (6) ◽

pp. 1313

Author(s):

Xiao-Min ZHU ◽

Chuan HE ◽

Jian-Jiang WANG ◽

Jian-Qing JIANG

Keyword(s):

Elastic Energy ◽

Heterogeneous Computing ◽

Energy Aware ◽

Computing Systems ◽

Scheduling Strategy ◽

Energy Aware Scheduling ◽

Heterogeneous Computing Systems

Download Full-text

A Hybrid Chemical Reaction Optimization Scheme for Task Scheduling on Heterogeneous Computing Systems

IEEE Transactions on Parallel and Distributed Systems ◽

10.1109/tpds.2014.2385698 ◽

2015 ◽

Vol 26 (12) ◽

pp. 3208-3222 ◽

Cited By ~ 89

Author(s):

Yuming Xu ◽

Kenli Li ◽

Ligang He ◽

Longxin Zhang ◽

Keqin Li

Keyword(s):

Chemical Reaction ◽

Task Scheduling ◽

Heterogeneous Computing ◽

Chemical Reaction Optimization ◽

Optimization Scheme ◽

Computing Systems ◽

Reaction Optimization ◽

Heterogeneous Computing Systems

Download Full-text

Trade-offs and performance limitations in mechatronic systems: a case study

Annual Reviews in Control ◽

10.1016/j.arcontrol.2004.02.001 ◽

2004 ◽

Vol 28 (2) ◽

pp. 181-192 ◽

Cited By ~ 12

Author(s):

Osamah M. El Rifai ◽

Kamal Youcef-Toumi

Keyword(s):

Mechatronic Systems ◽

Trade Offs ◽

Performance Limitations ◽

And Performance

Download Full-text

Dynamic Resource Management in Energy Constrained Heterogeneous Computing Systems Using Voltage Scaling

IEEE Transactions on Parallel and Distributed Systems ◽

10.1109/tpds.2008.113 ◽

2008 ◽

Vol 19 (11) ◽

pp. 1445-1457 ◽

Cited By ~ 41

Author(s):

Jong-Kook Kim ◽

H.J. Siegel ◽

A.A. Maciejewski ◽

R. Eigenmann

Keyword(s):

Resource Management ◽

Heterogeneous Computing ◽

Voltage Scaling ◽

Computing Systems ◽

Dynamic Resource Management ◽

Energy Constrained ◽

Dynamic Resource ◽

Heterogeneous Computing Systems

Download Full-text

Adaptive Weight-Based Energy-Efficient Scheduling Algorithm for heterogeneous computing systems

Proceedings of the 3rd International Conference on Computer Science and Service System ◽

10.2991/csss-14.2014.53 ◽

2014 ◽

Author(s):

Xu Cheng ◽

Shu Pan ◽

Li Tao ◽

Liu Yan

Keyword(s):

Energy Efficient ◽

Heterogeneous Computing ◽

Scheduling Algorithm ◽

Computing Systems ◽

Adaptive Weight ◽

Heterogeneous Computing Systems ◽

Energy Efficient Scheduling

Download Full-text