'Ενας τρόπος για να βελτιώσουμε την απόδοση της κρυφής μνήμης είναι να μειώσουμε το μέσο χρόνο προσπέλασης της μνήμης.

  Ο χρόνος επιτυχίας είναι κρίσιμος, γιατί επηρεάζει το ρυθμό ρολογιού του επεξεργαστή ως εξής: στα περισσότερα υπολογιστικά συστήματα ο χρόνος πρόσβασης στη κρυφή μνήμη περιορίζει το ρυθμό του κύκλου του ρολογιού, ακόμα και εκείνα τα συστήματα που χρησιμοποιούν πολλαπλούς κύκλους ρολογιού, προκειμένου να προσπελάσουν την κρυφή μνήμη. Εξετάζουμε δύο βασικές τεχνικές και μια βελτιστοποίηση για επιτυχίες εγγραφής.

1^η τεχνική μείωσης του χρόνου επιτυχίας: Μικρή και απλή κρυφή μνήμη

  'Ενα τμήμα του χρόνου που καταναλώνεται σε μια επιτυχία της κρυφής μνήμης χρησιμοποιεί το τμήμα δείκτη της διευθύνσεως για να διαβάσει την μνήμη ετικετών και μετά να το συγκρίνει με τη διεύθυνση. Είναι σημαντικό η κρυφή μνήμη να είναι αρκετά μικρή για να χωράει στο ίδιο ολοκληρωμένο κύκλωμα με τον επεξεργαστή. Έτσι αποφευγεται η ποινή χρόνου που προστίθεται για την έξοδο από το ολοκληρωμένο κύκλωμα προκειμένου να ελεχΘούν οι ετικέτες διεύθυνσης. Επιπρόσθετα, η κρυφή μνήμη πρέπει να κρατηθεί απλή, όπως όταν χρησιμοποιείται άμεση αντιστοίχηση. 'Ενα κύριο πλεονέκτημα των κρυφών μνημών άμεσης αντιστοίχησης είναι ότι ο σχεδιαστής μπορεί να επικαλύψει τον έλεγχο ετικετών με την μετάδοση των δεδομένων. Αυτό μειώνει αποτελεσματικά τον χρόνο επιτυχίας.

2^η τεχνική μείωσης του χρόνου επιτυχίας: Αποφυγή μεταφράσεως διεύθυνσης κατά τη διάρκεια δεικτοδότησης της κρυφής μνήμης

  Η κρυφή μνήμη πρέπει να κάνει μετάφραση μιας ιδεατής διεύθυνσης από την ΚΜΕ σε μια φυσική διεύθυνση για να προσπελάσει την μνήμη.

Η ιδεατή διεύθυνση αναφέρεται σε διευθύνσεις θέσεων της ιδεατής μνήμης. Για αυτήν θα μιλήσουμε στην 4^η ενότητα του κεφαλαίου.

  Μια τεχνική είναι να χρησιμοποιούνται εικονικές διευθύνσεις για την κρυφή μνήμη. Τέτοιες κρυφές μνήμες ονομάζονται εικονικές κρυφές μνήμες. Η ιδεατή διευθυνσιοδότηση εξαλείφει τον χρόνο μεταφράσεως διευθύνσεων από μια επιτυχία κρυφής μνήμης.
Κρατώντας τις κρυφές μνήμες μικρές και απλές και χρησιμοποιώντας τεχνικές για την αποφυγή των καθυστερήσεων που απαιτεί η μετάφραση της διεύθυνσης, οι επιτυχίες ανάγνωσης και οι επιτυχίες εγγραφής γίνονται γρηγορότερες.

Βελτιστοποίηση για επιτυχίες εγγραφής: Σωλήνωση εγγραφών για πιο γρήγορες επιτυχίες εγγραφών

  Οι επιτυχίες εγγραφών συνήθως παίρνουν μεγαλύτερο χρονικό διάστημα από αυτές των αναγνώσεων γιατί η επικεφαλίδα πρέπει να ελεγχθεί πριν εγγραφούν τα δεδομένα, διαφορετικά θα μπορούσε να γίνει εγγραφή σε λανθασμένη διεύθυνση. Μια τεχνική χρησιμοποιούμενη από τον Alpha AXP 21064 και άλλα μηχανήματα σωληνώνει τις εγγραφές. Το σχήμα δείχνει την οργάνωση του υλικού των σωληνωμένων εγγραφών. Πρώτα επικεφαλίδες και δεδομένα ξεχωρίζονται έτσι ώστε να διευθυνσιοδοτηθούν ανεξάρτητα. Σε μια εγγραφή η κρυφή μνήμη συγκρίνει την επικεφαλίδα με την τρέχουσα διεύθυνση εγγραφής όπως συνηθίζεται. Η διαφορά έρχεται με την εγγραφή στο τμήμα των δεδομένων της κρυφής μνήμης το οποίο βρίσκεται κατά τη διάρκεια της σύγκρισης της επικεφαλίδας. Θα πρέπει να χρησιμοποιεί κάποια άλλη διεύθυνση μέχρι η τρέχουσα διεύθυνση εγγραφής να έχει και πάλι ελεγχθεί. Το κόλπο είναι ότι η κρυφή μνήμη χρησιμοποιεί διεύθυνση και δεδομένα από την προηγούμενη εγγραφή η οποία έχει ήδη καθοριστεί ως μια επιτυχία. Έτσι η λογική σωλήνωση είναι μεταξύ των εγγραφών – η δεύτερη φάση της εγγραφής συμβαίνει κατά τη διάρκεια της πρώτης φάσης της επόμενης εγγραφής (ή κατά τη διάρκεια της αποτυχίας της κρυφής μνήμης). Γι' αυτό το λόγο οι εγγραφές μπορούν να εκτελεστούν η μία μετά την άλλη μία για κάθε κύκλο ρολογιού γιατί η ΚΜΕ δεν χρειάζεται να περιμένει για τον έλεγχο επικεφαλίδας πριν το γράψιμο. Οι εγγραφές δεν παίζουν ρόλο σ 'αυτή τη σωλήνωση αφού ήδη λειτουργούν παράλληλα με τον έλεγχο επικεφαλίδας και γι 'αυτό το λόγο καμία βοήθεια δεν χρειάζεται.

Σχήμα 4.3.4 - H οργάνωση υλικού για σωληνωμένες εγγραφές: Είναι πιθανόν να βρεθούν τα ζητούμενα δεδομένα στον αναβάλων καταχωρητή εγγραφών. Σε αυτή την περίπτωση, είτε ο καταχωρητής εγγραφής προσφέρει τα νέα δεδομένα ή ολοκληρώνει τη λειτουργία του και στη συνέχεια τα νέα δεδομένα διαβάζονται από την μνήμη.

Παράδειγμα

ΔΡΑΣΤΗΡΙΟΤΗΤΑ 8

Έστω ότι έχουμε ένα ρυθμό αποτυχίας εντολών για το πρόγραμμα δοκιμής gcc 5% και ρυθμό αποτυχίας δεδομένων 10%. Αν το υπολογιστικό σύστημα έχει CPI=4 χωρίς καθυστερήσεις στην μνήμη και η ποινή αποτυχίας είναι 12 κύκλους για όλες τις αποτυχίες, να ορίσετε πόσο γρηγορότερα θα «τρέξει» το υπολογιστικό σύστημα με τέλεια μνήμη και χωρίς αποτυχίες.

ΑΠΑΝΤΗΣΗ ΔΡΑΣΤΗΡΙΟΤΗΤΑΣ 8