Η ΚΜΕ είναι ο “εγκέφαλος” του υπολογιστή και έχει ως σκοπό να εκτελεί τα προγράμματα που βρίσκονται αποθηκευμένα στην κύρια μνήμη, προσκομίζοντας τις εντολές τους, εξετάζοντας και στη συνέχεια εκτελώντας αυτές, τη μία μετά την άλλη. Τα συστατικά μέρη του υπολογιστή είναι συνδεδεμένα μέσω μιας αρτηρίας (bus), η οποία είναι μια συλλογή παράλληλων αγωγών για τη μετάδοση σημάτων διευθύνσεων, δεδομένων και ελέγχου.
Η κεντρική μονάδα επεξεργασίας αποτελείται από τη δίοδο δεδομένων και τη μονάδα ελέγχου:

   Δίοδος Δεδομένων (Datapath)

Η δίοδος δεδομένων αποτελείται από ένα σύνολο καταχωρητών, από εσωτερικές αρτηρίες και την αριθμητική και λογική μονάδα (ALU), η οποία είναι το σημαντικότερο τμήμα της:
Στην αριθμητική και λογική μονάδα ενός υπολογιστή εκτελούνται οι περισσότερες πράξεις ενός υπολογιστή. Τα δεδομένα μεταφέρονται στην ALU όπου εκτελείται η κατάλληλη πράξη ανάλογα με τον κωδικό λειτουργίας της υπό εκτέλεση εντολής. Ύστερα τα αποτελέσματα, εάν χρειάζεται, μεταφέρονται στη μνήμη ή στους καταχωρητές.

  Μονάδα Ελέγχου
Η μονάδα ελέγχου παράγει και στέλνει τα κατάλληλα σήματα συγχρονισμού που είναι απαραίτητα για την εκτέλεση οποιαδήποτε λειτουργίας μέσα στον υπολογιστή. Πολλά από τα κυκλώματα της μονάδας ελέγχου βρίσκονται κατανεμημένα σε όλα τα μέρη του υπολογιστή. Επίσης, υπάρχει και ένα σύνολο γραμμών που μεταφέρουν τα σήματα ελέγχου που είναι απαραίτητα για το συγχρονισμό όλων των μονάδων.

H μονάδα ελέγχου και η ALU είναι συνήθως πολύ γρηγορότερες από τις άλλες μονάδες του υπολογιστή, όπως για παράδειγμα τη μνήμη.

Μονάδα Μνήμης

Στη μονάδα μνήμης αποθηκεύονται τα προγράμματα και τα δεδομένα τους. Υπάρχουν διάφοροι τύποι μνήμης, οι οποίοι διαφέρουν ως προς την ταχύτητα με την οποία λειτουργούν. Παραδείγματα τέτοιων τύπων μνήμης που χρησιμοποιούνται για την κύρια και δευτερεύουσα αποθήκευση σε έναν υπολογιστή είναι οι καταχωρητές της ΚΜΕ, η κρυφή μνήμη και η κύρια μνήμη.

Μονάδα Εισόδου/Εξόδου

Οι υπολογιστές δέχονται κωδικοποιημένη πληροφορία μέσω των μονάδων εισόδου, (διατάξεων ικανών να διαβάσουν τέτοια δεδομένα) και παρέχουν πληροφορία στο περιβάλλον (είτε τους άλλους υπολογιστές, είτε τους χρήστες), μέσω των μονάδων εξόδου. Παράδειγμα μονάδας εισόδου είναι το πληκτρολόγιο, όπου κάθε φορά που ένα πλήκτρο πιέζεται, το αντίστοιχο γράμμα, ψηφίο ή χαρακτήρας μεταφράζεται στον κατάλληλο κωδικό και στέλνεται είτε στη μνήμη είτε στη μονάδα επεξεργασίας. Παράδειγμα μονάδας εξόδου είναι η οθόνη.