Γεννήθηκε στην Αθήνα το 1939. Σπούδασε στο Ωδείο Αθηνών και συνέχισε τις σπουδές του στο Παρίσι και στο Julliard School of Music της Νέας Υόρκης. Έχει γράψει τραγούδια για περισσότερους από 45 δίσκους, μουσική για 21 ταινίες και 15 τηλεοπτικές παραγωγές. Ακόμα, έχει συνθέσει μουσική για αρχαία τραγωδία, δράματα και διεθνή μπαλέτα.
Στην αρχή της σταδιοδρομίας του γράφει μουσική κυρίως για το θέατρο και τον κινηματογράφο και έτσι ξεχώρισε ως συνθέτης κινηματογραφικής και θεατρικής μουσικής.
Η πρώτη του μεγάλη επιτυχία έρχεται το 1963. Πρόκειται για τη μουσική στην κινηματογραφική ταινία του Βασίλη Γεωργιάδη «Κόκκινα φανάρια»: είναι τα τραγούδια «Άπονη ζωή», «Φτωχολογιά», που τα ερμήνευσε ο Γρηγόρης Μπιθικώτσης, και το «Παράπονο» (ερμηνεία από την Τζένη Καρέζη). Τα τραγούδια αυτά έγιναν πολύ σύντομα επιτυχίες και ήταν τα πρώτα τραγούδια, που ηχογράφησαν ο Σταύρος Ξαρχάκος ως συνθέτης, όπως κι ο Λευτέρης Παπαδόπουλος ως στιχουργός.
Συνεχίζει την πορεία του στη μουσική με τη συνεργασία με τον Νίκο Γκάτσο. Μια συνεργασία που θα συνεχιστεί μέχρι το τέλος της ζωής του ποιητή. Θεωρείται ως ένας από τους στυλοβάτες της έντεχνης ελληνικής μουσικής μαζί με τον Θεοδωράκη και τον Χατζιδάκι. Ο Σταύρος Ξαρχάκος, από τα τέλη της δεκαετίας του ’60, άρχισε να γράφει και κλασική μουσική. Στα έργα του περιλαμβάνονται σουίτες μπαλέτου, κοντσέρτα αλλά και συμφωνικά έργα.
Σπουδαίος δίσκος του θεωρείται το βραβευμένο έργο «Το Ρεμπέτικο» (1983), που ήταν η μουσική για την ομότιτλη ταινία σε σκηνοθεσία του Κώστα Φέρρη.
Έχει βραβευτεί πολλές φορές σε κινηματογραφικά και μουσικά φεστιβάλ, όπως το Διεθνές Φεστιβάλ Κινηματογράφου. Το Μάιο του 1994 ανακηρύχθηκε Διδάκτωρ Καλών Τεχνών του Πανεπιστημίου Adelphi της Νέας Υόρκης. Στις αρχές του 1995 ανέλαβε την καλλιτεχνική διεύθυνση της «Κρατικής Ορχήστρας Ελληνικής Μουσικής» (KOEM). Τον Δεκέμβριο του 2019 αναγορεύθηκε επίτιμος διδάκτορας στο Τμήμα Μουσικών Σπουδών της Φιλοσοφικής Σχολής του Πανεπιστημίου Αθηνών.