Ο Κωνσταντίνος Γαρέφης γεννήθηκε στις Μηλιές του Πηλίου το 1874. Ήταν εγγονός του, σουλιώτικης καταγωγής, Γαρέφη ή Σκληρού του Αποστόλη, ο οποίος ήταν αδελφός του ανυπόταχτου Κατσούδα, που είχε παντρευτεί ξαδέρφη του Σαρακατσάνου πρωτοκλέφτη Κατσαντώνη.
Ο παππούς του εγκαταστάθηκε στις Μηλιές κυνηγημένος απ’ τον Αλή Πασά και πήρε γυναίκα από την οικογένεια των αρματολών της περιοχής Μπασδεκαίων. Ο πατέρας του Κωνσταντίνου Γαρέφη, ο Δημήτρης Γαρέφης ή Κατσούδας, είχε διακριθεί στις Πηλιορείτικες επαναστάσεις του 1874 και 1878, ενώ η μητέρα του ονομαζόταν Ασήμω, το γένος Γεωργιάδη.
Το 1905 ο Κωνσταντίνος Γαρέφης ακολούθησε τον Κωνσταντίνο Μαζαράκη-Αινιάν και με κέντρο δράσης το Βέρμιο αγωνίστηκε ως υπαρχηγός του σώματος Μακεδονικού αγώνα. Όταν η δράση του Κωνσταντίνου Μαζαράκη έγινε γνωστή και το αντάρτικο σώμα του έπρεπε να διαλυθεί ο καπετάν Γαρέφης τον αντικατέστησε οργανώνοντας δικό του αντάρτικο σώμα στα τέλη του 1905 και επεκτείνοντας την ακτίνα δράσης αποκατέστησε την ασφάλεια στην περιοχή.
Τη νύχτα της 6ης Αυγούστου 1906 ανακάλυψε, στο χωριό Τσερνέσοβο Αριδαίας (σημερινό Γαρέφι), την καλύβα, στην οποία κρύβονταν οι εχθροί του, κομιτατζήδες Λούκας και Καρατάσος. Ο καπετάν Γαρέφης δίχως φόβο μπήκε στην καλύβα τους και σκότωσε τον Καρατάσο και τραυμάτισε βαριά το Λούκα. Όμως κατά τη συμπλοκή τραυματίστηκε από τους άντρες του Λούκα.
Ο Γαρέφης, παρόλο το σοβαρό τραυματισμό του, επέμεινε, πριν φύγει από το πεδίο της μάχης, να δεί το αποτελέσμα της συμπλοκής. Λίγεw ημέρες αργότερα θα πεθάνει εξαιτίας των τραυμάτων στις 24 Αυγούστου 1906.
