Η Μονή Καρακάλλου είναι κτισμένη σε μια μάλλον ομαλή πλαγιά σε υψόμετρο 200μ. Πάνω από τις άγριες φουντουκιές και ελιές, που δημιουργούν μια ευχάριστη αντίθεση στα εντυπωσιακά βαθυπράσινα δάση του Άθω, αγναντεύει τη βραχώδη ανατολική ακτή της χερσονήσου. Απέχει μισή ώρα από τον αρσανά της και τρείς ώρες από τις Καρυές και στέκει φρουρός πάνω από το μονοπάτι που ακολουθεί την ακτή και συνδέει τις μονές Ιβήρων και Μεγίστης Λαύρας.
Ο ισχυρισμός, ότι η Μονή κτίστηκε από το Ρωμαίο αυτοκράτορα Καρακάλλα (211-217) έχει μάλλον μόνο θρυλική βάση. Είναι πιθανό το όνομα να προέρχεται από την Τουρκική έκφραση “καρά καλέ” που σημαίνει μαύρο φρούριο, ή “καρά κουλέ” που σημαίνει μαύρος πύργος. Σύμφωνα με μια άλλη ιστορία, ένας μοναχός, ο ευγενής Νικόλαος Καράκαλλος, ίδρυσε τη Μονή στη περίοδο του βυζαντινοί αυτοκράτορα Ρωμανού Δ’ Διογένη (1068-1071) το μέρος όπου αρχικά βρίσκονταν ένα μικρός μοναστικός οικισμός. Το έγγραφο το οποίο επικυρώνει την ίδρυση της Μονής χάθηκε στις ταραχές από τις διάφορες επιδρομές που δέχτηκε. Διασώθηκε μόνο η μολύβδινη σφραγίδα του εγγράφου με παραστάσεις στη μια πλευρά του Χριστού με τον αυτοκράτορα Ρωμανό και τη σύζυγο του, και στην άλλη των παιδιών του αυτοκράτορα. Η Μονή επίσης αναφέρεται σ’ ένα έγγραφο του Πρωτεπιστάτη Νικηφόρου, του 1018. Είναι πολύ πιθανόν ο μοναστικός οικισμός που υπήρχε τότε να πολύ πιο μικρός και γι’ αυτό το λόγο δεν αναγνωρίστηκε ως Μονή. Αυτό ίσως εξηγεί το γεγονός ότι δεν αναφέρεται στο δεύτερο Τυπικό του Άθω. Ο ηγούμενος Μιχαήλ, από τη Μονή Καρακάλλου, πρωτοαναφέρεται το σ’ ένα έγγραφο του Πρωτεπιστάτη εκείνης της εποχής.
Στους δυο πρώτους αιώνες από την ίδρυση η Καρακάλου είχε την ίδια μοίρα μ’ όλες τις υπόλοιπες μονές. Δέχτηκε επιδρομές και λεηλατήθηκε από πειρατές και Καταλανούς μισθοφόρους και το 14ο αιώνα ερημώθηκε σχεδόν εντελώς. Το μοναστικό συγκρότημα, που καταστράφηκε εντελώς από τους σταυροφόρους, ξανακτίστηκε χάρη στη γενναιοδωρία των Παλαιολόγων, Μιχαήλ Δ’ (1259-1282), Ανδρόνικου Β’ (1282-1328), και αργότερα Ιωάννη Ε'(1354-1391), καθώς επίσης του πατριάρχη Αθανάσιου και του Πρωτεπιστάτη Ισαάκ (περίπου το 1334). Ταυτόχρονα μ’ αυτή την οικονομική βοήθεια δόθηκε νέα ώθηση στην Καρακάλλου με την εισροή πολλών νέων μοναχών. Στα επόμενα χρόνια όμως, η Μονή υπέστη συνεχείς ζημιές από πυρκαγιές, μεγάλες καταστροφές και επιδρομές από πειρατές και Τούρκους κατακτητές.
Η Μονή αναγκάστηκε να πουλήσει πολλά από τα κτήματα της καθώς βρέθηκε ακόμη μια φορά στο χείλος οικονομικής καταστροφής. Όμως ανάκαμψε χάρη στις μεγάλες δωρεές του βοεβόδα της Μολδοβλαχίας, Ιωάννη Πέτρου Δ’ Ράρες, ο οποίος αργότερα έζησε στην Καρακάλλου ως απλός μοναχός και τιμήθηκε ως δεύτερος ιδρυτής. Η κόρη του Ρωξάνδρα και ο σύζυγος της Ιωάννης Αλέξανδρος Δ’ Λαπουσχεάνου πρόσφεραν στη Μονή την οικονομική ευχέρεια, το 1570, να επανακτήσει πολλά από τα κτήματα της, και έτσι η οικονομική της βάση σταθεροποιήθηκε. Οι ευεργέτες της επίσης παρήγγειλαν τη λεπτοδουλεμένη διακόσμηση των ανακαινισμένων κτιρίων, αλλά και την ανέγερση νέων όπως για παράδειγμα του Καθολικού (1548-1563). Το φιρμάνι του σουλτάνου Σουλεϊμάν του Μεγαλοπρεπούς, του 1535, ανήκει σ’ αυτήν την περίοδο και έδωσε στον Αλέξανδρο άδεια να ξανακτίσει τη Μονή αλλά “… μόνο στα παλιά θεμέλια, χωρίς να προστεθούν νέα οικοδομήματα.” Μια άλλη ευεργέτης ήταν η κόρη του Σουλεϊμάν, η οποία αφού είχε αγοράσει τα κτήματα που είχε πουλήσει η Μονή, έπειτα τα επέστρεψε στην Καρακάλλου. Την ίδια περίοδο ανεγέρθηκε και ο μεγάλος οχυρωματικός πύργος από τον ηγούμενο Γερμανό.
Τον 17ο αιώνα, οι βασιλείς της Ιβηρίας Αρτχίλ και ο αδελφός του Βαχτάγ, συνέβαλαν με πολύ σημαντικές δωρεές στην ευημερία της Μονής γύρω στα 1674. Οι δυο αδελφοί αργότερα αποσύρθηκαν στην Καρακάλλου όπου έζησαν ως μοναχοί μέχρι το θάνατο τους.
Το 18ο αιώνα, ο ιερομόναχος Διονύσιος πρωτοστάτησε στην επέκταση του μοναστικού συγκροτήματος το οποίο όμως αργότερα καταστράφηκε σε μεγάλο βαθμό από πυρκαγιά που ξέσπασε το 1879. Μετά απ’ αυτήν την πυρκαγιά, η Τράπεζα ξανακτίστηκε ακόμα μια φορά, καθώς και οι ξενώνες και αρκετές πτέρυγες κελιών, και η Μονή έλαβε τη μορφή που έχει σήμερα. Όμως τα σημάδια της πυρκαγιάς που ξέσπασε τα τελευταία χρόνια και κατέστρεψε ένα μεγάλο μέρος της βόρειας πτέρυγας φαίνονται ακόμη.
Το Καθολικό ολοκληρώθηκε το 1563 αλλά αγιογραφήθηκε πολύ αργότερα, το 1716, και ο εσωνάρθηκας το 1750. Οι αξιοσημείωτες τοιχογραφίες του εξωνάρθηκα, με σκηνές από την Αποκάλυψη, αγιογραφήθηκαν το 1763. Μεταξύ των 279 χειρογράφων στη βιβλιοθήκη μόνο μερικά χρονολογούνται στη βυζαντινή εποχή. Από τις 42 περγαμηνές ο κωδικός αριθμός 11 της Καρακάλλου είναι μεγάλης αξίας. Το χειρόγραφο αυτό, διαστάσεων 20×26 εκατ., με μικροσκοπικά γράμματα, αποδίδεται τους ιστορικούς τέχνης σε διαφορετικές εποχές (10ο-13ο αιώνα). 2.500 έντυπα βιβλία περιλαμβάνονται συνολικά στη συλλογή βιβλιοθήκης, η οποία κατά τους προηγούμενους αιώνες καταστράφηκε πολλές φορές από πυρκαγιά.
Στο σκευοφυλάκιο φυλάσσονται κομμάτια Τιμίου Ξύλου, ιερά λείψανα, χρυσοκέντητα άμφια, και λειτουργικά σκεύη. Φυλάσσονται βέβαια και αρκετές φορητές εικόνες από τις οποίες η πιο σημαντική είναι η εικόνα των στόλων Πέτρου και Παύλου, στους οποίους είναι αφιερωμένη η Μονή και τιμώνται στις 29 Ιουλίου. Η εικόνα ζωγραφίστηκε από τον αγιογράφο Κωνσταντίνο Παλαιοκαπά το 1540.
Στο ξυλόγλυπτο τέμπλο του Καθολικού βρίσκεται η εικόνα των Δώδεκα Αποστόλων, του συγγραφέα της “Ερμηνείας της Ζωγραφικής Τέχνης”, Διονυσίου του εκ Φουρνά, το 1722. Εκτός από τα πέντε παρεκκλήσια που βρίσκονται μέσα στη Μονή, υπάρχουν άλλα έξω από τα τείχη της. Η Μονή επίσης έχει κελιά στις Καρυές και άλλα 14 στο βορρά.
Ο οχυρωματικός πύργος με τις επάλξεις του, που κατασκευάστηκε με χρήματα που πρόσφερε ο βοεβόδας Ιωάννης Πέτρος και κτίστηκε από τον ηγούμενο Γερμανό στις αρχές του 16ου αιώνα, στέκει περήφανος στον αρσανά της Μονής. Η ανέγερση του πύργου με δική του Τράπεζα και παρεκκλήσι, ολοκληρώθηκε το 1534, και μαρτυρείται από επίγραφή στα τείχη του.