À l’origine du Krak, un fortin musulman où l’émir de Homs avait établi une garnison de Kurdes en 1031 afin de résister à l’envahisseur seldjoukide. Le nom d’al-Akrad fait référence à ces Kurdes et explique peut-être le nom de Krak.
La forteresse est enlevée dès la première Croisade par Raymond de Saint-Gilles, en route pour Jérusalem, mais les Francs ne s’y installeront vraiment que dix ans plus tard.
Par sa position, le fort contrôle la passe de Homs et tient en respect les émirs de Hama et Homs. Il joue donc un rôle capital dans le dispositif défensif des Francs. Le comte de Tripoli, suzerain de la place, le confie dès 1142 aux Hospitaliers de Saint-Jean, les moines soldats chargés de l’assistance aux pèlerins qui devinrent rapidement un ordre militaire.
Les Hospitaliers vont transformer la citadelle en un chef d’œuvre de l’art militaire franc, forteresse ramassée où chaque élément défensif se trouve contrôlé par un autre.
Les plus grands chefs musulmans se heurteront sans succès au Krak : Nour-ed-Din y subit une défaite en 1163. Saladin est contraint de reculer en 1187. C’est seulement un siècle plus tard que le sultan mamelouk Baybars enlèvera la place en 1271, contraignant les Hospitaliers à se rendre et à quitter le Krak.