En 944, Raoul Ier, comte de Crépy, fonde dans la collégiale de son château un chapitre de chanoines pour honorer les reliques de saint Arnoul, qu'il y dépose. Elles avaient été rapportées par un prêtre nommé Constance, originaire de Vez, depuis Saint-Quentin-en-Yvelines, où reposait le corps d'Arnoul. Gauthier le Blanc remplace la collégiale par une abbaye. Ses successeurs achèvent l'abbaye et son église, épaulée à son chevet par deux puissantes tours carrées. En 1077, Simon la confie à l'ordre de Cluny, alors très puissant en France.
Au Moyen Âge, cette abbatiale attire de nombreux pèlerins, venus demander à saint Arnoul de soulager leurs souffrances.
En 1431, lors de la prise de Crépy par les Anglais, le chœur de l'église est détruit par un violent incendie.
À la Révolution, Saint-Arnoul est vendu comme bien national. L'église est démolie ; il ne reste qu'une partie des bâtiments conventuels, dont la belle salle capitulaire du XIIIe siècle. Ce bâtiment sert d'institution pour jeunes gens jusqu'en 1883. Après la Seconde Guerre mondiale, ses tuiles sont récupérées pour réparer les maisons endommagées, ce qui entraîne une forte dégradation.
Depuis 1964, grâce au syndicat d'initiative de l'époque et à son président, Robert Barrier, qui prit l'initiative des fouilles dégageant les chapiteaux et la base de l'ancienne église, la municipalité aide à protéger et conserver les ruines, et une association de sauvegarde a été créée, toujours active aujourd'hui.