L’ancien presbytère rappelle naturellement l’importance qu’occupait autrefois le curé dans la vie du village.
Il faut évidemment associer le lieu à la figure de l’abbé César RENARD, curé de Bailleul de 1905 à 1924. Celui-ci joua un rôle important dans la sauvegarde du patrimoine local et fut à l’origine de la grande restauration de l’église Saint-Amand au début du XXe siècle
Le bâtiment fut pendant longtemps la résidence du curé de Bailleul mais a ensuite perdu sa fonction de presbytère pour être reconverti en maison de repos. Il accueille aujourd’hui la Résidence Bailleul, située Place Abbé César RENARD. Il s’agit d’une petite structure de 25 lits, accueillant exclusivement des hommes présentant des problèmes psychologiques.