Das barocke Kirchenportal zeigt das Allianzwappen der Förderer und Erneuerer von Kirche und Kloster in der 1. Hälfte des 18. Jh. Es zeigt links (heraldisch rechts) das Wappen von Maximilian Ulrich als Graf von Kaunitz, Ostfriesland und Rietberg (v.l.): in Rot einen goldenen Adler (Rietberg), in Gold einen schwarzen Bär (Esens), in Blau zwei gekreuzte goldene Peitschen (Wittmund) und in Schwarz die goldene Harpye (das ostfriesische Haus Cirksena); im ranghöheren aufgelegten Herzschild sind für das Haus Kaunitz in Rot zwei gekreuzte silberne Seerosenblätter (Kaunitz) sowie in Gold eine blaue fünfblättrige Rose (Sesyma-Austi) zu sehen. Das rechte Wappen (heraldisch links) der Gräfin Maria Ernestine Franziska verweist noch einmal auf die Besitzungen Ostfriesland und Rietberg, die von ihr in die Ehe eingebracht worden waren.

Rechts oben an der Klosterwand, dort, wo ehem. die Klosterpforte war, prangt das runde Allianzwappen des 1640 verstorbenen Mitbegründers des Klosters Ernst Christoph Graf von Ostfriesland und Rietberg und seiner Gemahlin Albertine Maria Marquise de St. Martin, die in zweiter Ehe mit ihrem Vetter Graf Charles de la Baume verheiratet war. Ihr Wappen zeigt eine rote Treppe in Gold.

Den 2007 neu gestalteten Klostervorplatz bereichern eine Maria Immakulata von Johann Theodor Axer (1762) und eine Johann Philipp Pütt (beide Paderborn) zugeschriebene Statue des hl. Petrus von Alcantara (1768), eines Ordensheiligen der Franziskaner (Kopien, Originale im Kreuzgang des ehem. Klosters). Die Bronzeskulptur einer Pietà links von der Kirche ist ein Werk des Künstlers Wilfried Koch (Rietberg-Varensell) aus dem Jahre 1986.

An der Längsaußenwand der Kirche stehen Grabsteine von Rietberger „Kloppinnen“. Es handelt sich um Vertreterinnen der so genannten „Terziarinnen“, des Dritten Ordens des hl. Franziskus also, die im Rietberger Land nach ihrem Gelöbnis bisweilen ein recht bevorzugtes, oft von Arbeit befreites Dasein auf den Höfen ihrer Familien führen konnten. Die Inschrift auf dem linken Kloppenstein ist noch deutlich zu erkennen. Danach starb („obiit“) am 10. Mai 1742 die Jungfrau („Virgo“) Maria Elisabetha Hölscher, die das Gelübde der Tertiarin abgelegt hat („Devota Tertiaria“). Über dem vermauerten Seiteneingang ist ein ehem. Gewölbeschlussstein, wohl noch vom alten Gewölbe vor der neugotischen Einwölbung von 1888, mit einer Darstellung des Heiligen Geistes angebracht.

Ursprünglich waren die Klosterkirche, das Konventsgebäude und der sich bis zur Ems erstreckende Klostergarten durch eine Gräfte, die noch von der Zeit der mittelalterlichen Burg herrührte, vom eigentlichen städtischen Siedlungsgebiet abgetrennt. Der Klosterbereich konnte nur über Brückenstege erreicht werden. Erst 1930 ist das letzte Teilstück dieses zwischen Klosterstraße und Klostergarten erhaltenen Gewässers als so genannter „toter Emsarm“ zugeschüttet worden.