Vermutungen legen nahe, dass an dem Ort der ersten Steinkirche bereits eine Kirche aus Holz gestanden haben soll. Bisher konnte dies aber nicht nachgewiesen werden. In einer Urkunde vom 09.06.1427 wird die Kirche zum ersten Mal schriftlich erwähnt. Die sogenannte Wehrkirche bot den Bürgern im Verteidigungsfall Schutz. Sie besaß drei Tore, von denen nur das Ostertor erhalten blieb. Außerdem zog sich um sie eine dicke Wehrmauer, die sich zum Teil noch an der Umrandung des Friedhofes zeigen lässt. Die heutige Remelser Kirche ist 32,2 Meter lang und 12 Meter breit. Schaut man sich die Kirchenmauer genauer an (siehe Bild 1), so sieht man an der Süd – und Nordseite auf gleicher Höhe eine klar gekennzeichnete Baunaht. Die erste errichtete Steinkirche bestand aus großen Granitquadern (siehe rechte Seite Bild 1). Sie soll 29 Meter lang gewesen sein und sich nach Westen weit über den heutigen Kirchturm gezogen haben. Die Kirche kann noch vor dem 13. Jahrhundert erbaut worden sein. Auf der linken Seite von Bild 1 sind ebenfalls Granitquader zu sehen, allerdings weisen diese mitunter deutlich kleinere Seitenlängen auf. Aus unbekannten Gründen wurde der damalige Westteil abgerissen. Die übrig gebliebenen Granitsteine wurden zum Bau der heutigen Ostseite verwendet.

Des Weiteren fallen im Mauerwerk zwei zugemauerte Eingänge auf. Jeweils einer auf der Nord- und auf der Südseite (siehe Bild 2 und 3). Bevor der Turm gebaut wurde, waren dies die genutzten Eingänge der Kirche. Heute ist der Haupteingang im Kirchturm auf der Nordseite. Ihm gegenüber befindet sich ein weiterer Eingang, der allerdings als Gedenkort eingerichtet worden ist und als Eingang so gut wie gar nicht mehr benutzt wird. Daneben hat die Kirche in der Ostmauer eine weitere Tür. Sie dient als Notausgang und ist im Innenraum hinter dem Altar versteckt. Dass die Kirche zwei Eingänge hat, ist darauf zurückzuführen, dass die Männer und Frauen bis in das 20. Jahrhundert durch verschiedene Eingänge die Kirche betraten. So gingen die Frauen durch die Nord-Tür und die Männer durch die Süd-Tür.

Zudem ist an dem zugemauerten Eingang an der Nordseite ein altes Halseisen zu sehen, unter dem ein Podest aus Stein steht (siehe Bild 4). Hierbei handelt es sich um einen Pranger, denn die Kirche war das Gericht für kleinere Vergehen. Menschen, die Solche zu verschulden hatten, wurden an den öffentlichen Pranger gekettet und konnten so von den Mitbürgern bespuckt oder mit Gegenständen/Essen beworfen werden.

Geht man ein paar Schritte von der Kirche zurück und schaut hinauf, dann ist oben auf dem Dach der Ostseite ein vergoldeter Schwan zu sehen (siehe Bild 5). Dieser hat dort seinen Platz seit 1855. Der goldene Schwan auf dem Kirchdach symbolisiert in Ostfriesland die lutherischen Kirchen. Zu der Symbolisierung Luthers als Schwan gibt es folgende Erzählung:

Johann Hus aus Prag versuchte bereits 100 Jahre vor Martin Luther, die Kirche zu reformieren – dafür landete er auf dem Scheiterhaufen. Bevor er starb, soll er gerufen haben: „Ihr verbrennt jetzt nur eine Gans (‚Hus‛ bedeutet ‚Gans‛), aber es wird einmal ein Schwan kommen, der wird euch davonfliegen.“ Martin Luther konnte die Reformation vollenden und wird seitdem als dieser Schwan angesehen.