Aan de Middenweg 86 staat de 18e-eeuwse doopsgezinde Vermaning, oorspronkelijk een schuilkerk. De kerk ziet er uit als een echte schuilkerk want aan de voorkant oogt het gebouw niet als een kerk, eerder als een schuur. In de zijgevel echter, zijn aan de achterzijde kerkramen te zien want de kerkzaal is aan de achterzijde gesitueerd; de voorkant was ingericht als pastorie. In 1872 verviel deze laatste functie toen links van de Vermaning een nieuwe pastorie werd gebouwd.
De eerste steen voor de bouw werd op 1 oktorber 1784 gelegd door David Gerrisz Beets, de gevelsteen in de voorgevel herinnert aan dit feit:
Op Hoop Van Godes Dierbre Zegen
Van Zijn Bescherming Liefde En Trouw
Zo Heb Ik Aan Dit Kerkgebouw
Den Allereerste steen Gelegen
Den 1 October 1784
David Gerrisz Beets
Een bekende 19e-eeuwse predikant van de kerk was ds P. Douwes Dekker, de broer van de schrijver Multatuli (Eduard Douwes Dekker), bekend van onder andere de roman Max Havelaar.