I et nummer af Fredsbudet, udgivet af Fredskirken på Howitzwej på Frederiksberg, beskriver P. Olsen kort, hvorfor han er baptist. Nummeret er dateret “8. 13.”, hvilket må betyde nr. 8, årg. 1913. P. Olsen skriver:
“Hvorfor jeg er Baptist.
Jeg erkender med Glæde, at der inden for Statskirken findes mange oprigtige Kristne. Men jeg kan alligevel ikke være Medlem af Statskirken. Thi den er som Institution betragtet saa langt som vel mulig fra men Herres og Frelsers Ideal. Han erklærede, at hans Rige er ikke af denne Verden. Og Statskirken er jo en verdslig Institution. Det er een Grund til, at jeg er Baptist.
Jeg erkender ogsaa med Glæde, at der inden for baade lutherske og andre barnedøbende Frikirkesamfund er mange sande Kristne. Men jeg kan heller ikke være Medlem af en barnedøbende Frikirke. Min Herre og Frelser har jo sagt, at hvo som tror og bliver døbt, skal blive frelst; han har indstiftet Daaben som en Troshandling for dem, der er kommet til Samfund med ham. Og dette tør jeg ikke forandre noget ved. Jeg vilde gerne staa i Samfundsforbindelse med alle troende, ogsaa dem, der hylder Barnedaaben. Men jeg kan ikke gøre om paa min Herres Forordning med Hensyn til Daab og Menighed. Jeg beder mine Brødre, som tror anderledes end jeg, at godtgøre for mig, at deres Standpunkt er ret og mit forkert. Men de har ingen virkelige Grunde at give. De mest uhildede iblandt dem indrømmer, at der ikke i Bibelen findes noget om Barnedaab. De hylder den kun, fordi den nu engang er blevet almindelig, og fordi de nok synes, den til en vis Grad lader sig forsvare ad Fornuftslutningernes Vej. Jeg kan ikke dele deres Betragtning i dette Stykke. Jeg dømmer ikke dem. Men jeg kan ikke nøjes med deres Begrundelse. Jeg føler mig bunder af Guds Ord. Det er Hovedgrunden til, at jeg er Baptist.
Jeg mener ikke, at vi Baptister er bedre Kristne end andre sande Troende. Men jeg ved for vist, at vi i de Lærespørgsmaal, der skiller os fra dem, staar paa Guds Ords Grund, — hvad de ikke gør. Og derfor kan jeg ikke være andet end Baptist.
Vi Baptister staar ret ene. Det gør alle Pionerer. Men det er underligt at se i vore Dage, hvorledes troende Mennesker langsomt nærmer sig — ikke til os, det vilde jo heller ikke være af nogen Værdi, — men til Bibelens Vej. Og den Vej fører af sig selv der henad, hvor vi staar. Jeg kunde jo svigte, vi Baptister kunde svigte Bibelens Vej i Spørgsmaalene om Daab og Nadver og Menighedsforfatning. Vi kunde ræsonnere, som sandt er, at disse Spørgsmaal er af mere ydre Natur og af ringere Betydning end alt, hvad der angaar det indre Liv i Gud, det, hvori vi har Standpunkt tilfælles med alle sande Troende. Vi kunde svigte, siger jeg, det, som vore Fædre har kæmpet og lidt for. Men Guds Ords Sandhed forblev jo dog den samme. Ja, mere end det: Gud vilde da føre sin Sandhed til Sejr uden os. Og Skammen vilde da være vor.
Det er ikke svært at staa ene, naar man staar ene med Sandheden; thi da staar man sammen med Gud. Det har mange troende Mennesker erfaret i Livsspørgsmaalene. Men det samme gælder for Lærespørgsmaalene. Der er Styrke og Velsignelse i at staa ene med Gud, naar det sker for Sandhedens Skyld.
Ikke vil jeg hermed udfordre andre Troende, ikke vil jeg fremstille mig som bedre end de. Men jeg vil endnu engang pege paa vor Bibel. Alt hvad vi ved om Guds Kærligheds Raad og Villie med os Mennesker, det ved vi fra den Bog. Den alene kan sige os det, vi trænger til at vide. Dens Sandheder er det, Verden trænger til frem for alt andet. Gennem den er det, at Guds Aand lærer os alt om Guds Rige. Ved den ønsker jeg at blive. Og ved den ønsker jeg, at alle Mennesker maatte blive — først til Frelse for deres Sjæle og dernæst ogsaa i alt andet, som rettelig hører med til Frelsens Vej.
P.O.”