Nascido em Prachatitz, na Boêmia, no dia 28 de março de 1811, entrou para o seminário no ano 1831. Dois anos depois, foi para Praga, onde estudou teologia. Em 1835, pediu a ordenação presbiteral, mas o bispo decidiu que não haveria mais ordenações lá. João escreveu aos bispos de quase todo o mundo, mas em todos os lugares a mesma história: nenhum queria padres agora.
Sem desistir, aprendeu inglês trabalhando em uma fábrica, com trabalhadores de idioma inglês. Escreveu, então, aos bispos dos Estados Unidos. Finalmente, o bispo de Nova York concordou em ordená-lo. Abandonou a família para sempre e cruzou o oceano para entrar em uma terra distante e difícil.
Em Nova York, João foi um dos 36 padres para mais de 200.000 católicos. Sua paróquia, a oeste de Nova York, estendia-se desde o rio Ontário até a Pensilvânia. Devido a seu intenso trabalho pastoral e por causa da distância da paróquia, João sonhava viver em uma comunidade: ingressou entre os redentoristas. Foi o primeiro padre que entrou na Congregação na América. Professou em Baltimore, no dia 16 de janeiro de 1842.
Entre os redentoristas, João destacou-se como uma pessoa altamente piedosa, por sua evidente santidade, por seu zelo e por sua amabilidade. O seu conhecimento de seis idiomas modernos o tornou particularmente apto para o trabalho na sociedade americana composta de muitas línguas no século dezenove.
Depois de trabalhar em Baltimore e Pittsburgh, em 1847 foi nomeado Visitador ou Superior Maior dos Redentoristas nos Estados Unidos. Em 1852, foi nomeado Bispo de Filadélfia. A diocese dele era muito grande e passava por um período de desenvolvimento considerável. Neste período, foi o primeiro a organizar um sistema diocesano de escolas católicas.
São João Neumann era de estatura pequena, nunca teve uma saúde robusta, mas em sua vida teve uma grande atividade. No dia 5 de janeiro de 1860 (com 48 anos de idade apenas) caiu na rua, em sua cidade episcopal, e morreu antes que lhe pudessem administrar os últimos sacramentos. Foi beatificado pelo Papa Paulo VI no dia 13 de outubro de 1963 e canonizado pelo mesmo Papa no dia 17 de junho de 1977.