El más importante arquitecto alemán del Rococó, fue maestro de las composiciones espaciales elegantes e ingeniosas. Sabía ser sensual de modo caprichoso e intelectualmente complejo, frívolo y profundo, ceremonioso y juguetón. Sus iglesias y palacios resumen la actitud de mediados del siglo XVIII con respecto a la vida y la religión. Sin embargo, a pesar del aire de espontaneidad de sus obras, fueron ideadas cuidadosamente. Sus diseños son tan complejos como las fugas de Bach y, por esta rzón, se le ha llamado arquitecto de arquitectos.

Hijo de un fabricante de ropa, nació en Bohemia, pero trabajó principalmente en Franconia donde empezó su carrera en una fundición de cañones y pasó poco a poco a la arquitectura a través de la artillería del Príncipe Obispo. Visitó Viena y Milán (1717-18) y a su regreso empezó la nueva Residenz del Obispo en Würzburg, consultando sobre el proyecto a HIldebrandt y Maximilian von Welsch en Viena y De Cotte y Boffrand en Paris. La influencia de Hildebrandt es evidente en el palacio, que se hizo durante el gobierno de cinco obispos consecutivos a lo lardo de más de setenta años, aunque estaba acabado en lo fundamental alrededor de 1744. Destacables son la Hofkirche o Capilla del obispo (1732-41) y la grandiosa escalera de ceremonias que asciende a la Kaisersaal (diseñada en 1735, decorando el techo el Tiépolo entre 1752-3). Esta estalera en una de sus concepciones más originales e ingeniosas, sólo superada por la sobervia escalera de Brunchsal (1731-32, estropeada durante la II Guerra Mundial, y restaurada). Diseñó también la impresionante escalera del Schloss Brühl cerca de Colonia (1743-8). Estas escaleras ceremoniales forman el elemento individual más importante de cada palacio y al mismo tiempo son obras maestras de la técnica ingenieril y alegres juegos espaciales. En el Schloss Werneck (1734-45) colaboró otra vez con Hildebrandt, pero esta vez estampó su propio sello en todas las partes del edificio. Su obra civil no se limitó en absoluto a la arquitectura palaciega; se ocupó de la planificacion urbana y trazó calles enteras como la Theaterstrase de Würzburg. La casa se construyó para sí mismo en la Kapuzinergasse en Wurzburg, revela su habiliad para trabajar a menor escala. 

Recibió muchos encargos como arquitecto eclesiástico: diseñó la iglesia parroquial  Weissentheid (1727) la iglesia de peregrinación de Gössweinstheid (1730-39), la iglesia de San Paulino en Tréveris (empezada en 1734), la iglesia de Heusenstamm cerca de Offenbach (1739-40), la  Capilla de la Santa Cruz de Etwashausen (1741) y las ampliaciones de SanPedro Bruchsal (1738) y la iglesia de los dormitorios de Wurzburg (1741). En 1743 empezó su gran obra maestra, la iglesia de peregrinación de Wiezehheiligen o Iglesia de los 14 santos, cerca de Banz, cuyos cimientos ya habían sido construidos por el arquitecto anterior. Su primera tarea fue acomodar a un proyecto contrario a ellas y esto proporcionó un estimulo a su genio. Dessarrolló un proyecto complicadísimo, basado en el el agrupamiento de óvalos en bóvedas y plantas que proporcionaban un emocionante efecto espacial, realzado por la espumosa y revuelta decoración rococó. La actualidad dinámica de la arquitectura rococó encuentra aquí su  mejor expresión; estatuas y columnas parecen estar realizando, un elegante minué. (El altar mayor, el pulpito y la mayor parte de la labor en yeso, no se terminaron hasta después de la muerte de Neumann.

La Iglesia de la abadía de Neresheim (empezada en 1747) dispuso de mayor libertad y su proyecto es más sencillo, aunque también basado en el juego de óvalos. Mediante el empleo de columnas muy finas para soportar la gran cúpula central, logró una ligereza casi gótica. Su última obra importante la Marienkirche en Limbach (1747-52), es de menor tamaño y es raro el hecho de que esté no menos elaboradamente decorada en el exterior que en el interior.