Escritor, poeta, historiador aficionado y etnógrafo, Neihardt nació en el seno de una familia pobre. Aunque sus padres le transmitieron el interés por la lectura y la creatividad, el pequeño John mostró signos de ser un niño precoz. A los once años, durante una enfermedad, tuvo una experiencia mística que lo convenció de su vocación como poeta. En 1897, con solo dieciséis años, se graduó en la Nebraska Normal School, e inmediatamente comenzó a escribir poesía. En 1900, publicó The Divine Enchantment y The Wind God’s Wooing, obras que no tuvieron mucho éxito, pero que son indicios tempranos de la fascinación de Neihardt por la espiritualidad y por otras culturas diferentes a la europea y estadounidense. Durante esta época vivía con su madre en Nebraska, cerca de una reserva de Omaha, lo que probablemente le proporcionó su primer contacto con los nativos americanos, comunidades por las que sentiría un interés creciente con los años y que darían lugar a textos inolvidables como Alce Negro habla (1932).
Neihardt fue profesor de Poesía en la Universidad de Nebraska, editor literario en San Luis, y poeta residente y profesor de la Universidad de Misuri en Columbia. Fue nombrado primer poeta laureado de Nebraska y también primer poeta de la nación por el Centro Nacional de Poesía en 1936.