Durante el viaje hacia al Sur, que emprendió en 1848, tuvo la oportunidad de contemplar una realidad, la de provincias, para él totalmente desconocida y que, en definitiva, sería decisiva para su carrera futura. Por todo este conjunto de experiencias, cuando regresó a Nueva York, unos meses después, abandonó el periodismo y se entregó por completo a la escritura.
La primera edición de su gran obra, sin embargo, no vio la luz hasta 1855. Esta primera edición de Hojas de hierba (Leaves of grass) (habría otras ocho en vida del poeta) constaba de doce poemas, todos ellos sin título, y fue el propio Whitman quien se encargó de editarla y de llevarla a la imprenta. De los mil ejemplares de la tirada, Whitman vendió pocos y regaló la mayoría, uno de ellos a Ralph Waldo Emerson, importante figura de la escena literaria estadounidense y su primer admirador. Su crítica, muy positiva, motivó a Whitman para seguir escribiendo, a pesar de su ruinosa situación económica y de la nula repercusión que, en general, habían tenido sus poemas.
Al año siguiente apareció la segunda edición y, cuatro años más tarde, la tercera, que amplió con un poema de presentación y otro de despedida. La noticia de que su hermano George había sido herido, al comienzo de la Guerra Civil, le impulsó a abandonar Nueva York para ir a verle a Fredericksburg. Más tarde se trasladó a Washington D.C. donde, apesadumbrado por el sufrimiento de los soldados heridos, trabajó voluntariamente como ayudante de enfermería. Tras el fin de la contienda, se estableció en Washington, donde trabajó para la Administración. Allí publicó varios ensayos de contenido político, en los cuales defendía los ideales democráticos, pero rechazaba el materialismo que, a su juicio, impregnaba la vida y las aspiraciones de la sociedad estadounidense.