Estudió en las universidades de Columbia, Wisconsin y Nueva York.
A poco de graduarse, en 1937, publicó en la Partisan Review el célebre relato que cimentaría su fama: In Dreams Begin Responsibilities, el cual ya es un clásico de la literatura estadounidense.
Bajo este mismo título, al año siguiente, publicó su primer libro, que incluía este único cuento acompañado por un conjunto de poemas. Fue una obra muy elogiada, que le otorgó notoriedad inmediata en los círculos literarios más selectos.
Se desempeñó como profesor de escritura creativa en Syracuse y Princeton, entre otras instituciones, y tuvo entre sus alumnos a destacadas figuras que lo admiraron, como es el caso del cantante Lou Reed, que le dedicó varias canciones.
Otros escritores que declararon su admiración por Schwartz –algunos, amigos cercanos–, fueron Saul Bellow, Robert Lowell, John Berryman, James Atlas o Vladimir Nabokov.
En 1959, ganó el Premio Bollingen por su colección de poemas Summer Knowledge.
Los últimos años de su vida estuvieron marcados por el alcohol y la depresión, que derivaron en serios problemas mentales que se fueron agravando, hasta llegar a vivir completamente aislado, en el hotel Chelsea, donde falleció en julio de 1966.
