Carrollin vuonna 1978 ilmestyneet Koripallopäiväkirjat kertovat hänen kouluvuosistaan koripallotähtenä ja huumeidenkäyttäjänä. Kirjasta tehtiin vuonna 1996 elokuva, jonka pääosaa esitti Leonardo di Caprio.
Punkin suurimpiin nimiin kuuluva Patti Smith kuvailee ystävänsä kirjoja tyylikkäiksi ja hienostuneiksi. Smithin avulla Carroll pääsi myös musiikkialalla. Hänen vuonna 1980 ilmestynyttä Catholic Boy -albumiaan pidetään yhtenä punkin maamerkeistä.
Carroll kirjoitti kappaleita muun muassa Lou Reedille ja Pearl Jamille ja teki yhteistyötä myös muun muassa Andy Warholin kanssa.
Carroll kuoli sydänkohtaukseen viime perjantaina kotonaan New Yorkissa.