L’azienda fu fondata da Robert Haber nel 1978 come College Media Journal, una rivista commerciale bisettimanale rivolta ai programmatori radiofonici dei college e divenne CMJ New Music Report nel 1982.
CMJ.com pubblicava liste di top-30 inviate loro dalle stazioni radio, che si abbonavano al costo di poche centinaia di dollari all’anno. In precedenza CMJ pubblicava queste liste nel CMJ New Music Report, la pubblicazione commerciale di CMJ. La rivista è passata a un formato esclusivamente online ed è stata pubblicata settimanalmente come rivista digitale in PDF fino a quando non si è chiusa nel 2017. Pubblicava anche CMJ New Music Monthly, che era una rivista con interviste, recensioni e caratteristiche speciali.
Il 5 gennaio 2004, CMJ New Music Report ha pubblicato un doppio numero per il 25° anniversario guidato da una redazione che includeva il caporedattore Kevin Kerry Boyce, e i caporedattori Louis Miller e Doug Levy. Il numero presentava i White Stripes in copertina in una fotografia scattata dal direttore artistico Drew Goren; la rivista nominò Elephant (album), uscito nel 2003, l’album dell’anno.