Företaget startades av Robert Haber 1978 som College Media Journal, en facktidning som varannan vecka riktade sig till radioprogrammerare på högskolor, och blev CMJ New Music Report 1982.
CMJ.com publicerade topp-30-listor som skickades till dem av radiostationer som prenumererade till en kostnad av ett par hundra dollar per år. CMJ publicerade tidigare dessa listor i CMJ New Music Report, CMJ:s facktidning. Tidningen övergick till att endast vara online och släpptes varje vecka som en digital PDF-tidning tills den lades ner 2017. Man publicerade också CMJ New Music Monthly, som var en tidning med intervjuer, recensioner och specialfunktioner.
Den 5 januari 2004 publicerade CMJ New Music Report ett dubbelnummer med 25-årsjubileum som leddes av en redaktion som bestod av chefredaktör Kevin Kerry Boyce och chefredaktörerna Louis Miller och Doug Levy. I numret fanns The White Stripes på omslaget i ett fotografi taget av art director Drew Goren; tidningen utnämnde bandets album Elephant (2003) till årets album.