Sus dos primeros singles en solitario fueron éxitos en las listas de éxitos en 1976. Ambos se basaban en temas de Sergei Rachmaninoff. El primero de ellos, «All by Myself», basado en el Concierto para piano nº 2 de Rachmaninoff, alcanzó el número 2 en Estados Unidos y el 12 en el Reino Unido, donde fue su único éxito. Vendió más de un millón de copias y el R.I.A.A. le concedió un disco de oro en abril de 1976. El siguiente sencillo, «Never Gonna Fall in Love Again» -basado en el tema principal del movimiento lento de la Sinfonía nº 2 de Rachmaninoff- alcanzó el número 11 en el Billboard Hot 100, y llegó al número uno en la US Adult Contemporary Chart, así como al número nueve en la lista Cash Box. En el Reino Unido, Dana la llevó al número 31. Esas canciones se incluyeron en su álbum de debut de 1975, que lleva su propio título, junto con «That’s Rock and Roll», un sencillo de éxito número 3 para el cantante Shaun Cassidy. El álbum alcanzó el número 21 en la lista de álbumes de Billboard y fue certificado como disco de oro en 1977 por las ventas de más de 500.000 copias.
El segundo álbum de Carmen, Boats Against the Current, salió en el verano de 1977 y recibió críticas mixtas. Contó con la colaboración de músicos como Burton Cummings, Andrew Gold, Bruce Johnston y Nigel Olsson. El álbum permaneció 13 semanas en la lista de álbumes de Billboard, alcanzando el número 45. También produjo el sencillo «She Did It», que se situó en el Top 20, pero la canción principal sólo consiguió rozar el fondo de la lista. El tema principal fue versionado posteriormente por Olivia Newton-John en su álbum Totally Hot. Un tercer sencillo extraído del álbum, «Marathon Man», se convirtió en su primer sencillo en solitario que no llegó a la lista Billboard Hot 100. Sin embargo, Shaun Cassidy volvió a entrar en el Top 10 en 1978 con «Hey Deanie» de Carmen. Durante varias semanas en el otoño de 1977, Carmen tuvo tres composiciones en la lista Billboard Hot 100, los dos grandes éxitos de Cassidy y el propio «She Did It» de Carmen.
Carmen siguió con dos álbumes más. A pesar del declive de las listas de éxitos, el sencillo «Change of Heart» entró en el Top 20 del Pop y alcanzó el número 6 en el AC a finales de 1978, siendo este éxito también versionado por Samantha Sang en su LP Emotion. Pero en 1980, tras el lanzamiento del álbum «Tonight You’re Mine» y el sencillo «It Hurts Too Much» (número 75 del Billboard Top 100; número 3 en Sudáfrica, junio de 1980) se retiró temporalmente de la industria musical.
Cuatro años más tarde, después de que Mike Reno y Ann Wilson alcanzaran el primer puesto en las listas de éxitos (número 7 de Pop; número 1 de Adult Contemporary) con la balada «Almost Paradise», escrita por Carmen (el tema de amor de la película Footloose), Carmen reapareció en Geffen Records en 1985 con un segundo álbum autotitulado y un considerable éxito de regreso «I Wanna Hear It from Your Lips». El sencillo alcanzó el Top 10 de Adult Contemporary y el Top 40 de Pop. El siguiente sencillo, «I’m Through with Love», también se situó en el Billboard Hot 100 y alcanzó el Top 20 de la lista Adult Contemporary. Otro tema del álbum, «Maybe My Baby», se convirtió más tarde en un éxito country para Louise Mandrell. «I Wanna Hear It from Your Lips» también fue un éxito country para Louise Mandrell.
En 1987, la contribución de Carmen a la exitosa película Dirty Dancing, «Hungry Eyes», alcanzó el número 2 de la lista Adult Contemporary Chart y también lo devolvió al Top 10 del Pop. «Reason To Try», otra contribución al álbum recopilatorio One Moment in Time de canciones grabadas para los Juegos Olímpicos de Verano de Seúl, mantuvo el perfil de Carmen en lo alto en 1988, durante el cual la nostálgica «Make Me Lose Control» también le devolvió al número uno de la lista Adult Contemporary -donde se mantuvo durante tres semanas seguidas- así como al número 3 de la Hot 100 de Billboard. Esta canción se convirtió en su mayor éxito desde «All By Myself». Ambas, junto con «Hungry Eyes», se han convertido en las últimas dos décadas en clásicos de la radio pop.
El año 2000 vio el lanzamiento en Estados Unidos de I Was Born to Love You, que había sido lanzado en 1998 sólo en Japón como Winter Dreams. Carmen evitó el uso de una banda en la grabación, tocando la mayoría de los instrumentos y programando él mismo las partes de batería. El álbum no encontró un gran público, pero Carmen ha seguido teniendo éxito colocando canciones con otros artistas a lo largo de los años. En el año 2000 también realizó una gira por primera vez en años con Ringo Starr y su All Starr Band interpretando «Hungry Eyes», «Go All The Way» y «All By Myself».
El 24 de diciembre de 2013 se publicó la primera nueva grabación en más de 15 años de Carmen titulada «Brand New Year». El tema, escrito y grabado en noviembre/diciembre de 2013 en Ohio y Los Ángeles, fue publicado a través de una descarga gratuita por Legacy Recordings como «regalo de Navidad» especial, para anunciar la llegada en marzo de 2014 de una retrospectiva de 30 temas de su carrera titulada The Essential Eric Carmen.
El 25 de junio de 2019, The New York Times Magazine incluyó a Eric Carmen entre los cientos de artistas cuyo material fue supuestamente destruido en el incendio de Universal de 2008.