Os seus dois primeiros solteiros individuais foram batidas no gráfico em 1976. Ambos foram construídos em torno de temas por Sergei Rachmaninoff. O primeiro destes singles, “All by Myself” – baseado no Concerto para Piano No. 2 de Rachmaninoff – teve o número 2 nos Estados Unidos, e o número 12 no Reino Unido, onde foi o seu único sucesso de grafismo. Vendeu mais de um milhão de cópias, e recebeu um disco de ouro do R.I.A.A. em abril de 1976. O single seguinte, “Never Gonna Fall in Love Again” – baseado no tema principal do movimento lento da Sinfonia nº 2 de Rachmaninoff – alcançou o número 11 no Hot 100 da Billboard, e atingiu o número um na Carta Contemporânea Adulto Americana, assim como o número nove na Carta Cash Box. No Reino Unido, a Dana levou-o para o número 31. Essas músicas foram incluídas em seu álbum de estréia em 1975, juntamente com “That’s Rock and Roll”, um single número 3 para o cantor Shaun Cassidy. O álbum fez o número 21 na tabela de álbuns da Billboard e foi certificado Gold em 1977 por vendas de mais de 500.000 cópias.
O segundo álbum do Carmen, Boats Against the Current, saiu no verão de 1977 e recebeu críticas mistas. Contou com jogadores de reserva como Burton Cummings, Andrew Gold, Bruce Johnston e Nigel Olsson. O álbum passou 13 semanas na tabela de álbuns da Billboard, atingindo o pico de 45. Também produziu o single Top 20 “She Did It”, mas a faixa título só conseguiu raspar a parte de baixo da tabela. A faixa-título foi posteriormente coberta por Olivia Newton-John em seu álbum Totally Hot. Um terceiro single retirado do álbum, “Marathon Man”, se tornou seu primeiro single solo a não bater na chart Billboard Hot 100. No entanto, Shaun Cassidy novamente chegou ao Top 10 em 1978 com “Hey Deanie” de Carmen. Durante várias semanas no outono de 1977, Carmen teve três composições no Billboard Hot 100, dois grandes sucessos de Cassidy e o próprio “She Did It” de Carmen.
Carmen, seguido por mais dois álbuns. Apesar do declínio da sorte nos gráficos, o single “Change of Heart” entrou no Pop Top 20 e chegou ao número 6 no AC no final de 1978, com este hit também sendo coberto por Samantha Sang em seu LP Emotion. Mas em 1980, após o lançamento do álbum “Tonight You’re Mine” e do single “It Hurts Too Much” (número 75 Billboard Top 100; número 3 África do Sul, junho de 1980) ele se retirou temporariamente da indústria musical.
Quatro anos depois, depois de Mike Reno e Ann Wilson encabeçarem as paradas (Pop número 7; Adult Contemporary número 1) com a balada “Almost Paradise” (o tema de amor do filme Footloose), Carmen ressurgiu na Geffen Records em 1985 com um segundo álbum auto-intitulado e um grande sucesso de retorno “I Wanna Hearts It from Your Lips”. O single atingiu o Adult Contemporary Top 10, assim como o Pop Top 40. O single seguinte, “I’m Through with Love”, também escalou a Billboard Hot 100 e chegou ao Top 20 da tabela do Adult Contemporary. Outra faixa do álbum, “Maybe My Baby”, mais tarde se tornou um sucesso Country para Louise Mandrell. “I Wanna Hear It from Your Lips” também foi um sucesso Country para Louise Mandrell.
Em 1987, a contribuição de Carmen para o sucesso do filme Dirty Dancing, “Hungry Eyes”, atingiu o número 2 da tabela Adult Contemporary e também o retornou ao Top 10 do Pop. “Reason To Try”, mais uma contribuição para o álbum de compilação One Moment in Time de músicas gravadas para os Jogos Olímpicos de Verão de Seul, manteve o perfil de Carmen em 1988, durante o qual o nostálgico “Make Me Lose Control” também o devolveu à posição de número 1 na tabela Adult Contemporary – onde permaneceu por três semanas seguidas – assim como ao número 3 na Hot 100 da Billboard. Esta se tornou sua música mais alta desde “All By Myself”. Ambas, juntamente com “Hungry Eyes”, tendo nas últimas duas décadas se tornado a favorita clássica da rádio pop.
O ano 2000 viu o lançamento estadual de I Was Born to Love You, que tinha sido lançado em 1998 apenas no Japão como Winter Dreams. Carmen escapou do uso de uma banda na gravação, tocando a maioria dos instrumentos e programando ele mesmo as partes da bateria. O álbum não encontrou um grande público, mas Carmen continuou a desfrutar de sucesso colocando músicas com outros artistas ao longo dos anos. Em 2000 ele também fez a primeira turnê em anos com Ringo Starr e sua banda All Starr interpretando “Hungry Eyes”, “Go All The Way” e “All By Myself”.
Em 24 de dezembro de 2013, foi lançada a primeira nova gravação em mais de 15 anos de Carmen, intitulada “Brand New Year”. A faixa, escrita e gravada em novembro/dezembro de 2013 em Ohio e Los Angeles, foi emitida através de um download gratuito pela Legacy Recordings como um “presente de Natal” especial, para anunciar a chegada, em março de 2014, de uma retrospectiva da carreira de 30 faixas intitulada The Essential Eric Carmen..
Em 25 de junho de 2019, o The New York Times Magazine listou Eric Carmen entre centenas de artistas cujo material foi alegadamente destruído no incêndio de 2008 da Universal.