Até ao Inverno de 1923-24 Abrahams treinou assiduamente sob o olhar do brilhante treinador Sam Mussabini – o seu relacionamento foi um dos muitos temas fascinantes do filme premiado Chariots of Fire. A recompensa por um inverno de trabalho duro veio no início de 1924, quando Abrahams correu 9,6 segundos por 100 jardas e novamente melhorou o recorde de salto em distância em inglês para 24-2½ (7,38). Após um intervalo de duas semanas, ele ganhou os 100 jardas e o salto em distância no Campeonato AAA e depois foi para Paris para os Jogos Olímpicos. Após um quase desastre no início das semifinais dos 100 metros, ele correu magnificamente na final para vencer o americano Jackson Scholz por dois metros. Seu tempo foi dado oficialmente como 10,6 segundos, embora o cronômetro elétrico não tenha mostrado mais do que 10,52 segundos. Em Paris, Abrahams também chegou à final dos 200 metros e foi membro da equipe de revezamento que correu progressivamente mais rápido em cada saída antes de conquistar as medalhas de prata com um tempo de 41,2 segundos, que deveria permanecer um recorde britânico por 28 anos. Não houve cerimônias de apresentação nos Jogos Olímpicos de Paris e um mês após os Jogos, Abraão recebeu suas medalhas pelo correio; mas como as autoridades francesas não haviam colocado selos suficientes no pacote, ele mesmo teve que pagar o excesso positivo.
Abrahams certamente não havia cumprido seu potencial, particularmente como um saltador longo, quando uma grave lesão na perna pôs fim à sua carreira ativa em maio de 1925, mas ele passou a prestar um serviço insuperável ao esporte como administrador, jornalista, radialista, historiador e estatístico. Ele foi correspondente atlético do Sunday Times de 1925 a 1967, membro fundador da Association of Track & Field Statisticians, e por muitos anos comentarista da rádio BBC. Ele tornou-se membro do Comitê Geral da AAA em 1926, sendo nomeado Secretário em 1931 e Presidente em 1976. Ele foi o primeiro Secretário do Conselho Internacional, que foi o precursor do British Amateur Athletic Board, e em 1963 foi nomeado Presidente do BAAB depois de servir como Tesoureiro por 21 anos. Abrahams não era universalmente popular dentro do esporte e sua maneira às vezes brusca tornou-se bastante mais pronunciada em seus últimos anos, mas muitas pessoas podem testemunhar o lado mais gentil e mais generoso do seu caráter. Em algum lugar dentro dos diferentes aspectos de sua personalidade provavelmente está a resposta à pergunta sobre por que ele nunca recebeu nenhum reconhecimento oficial pela enorme quantidade de trabalho voluntário que ele empreendeu em prol do esporte. Ele foi, no entanto, premiado pela CBE em 1957 como Secretário da Comissão dos Parques Nacionais, à qual aderiu depois de ter exercido como advogado durante 13 anos.