Oakley s-a născut în Chicago, IL, a crescut în suburbia Park Forest, IL, apoi s-a mutat în Florida, unde s-a alăturat trupei lui Dickey Betts, The Second Coming. A fost membru fondator al trupei The Allman Brothers Band în 1969, alături de chitaristul Duane Allman, Gregg Allman, care era vocalistul și claviaturistul trupei, Dickey Betts la chitară co-lider, și toboșarii Butch Trucks și Jai Johanny „Jaimoe” Johanson.
În cadrul trupei Allman Brothers, Oakley a fost cunoscut pentru execuțiile sale lungi și melodice la bas pe sub solo-urile și jams de chitară furioase ale lui Allman și Betts.
„In Memory of Elizabeth Reed”, „Mountain Jam” și „Whipping Post” de pe albumul live At Fillmore East îl surprind pe Oakley în cea mai bună formă a sa. Oakley a fost, de asemenea, membrul trupei cel mai implicat în stabilirea unității domestice în cadrul familiei extinse a grupului. Când Duane Allman a murit într-un accident de motocicletă, Oakley a fost devastat, potrivit bateristului Butch Trucks. Trupa a continuat turneele, dar Oakley „și-a pierdut strălucirea” și a început să bea mult în timpul a ceea ce avea să devină ultimul său an de viață.
.