Oakley syntyi Chicagossa, IL:ssä, varttui Park Forestin esikaupungissa, IL:ssä, ja muutti sitten Floridaan, jossa hän liittyi Dickey Bettsin bändiin The Second Coming. Hän oli The Allman Brothers Bandin perustajajäsen vuonna 1969 yhdessä kitaristi Duane Allmanin, Gregg Allmanin, joka oli yhtyeen laulaja ja kosketinsoittaja, Dickey Bettsin toisena kitaristina sekä rumpalien Butch Trucks ja Jai Johanny ”Jaimoe” Johanson kanssa.
Allman Brothersin kanssa Oakley tunnettiin pitkistä, melodisista bassojuoksuistaan Allmanin ja Bettsin raivokkaiden kitarasoolojen ja jamien alla.
”In Memory of Elizabeth Reed”, ”Mountain Jam” ja ”Whipping Post” At Fillmore East -livealbumilta vangitsevat Oakleyn parhaimmillaan. Oakley oli myös yhtyeen jäsen, joka oli eniten mukana luomassa kotimaista yhtenäisyyttä yhtyeen laajennetun perheen kesken. Kun Duane Allman kuoli moottoripyöräonnettomuudessa, Oakley oli rumpali Butch Trucksin mukaan murtunut. Yhtye jatkoi kiertämistä, mutta Oakley ”menetti säihkyvyytensä” ja alkoi juoda raskaasti viimeiseksi jääneen elinvuotensa aikana.