Oakley urodził się w Chicago, IL, wychował się na przedmieściach Park Forest, IL, następnie przeniósł się na Florydę, gdzie dołączył do zespołu Dickeya Bettsa, The Second Coming. Był członkiem-założycielem zespołu The Allman Brothers Band w 1969 roku, wraz z gitarzystą Duane Allmanem, Greggiem Allmanem, który był wokalistą i klawiszowcem zespołu, Dickeyem Bettsem na gitarze współliderem oraz perkusistami Butchem Trucksem i Jai Johanny „Jaimoe” Johansonem.
Z Allman Brothers, Oakley był znany ze swoich długich, melodyjnych przebiegów na basie pod wściekłymi solówkami gitarowymi Allmana i Bettsa i jams.
„In Memory of Elizabeth Reed,” „Mountain Jam” i „Whipping Post” z albumu live At Fillmore East uchwycić Oakley w jego najlepszych. Oakley był również członkiem zespołu najbardziej zaangażowanym w ustanowienie jedności domowej wśród rozszerzonej rodziny grupy. Kiedy Duane Allman zginął w wypadku motocyklowym, Oakley był zdruzgotany, jak twierdzi perkusista Butch Trucks. Zespół kontynuował trasy koncertowe, ale Oakley „stracił swój blask” i zaczął ostro pić podczas tego, co miało stać się jego ostatnim rokiem życia.