Tot i ser qualificat com acompanyant, bàsicament per les característiques del seu instrument, és evident que posseeix una excepcional tècnica demostrada arreu del món. És un brillant intèrpret melòdic i rítmic tant amb el cel·lo com el baix, caminant fàcilment de les notes més suaus a les més plenes, dels prominents sons als efectes més inaudits. Els seus 'solos' són tant impressionants musicalment, com impressionants són els moviments dels seus dits fregant les cordes. Carter s’apropa a la interpretació clàssica immers en la música de Jazz, actuant amb orquestres simfòniques de tot el món. És un intèrpret acústic exclusivament, només va tocar música elèctrica durant un breu període de temps a finals de la dècada dels seixanta i inicis dels setanta.
S'inicià amb el violoncel als deu anys, pràctica que passà a segon terme quan la seva família es trasllada a Detroit on Carter pateix problemes d'estereotips per la seva raça, fet que va provocar que es passes al contrabaix. Va tocar amb la Eastman School Philarmonic Orquestra, i es va graduar al 1959.
Es trasllada a Nova York i actua amb el quintet de Chico Hamilton al costat d'Eric Dolphy, compaginant estudis a la Manhattan School of Music on va obtenir el seu graduat de master el 1961. Hamilton torna a la Costa Oest el 1960, i Ron Carter decideix quedar-se a Nova York on inicia una època molt fructífera. Enregistra els seus primers àlbums amb Eric Dolphy i Don Ellis; treballa amb Randy Weston i Thelonious Monk, mentre actua i enregistra amb Jaki Byard a principis dels seixanta. Carter també fa gires i enregistraments amb Bobby Timmon’s Trio, col·laboracions amb Cannonball Adderley i és membre del grup d'Art Farmer el 1963, just abans d'entrar a formar part de la banda de Miles Davis. Carter figura a les files del gran trompeta fins el 1968, fent aparició a tots els àlbums crucials de mitjans dels seixanta al costat de Herbie Hancock i Tony Williams: una rítmica perfecte per investigar els nous sons i melodies que Miles volia aconseguir. Aquesta va ser la millor manera de convertir-se en un dels més grans i prolífers baixistes de la historia del Jazz, mestria que es pot escoltar a més de 1000 discs enregistrats per segells com Atlantic, Timeless, EmArgy, Galaxy, Elektra o Concord, eventualment ha enregistrat per Blue Note incloent-hi, 'Tha Bass and I', 'So What?' o l’últim 'When Skies Are Grey', editat l’any 2001.
La llista de músics que l'han acompanyat és tant àmplia que és impossible de nomenar acuradament. Ha estat membre del New York Jazz Sextet, el New York Jazz Quartet, V.O.S.P. Tour, Milestone Jazztars, a duo amb Cedar Walton i Jim Hall o en un dels grups que apareixien al film 'Round Midnight' (1986). Des del 1972 ha liderat els seus grups en varis intervals, utilitzant freqüentment un segon baixista per tenir opció d'investigació en els seus 'solos', mentre l’altre baixista pren cura de la línia rítmica dels temes. Carter també ha estat inventor dels seus propis instruments, com per exemple el 'Piccolo Bass' i ha contribuït amb arranjaments propis per tercers.
