Nato a Laurens, nella Carolina del Sud, Gary Davis crebbe in una fattoria con i suoi nonni. A 7 anni, suonava l’armonica, il banjo e la chitarra e, adolescente, suonava nei gruppi locali durante balli e pic nic. Cominciò a perdere la vista fin da piccolo e, aggravandosi il suo stato, passò un breve periodo