Hughes fue inspirado por Clarence "Gatemouth" Brown y Johnny "Guitar" Watson - "cualquier persona que tuviera fuego en su alma y sentimiento por los blues". Su primera banda fue The Dukes Of Rhythm en la década de 1950, que también incluyó a su amigo Johnny Copeland. Trabajó también con Little Richard y Bobby Bland's Band en la década de 1960.
Realizo una gira en Europa a partir de la década de 1980 y puesto en libertad Texas Guitar Slinger para la etiqueta holandesa Registros Double Trouble en 1986. El álbum incluyó una pista en vivo con Hughes y el guitarrista Pete Mayes, y fue lanzado por la etiqueta Black Top Registros en 1989.
Después de medio siglo de tocar blues, Joe "Guitar" Hughes falleció el 20 de mayo, 2003, después de sufrir un ataque al corazón.
