Seu primeiro grande sucesso foi “With a Little Help from My Friends”, uma versão da música dos Beatles gravada com o guitarrista Jimmy Page. No mesmo ano ele apareceu no Festival de Woodstock, com um show consagrador, sobre o qual ele fala no livro Woodstock, do jornalista [Pete Fornatale] : “Tivemos uma reação emocionante quando tocamos With a Little Help from My Friends. Foi como um sentido maravilhoso de comunicação. Era o último número do show, eu lembro, mas senti que finalmente tínhamos nos comunicado com alguém”.
Coker ainda conseguiu mais alguns hits com “She Came Through the Bathroom Window” (outra versão de uma música dos Beatles), “Cry Me a River” e “Feelin Alright”. Em 1970 sua versão ao vivo do sucesso “The Letter” dos Box Tops, lançado na compilação Mad Dogs & Englishmen tornou-se sua primeira canção a entrar no Top Ten americano.
Nos shows Cocker exibia uma intensidade física incrível enquanto cantava, e sua presença no palco era freqüentemente parodiada por John Belushi (houve até mesmo um dueto improvável quando Joe foi convidado especial do Saturday Night Live.)
No começo dos anos 70 ele teve problemas com drogas e álcool que acabaram atrapalhando sua carreira. Ele conseguiu, entretanto, se livrar e retornar nos anos 80, conseguindo grande sucesso até os anos 90 com as canções “Up Where We Belong”, “You Are So Beautiful”, “When The Night Comes” e “Unchain My Heart”, tema da novela brasileira Sassaricando. É conhecido no Brasil por cantar o tema de abertura da série Anos Incríveis, exibido pela TV Cultura, TV Bandeirantes, Multishow e Rede 21, até voltar à TV Cultura. Em 2002 sua regravação da musica Never Tear us apart da banda INXS foi tema de sucesso da novela Coração de Estudante. Em 2007, Joe fez uma participação especial em Across the Universe, longa-metragem musical de Julie Taymor, interpretando a música Come Together, dos Beatles. Foto LePress