Não é segredo que isso foi escrito depois que George Harrison, que era um grande fã, disse a John Bonham que o problema com o Led Zeppelin é que eles não fazem baladas. Bonzo trouxe a ideia, e o resto da banda trabalhou com ele para montá-la. Foi uma das poucas músicas do Zeppelin em que os quatro membros compartilharam o crédito de compositor. Jimmy incluiu as duas primeiras notas (não acordes, como é amplamente conhecido) da música dos Beatles escrita por George, 'Something', na introdução de 'The Rain Song'. Led Zeppelin apresentando The Rain Song ao vivo no Knebworth Festival, Stevenage, Reino Unido, em 1979