No es un secreto que esto fue escrito después de que George Harrison, quien era un gran fan, le dijera a John Bonham que el problema con Led Zeppelin es que no hacen baladas. Bonzo trajo la idea, y el resto de la banda trabajó con él para armarlo. Fue una de las pocas canciones de Zeppelin donde los cuatro miembros compartieron el crédito de compositor. Jimmy incluyó las dos primeras notas (no acordes como se conoce comúnmente) de la canción de los Beatles escrita por George, 'Something', en la introducción de 'The Rain Song'. Led Zeppelin interpretando The Rain Song en vivo en el Knebworth Festival, Stevenage, Reino Unido, en 1979