No es ningún secreto que esto fue escrito después de que George Harrison, que era un gran fan, le dijera a John Bonham que el problema con Led Zeppelin es que no hacen baladas. Bonzo trajo la idea y el resto de la banda trabajó con él para armarla. Fue una de las pocas canciones de Zeppelin en las que los cuatro miembros compartieron el crédito de compositor. Jimmy incluyó las dos primeras notas (no acordes como se conoce ampliamente) de la canción de los Beatles escrita por George 'Something' en la introducción de 'The Rain Song'. Led Zeppelin interpretando The Rain Song en vivo en Festival de Knebworth, Stevenage, Reino Unido, en 1979