Не секрет, что это было написано после того, как Джордж Харрисон, который был большим фанатом, сказал Джону Бонэму, что проблема Led Zeppelin в том, что они не делают баллады. Бонзо предложил идею, и остальные участники группы работали с ним, чтобы собрать это вместе. Это была одна из немногих песен Zeppelin, где все четверо участников поделились авторскими правами. Джимми включил первые две ноты (не аккорды, как это широко известно) песни Beatles, написанной Джорджем, 'Something' в интро к 'The Rain Song'. Led Zeppelin исполняет The Rain Song вживую на Knebworth Festival, Стивенидж, Великобритания, в 1979 году.