Led Zeppelin se formó a finales de 1968 cuando Jimmy Page, que ya tenía cierta reputación por su labor como músico de estudio y por ser el último guitarrista de la bande The Yardbirds, buscaba nuevos músicos para su nuevo proyecto, The New Yardbirds (nombre que provocaba ciertos problemas legales), constituido a partir de la disolución de The Yardbirds. El nombre de la banda surgió a raíz de un mal chiste de Keith Moon,(en una sesión de grabación de un tema de Jeff Beck en el que participaba Jimmy Page, y el propio Keith Moon), cuando dijo que la banda fracasaría y caería "como un Zeppelin de Plomo. El nombre surgió en un principio como Lead Zeppelin, pero Jimmy Page decidio suprimir la 'a' ya que si the Beatles podían incluir una ellos podían quitarla.The Yardbirds se separó en 1968, y Page y el bajista de la banda, Chris Dreja, comenzaron a buscar miembros para una nueva formación. En agosto de 1968, Page, Dreja y Peter Grant viajaron a Birminhgam para ver la banda de Robert Plant. Plant aceptó la oferta de Page para entrar en la banda en una reunión en la casa de Page. Plant tenía un amigo que tocaba la batería John Bonham que también se uniría al grupo.Poco después de la llegada de Bonham, Dreja abandonó la música para convertirse en fotógrafo, por lo que los tres componentes de la banda contrataron a john Paul Jones como bajista, un conocido músico de sesión.Lo primero que hicieron fue una gira por escandinavia bajo el nombre de The New Yardbirds por un contrato que tenia The Yardbirds.Ya bajo el nombre de "Led Zeppelin" su primer disco fue publicado bajo el nombre de Led Zeppelin . Fue grabado en apenas una semana (grabado, mezclado y editado) en los estudios Olympic de Londres en octubre de 1968, empleando apenas 30 horas de estudio y sin casi horas de ensayo. Tras embarcarse en su primera gira norteamericana y gracias a las explosivas actuaciones de la banda, el álbum tuvo un éxito inmenso en crítica y público, sobre todo en Estados Unidos. La prensa calificó al álbum como heavy metal, algo con lo que la banda no estaba de acuerdo. Robert Plant declaró que "es injusto calificar a la banda como heavy metal, ya que un tercio de nuestra música es acústica".
Tras la gira americana grabaron su segundo trabajo, que fue publicado bajo el nombre de Led Zeppelin II. Este álbum los consagró definitivamente, llegando al número 1 en las listas británica y estadounidense y permaneciendo allí durante siete semanas.
En 1970 publica su tercer disco , Led Zeppelin III,
y despues de duras críticas sacaron un cuarto album sin título en portada. Posteriormente fue conocido como Led Zeppelin IV que incluía Starway To Heaven. El solo de guitarra de Stairway To Heaven fue elegido por los lectores de la revista Guitar World Magazine como "el mejor solo de todos los tiempos". Despues de cuatro discos más (Houses of the Holy, Swan Song, Presence y In Through the out door) el hijo de Robert Plant murió en un accidente este hecho dejó al grupo tocado y poco despues la muerte del batería John Bonham por coma etílico causó la disolución del grupo.
Años despues tras varios proyectos por separado Robert Plant y Jimmy Page grabaron un disco acustico.En el año 2007 se reunieron,con el hijo de John Bonham a la batería (que había colaborado con Jimmy Page en algun proyecto), para un concierto en Londres.