In januari 1994 beginnen twee studenten van Stanford met een site die een soort gouden gids van het internet moet worden.

Jerry's Guide to the World Wide Web . Zo heet de website die David Filo en Jerry Yang vanuit hun studentenkamer op de campus van Stanford op poten zetten. Op de site proberen ze een soort overzicht te geven van alle sites die er op dat moment op het prille internet te vinden zijn. In april van dat jaar al wordt de naam veranderd naar het iets vlotter bekkende Yahoo. In die eerste maanden draait de complete website op de twee pc's van Yang en Filo, die op hun beurt verbonden zijn met het internet via het netwerk van Stanford.

Tegen eind van 1994 (het internet staat nog altijd in zijn kinderschoenen) heeft Yahoo al meer dan een miljoen bezoekers over de virtuele vloer gekregen. Filo en Yang realiseren zich dat ze goud in handen hebben en op 2 maart 1995 wordt Yahoo een echt bedrijf. Nauwelijks een jaar later, op 12 april 1996, stapt Yahoo naar de beurs.

Zoals zoveel sites uit die tijd (Lycos, Excite) probeert Yahoo zichzelf zo snel mogelijk te transformeren tot een webportaal, een site waar je voor al je internetdiensten kunt aankloppen. Meestal gebeurt dat met software van bedrijven die door Yahoo werden overgekocht.

Zo is Yahoo Mail bijvoorbeeld helemaal gebaseerd op het al lang vergeten Rocketmail van het door Yahoo overgenomen Four11.com. Op dezelfde manier werd Classicgames.com omgevormd tot Yahoo Games.

In de eerste helft van het nieuwe millennium is Yahoo een van de weinige grote bedrijven die het uiteenspatten van de internetbubbel weet te overleven, maar de beurswaarde van het bedrijf is in die periode nog maar een schim van wat ze ooit was. Op het hoogtepunt van de koers (op 3 januari 2000) sluit Yahoo af aan 118,75 dollar. Twee jaar later, op 3 januari 2002, is het aandeel nog iets meer dan 9,5 dollar waard.

In die jaren sluit Yahoo heel wat partnerships met telecombedrijven en internetproviders om breedbanddiensten op te zetten en zo de concurrentie aan te gaan met het toen dominante America Online. Onder meer met Verizon, British Telecom en SBC worden er contracten afgesloten.

Na 2005 richt het bedrijf zich vooral op acquisities van hippe web 2.0-bedrijven, sites waarbij de surfer zelf voor de inhoud zorgt. Bekende namen als Flickr, Delicious, Blo.gs en Upcoming.org worden zo een deel van de grote Yahoo-familie.