John Towner Williams 1932-ben, New Yorkban született. Édesapja, Johnny Williams dzsesszdobos volt a 30-as években. Bár a család a nyugati partra költözött, John a katonai szolgálat után (az Amerikai Légierők zenekarának vezényelt) 1955-től mégis a New York-i Juilliardban kezdte meg felsőfokú zenei tanulmányait, közben dzsesszzongoristaként dolgozott klubokban. Ebben az időben kezdett tévéműsorokhoz zenéket írni, s így hamar visszakerült Los Angelesbe.
Első filmzenéjét a Daddy-O című 1958-as filmhez írta, a 60-as években pedig már olyan alkotókkal dolgozott együtt, mint William Wyler (Hogyan kell egymilliót lopni / How To Steal a Million, 1966), Gene Kelly (Útmutató házas férfiaknak / A Guide For Married Men, 1967) vagy Mark Robson, akinek a Babák völgye (Valley of the Dolls, 1967) című filmjében való közreműködéséért megkapta első Oscar-jelölését. Ezt követően szinte nincs olyan év, amelyben az amerikai filmakadémia ne jelölte volna legalább egyszer a díjra, hamarosan már önmagával versenyzett.
Ő szerezte a Gilligan's Island (1964) és a zenéjéért Emmyvel díjazott Heidi (1968), valamint a Jane Eyre (1970) zenéjét is, de az igazi sikert a 70-es évek hozták el számára: 1971-ben megkapta első Oscar-díját a Hegedűs a háztetőn adaptált filmzenéjéért.
Karrierjének legnagyobb fordulópontja 1974, amikor a Sugarlandi hajtóvadászatban (The Sugarland Express) először dolgozott együtt a fiatal Steven Spielberggel: a következő öt évtizedben Williams a rendező szinte minden alkotásában feladatot kapott. Az együttműködés eredményei olyan klasszikusok, mint A cápa (Jaws, 1975), amelyben Williams megteremtette a horrorműfaj egyik legnagyobb hatású zenei alaptémáját, vagy később az E.T. – a földönkívüli (E.T. – the Extra-Terrestrial, 1982) és a Schindler listája (Schindler’s List, 1993); Williams mindháromért Oscar-díjat kapott. De Spielberg két Jurassic Park-filmjéhez (1993 és 1997) is ő szerezte a zenét.
Spielbergen keresztül kapcsolatba került George Lucasszal, akivel szintén grandiózus vállalkozásba fogott. Az American Film Institute a 100 Év Filmzenéje című listája első helyére tette Williams Csillagok háborújához szerzett, azóta kultikussá vált filmzenéjét. Spielberg és Lucas közös kalandfilmjében is részt vett: Az elveszett frigyláda fosztogatóihoz (Raiders of the Lost Ark, 1981) Williams az Indiana Jones-filmek nem kevésbé ikonikus zenéjét szerezte.
A 90-es években kevesebb filmben vállalt feladatot, de hasonlóan népszerű zenéket írt pl. Chris Columbus sikerfilmjéhez, a Reszkessetek, betörőkhöz (Home Alone, 1990) és annak folytatásához. Az ezredforduló után a rendezővel egy másik nagyszabású projektben is részt vett. Bár Columbushoz hasonlóan Williams is elhagyta három film után a Harry Potter-univerzumot, zenei motívumait a későbbi filmek továbbvitték.
John Williams zenekarvezetéssel is foglalkozott, 1980 és 1993 között a Boston Pops Orchestra 19. karmestere volt, több versenyművet írt különböző hangszerekre, szimfóniát is komponált. Sorozatok betétdalain kívül a tévé felkérésére ő szerezte az NBC csatorna Sunday Night Football című műsorának spotját, és négy olimpia hivatalos zenéjét is (az 1984-es, 1986-os és 1966-os nyári olimpiai játékok és a 2002-es téli olimpia zenéjét). A családja állandó kapcsolatban maradt a zenével, fia, Joseph az amerikai Toto zenekar énekese.
Az írás a Filmtett gyakornoki programjában készült.