Louis Armstrong's platen met zijn Hot Five en Hot Seven worden gezien als de laatste belangrijke opnamen door kleine bands. De kleinere jazzgroepen maakten plaats voor de  populairdere Big Bands. In eerste instantie was het vooral de blanke muzikant Paul Whiteman die het geluid van de band en daarmee de jazz veranderde. De voor de New Orleanssound zo karakteristieke solo-improvisatie werd daarbij vervangen door vooraf bedachte harmonieuze arrangementen. In 1920 had Whiteman een miljoenensucces met Wang Wang Blues, gevolgd door even succesvolle nummers als Whispering en Japanese Sandman. Door dit succes werd Paul Whiteman de King of Jazz genoemd.
De eerste bekende big band van zwarte muzikanten was de band van FLetcher Henderson. Met de komst van tenorsaxofonist Coleman Hawkins, klarinetspeler Buster Bailey en trombonespeler Charlie Green kreeg zijn band een zo eigen geluid dat dat later  de basis werd voor de swing. Naast Henderson werd Duke Ellington (foto links) steeds populairder. Zijn gedreven artistieke geluid zat vol gecomponeerde elementen. Ellingtons sterkte was dat hij speciaal voor de muzikanten in zijn band schreef. Daarin  zaten uitstekende muzikanten als Sonny Greeg (slagwerk), Bubber Miley (trompet), Tricky Sam Nanton (trombone) en Harry Carney (baritonsax). Het is dan niet vreemd dat hij al snel een van de beroemdere, zo niet het beroemdste orkest van die tijd had.
In navolging van de anderen stapte ook King Oliver over naar een grotere bezetting. In zijn band zitten dan mensen als Kid Ory en Barney Bigard (klarinet). Een aanbod om te komen werken in The Cotton Club wees hij af en daarmee eigenlijk zijn succesvolle toekomst. Hij bleef weliswaar muziek maken, maar verdween steeds meer in de marges.
Elders in het land, in Kansas City, liet Count Basie een heel eigen geluid horen. Zijn muziek was meer op de blues gebaseerd en wasopgebouwd uit simpelere motieven. Door de grotere herkenbaarheid daarvan werd zijn orkest razend populair.
Omdat de bands zo populair waren groeiden ze uit tot orkesten van soms wel 26 mensen (bijvoorbeeld de Paul Whitemanband in 1928-foto onder).

De bigbandsound had een grote impact op het publiek. Meest bijzondere aan het geluid was dat er niet veelvuldig gesoleerd werd als tot dan in de New Orleanssound, maar dat hele stukken vooraf vastlagen. Die stukken dienden als basis voor kleine stukken muziek die steeds weer herhaald werden, de zogenaamde rifs. Ze werden niet alleen herhaald door instrumentgroepen, maar ook als het ware heen en weer geslingerd tussen verschillende orkest groepen als de saxofonisten en het koper. Het klonk net als een vraag en antwoordspel en werd dan ook call and respons genoemd. Het zo typische geluid ontstond door grote bezettingen. Een band kon soms wel bestaan uit vier trompetten, vier trombones en vijf saxen, waarbij gedubbeld  werd op klarinetten of fluit. De ritmegroep bestond uit bijvoorbeeld contrabas, gitaar, piano en een zeer uitgebreid drumstel. Dat laatste had ook wel een showelement, maar een drumstel met pauken en extra percussie was geen uitzondering.

Roseland Ballroom in de jaren 20; groot en met een dubbel podium

Het orkest van Fletcher Henderson kan als voorloper beschouwd worden voor de swingorkesten. Het eerste grote succes voor de swing kwam uit Chicago. Klarinettist Benny Goodman bracht in zijn muziek de improvisatie terug in de bigbandsound, waardoor zijn muziek avontuurlijker werd. Hij was veelvuldig op de radio te horen, met name in het programma Camel Caravan. Het was zo'n succesvol programma dat mensen er voor thuis bleven! Goodman's doorbraak kwam in 1935 toen hij in Los Angeles, in de Palomar Ballroom, moest spelen. Hij wist niet zeker of het publiek in Californië klaar was voor zijn sound en speelde daarom algemeen bekende stukken;  het publiek reageerde daar nauwelijks op. Nadat hij  zijn eigen werk liet horen werd het publiek zo enthousiast dat mensen in de gangpaden gingen dansen. Door zijn succes werd hij de King of Swing genoemd. Opmerkelijk is dat hij beroemd werd door arrangementen van Fletcher Henderson. Diens bewerking van Jelly Roll Morton's  King Porter Stomp in de uitvoering van Benny Goodman werd een van de best verkochte nummers uit deze periode. Andere bekende swingbands waren die van Count Basie, Duke Ellington, Woody Herman, Artie Shaw en Chick Webb. Diens band speelde voornamelijk in de Savoy Ballroom in New York. De zangeres in zijn band was nog een teenager: Ella Fitzgerald. Tijdens de Tweede Wereldoorlog werd vooral de band van Glenn Miller mateloos populair. Hij speelde vooral eenvoudige, pakkende melodiëen. Na de oorlog was het afgelopen met de bigbands. Enerzijds door een opnameban (bedoeld om via auteursrechten geld te vangen voor radio-uitzendingen), anderzijds door de overvloed aan bands met eenzelfde geluid en de afname in creative impulsen daardoor.