1935 studierte Miller in New York bei Professor Joseph Schillinger Komposition und wurde im gleichen Jahr de facto Leiter von "Ray Noble's American Band". Nebenher arrangierte er für Glenn Gray und spielte bei anderen populären Orchester jener Jahre wie Red Nichols, Smith Ballew oder die Dorsey Brothers. 1937 entschloss er sich ein eigenes Orchester zu gründen, welches sich jedoch kurze Zeit später wieder wegen finanzieller Schwierigkeiten auflöste; 1938 unternahm er einen zweiten Anlauf und gründete die "Glenn-Miller-Band".
Mit seinem unverwechselbaren Sound, der von vier Saxophonen und einer Klarinette geprägt war, beeinflusste diese Formation maßgeblich den Swing und förderte dessen Popularisierung. Anfangs war Miller nicht sehr erfolgreich mit seiner Band, doch im März 1939 erhielt er sein erstes bedeutendes Engagement im berühmten New Yorker "Glen Island Casino" sowie erste Auftritte bei Live-Übertragungen im Radio und mit der legendären "Moonlight Serenade" gelang ihm der internationale Durchbruch. Die Platte wurde ein Millionen-Seller und erreichte den 3. Platz in der amerikanischen Hitparade; kurz darauf feierte er mit "In the Mood" seinen größten Erfolg. 1940 folgten weitere Hits wie "Tuxedo Junction" oder "Pennsylvania 6-5000".

Glenn Miller wurde mit seinen Melodien zu einer nationalen Berühmtheit in den USA und seine Band zählte zu den erfolgreichsten jener Zeit. 1941 produzierte die 20th Century Fox mit dem "Glenn Miller Orchestra" den Film "Sun Valley Serenade", gefolgt von "Orchestra Wives" im Jahre 1942. Titel aus diesen Filmen wie "Chattanooga Choo Choo", "Serenade In Blue", "At Last", "I've Got A Girl In Kalamazoo" wurden weltberühmt, und "Chattanooga Choo Choo" erhielt die erste Goldene Schallplatte überhaupt.
Im Herbst des gleichen Jahres löste Glenn Miller seine Band auf, da er sich freiwillig zum Dienst bei der "US Air Force" gemeldet hatte, und leitete nun dort das "Army Air Force Orchestra".
Nach mehr als einem Jahr Truppenbetreuung in den USA fuhr er mit der Band im Juni 1944 nach Europa und war unter anderem in Großbritannien in zahlreichen Radiosendungen zu hören. Am 15. Dezember 1944 verließ Glenn Miller gemeinsam mit Lt. Col. Norman F. Russel und dem Piloten John R. S. Morgan an Bord einer kleinen Maschine die Royal-Air-Force-Basis nahe London, um nach Paris zu fliegen, wo er die Vorbereitungen für ein Engagement im "Olympia" treffen wollte. Nach dem Start verschwand das Flugzeug und wurde nie mehr gesehen, die Männer als vermisst gemeldet.
Die Suche nach dem Flugzeug blieb erfolglos, offizielle Army-Quellen gaben Eisbildungen auf den Tragflächen als Grund für einen wahrscheinlichen Absturz in den Ärmelkanal an und seither ranken sich unzählige Gerüchte um das Verschwinden Glenn Millers. Erst kürzlich gab der britische Fernsehsender "Channel 4" mit einer Dokumentation den Versuch einer Erklärung. Der Sender stützte sich im Wesentlichen auf die Aussagen des inzwischen verstorbenen Briten Fred Shaw. Dieser nahm vor einigen Jahren kurz vor seinem Tod ein Amateurvideo auf, in dem er berichtete, an jenem 15. Dezember 1944 sei Glenn Miller im Bombenhagel britischer Kriegsflugzeuge gestorben.
Das Ableben Glenn Millers rief bei allen Musikliebhabern weltweit tiefe Bestürzung hervor und durch die tragischen Umstände seines Todes wuchs die Glenn-Miller-Legende – die Faszination seiner Musik blieb und begeisterte weiter die Massen in allen Altersstufen. Immer wieder wurden seine Platten neu aufgelegt werden, seine Filme wurden von den TV-Stationen ausgestrahlt und die Legende wurde zum Mythos. Seine Band war eine der populärsten und bekanntesten der Swing-Ära, seine Musik eine sanfte Mischung aus Swing, Jazz und Improvisation.
Der legendäre Bandleader war seit dem 6. Oktober 1928 mit seine Jugendliebe Helen Burger verheiratet.

1953 wurde das Leben von Glenn Miller unter dem Titel "Die Glenn-Miller-Story"¹⁾ mit James Steward in der Titeltrolle verfilmt. Schauspieler wie Louis Armstrong, June Allyson oder Henry Morgan sowie authentische Interpretationen sämtlicher Evergreens im unverwechselbaren Glenn-Miller-Sound verhalfen dem Film zu einem riesigen Erfolg und setzten der Swing-Legende ein Denkmal.