Son orchestre était un des plus réputés de l'histoire du jazz avec celui de Count Basie, comprenant des musiciens qui étaient parfois considérés, tout autant que lui, comme des géants de cette musique. Quelques-uns de ces musiciens sont restés dans son orchestre pendant des décennies. Certains d'entre eux étaient déjà dignes d'intérêt par eux-mêmes, mais c'est surtout Ellington qui les transformait. Il avait l'habitude de composer spécifiquement pour certains de ses musiciens en tenant compte de leurs points forts, comme Jeep's Blues pour Johnny Hodges, Concerto for Cootie (« Do Nothing Till You Hear from Me ») pour Cootie Williams et The Mooche pour Joe Nanton. Il a aussi enregistré des morceaux composés par les membres de son orchestre, comme Caravan et Perdido de Juan Tizol. Après 1941, il collabora fréquemment avec le compositeur et arrangeur Billy Strayhorn qu'il appelait son « alter ego ». Il a laissé de très nombreux « standards ».
Duke Ellington, une des personnalités noires américaines les plus célèbres du xxe siècle, a enregistré pour un grand nombre de maisons de disques américaines et a joué dans plusieurs films. Avec son orchestre, il a fait des tournées régulières aux États-Unis et en Europe depuis la création de l'orchestre en 1923 jusqu'à sa mort en 1974.
Avant de s’intéresser à la musique, le jeune Edward est un fanatique de baseball. Cependant, après un fâcheux incident impliquant une batte de baseball et son visage, sa mère, Daisy Kennedy, croit préférable de l’inscrire à des leçons de piano. C’est alors que l’artiste commence, à l’âge de sept ans, une carrière qui va devenir « historique ». Malgré les efforts de son professeur, Mrs. Clinkscales, Edward met un long moment avant de s’investir dans l’art, ses intérêts étant encore « sportifs ».
Comme il le raconte dans l’une de ses biographies, il se souvient avoir manqué plus de cours de musique qu’il n’en prenait, trop excité à l’idée d’aller jouer avec ses amis de l’autre côté de la rue. Parfois, raconte-t-il, le président Theodore Roosevelt, sur son cheval, venait les regarder jouer, seul, sans aucun garde du corps.
Washington étant sa ville natale, il est vital pour Edward de suivre toutes les parties de son équipe, les Senators, et c’est en se faisant engager comme vendeur au stade qu’il y réussit. « Peanuts, popcorn, chewing gum, candy, cigars, cigarettes and score cards » se souvient-il. Probablement trop absorbé par les matches, il ne se souvient pas avoir vendu quoi que ce soit. Toutefois, le désir de jouer dupiano grandit peu à peu dans son esprit, probablement influencé par ses parents, tous deux pianistes. Son père, J.E. Ellington, est un homme bien implanté dans la société et il apprend très jeune à Edward l’importance d’avoir confiance en soi. Sa mère, plutôt distinguée, lui apprend les bonnes manières. De par son apparence digne et bourgeoise, et ses manières aristocratiques, ses camarades de classe commencent à le surnommer le « Duke », surnom qu’il portera avec grâce et dignité tout au long de sa vie.
L’été [1914, alors qu’il travaille comme vendeur de boissons gazeuses au Poodle Dog Café, il compose sa première pièce, Soda Fountain Rag, aussi connue sous le nom de Poodle Dog Rag. Ne sachant ni lire ni écrire la musique à cette époque, Duke compose de mémoire. Son professeur, Mrs. Clinkscales, lui donne les instructions oralement : pour lui c'est une véritable bénédiction et il utilisera grandement cette faculté tout au long de sa vie.
Ellington aime bien se tenir au poolroom où il peut écouter gratuitement, en échange de quelques services, plusieurs musiciens de renom, mais aussi participer activement à des discussions de toutes sortes. Cet endroit lui permet de développer son oreille musicale mais aussi de commencer à jouer en imitant les joueurs de ragtime qui se produisent tous les soirs. Les relations de son père lui permettent d’étudier l’harmonie avec le professeur Henry Lee Grant, et l’écriture ainsi que la lecture avec le pianiste et chef d’orchestre Oliver « Doc » Perry. Selon Ellington, il n’aurait jamais pu trouver un meilleur professeur que ce monsieur Perry, qui de plus le fait travailler gratuitement. Peu à peu, Duke commence à réaliser que son amour de la musique est loin d’être éphémère et c’est ainsi qu’en 1916, alors qu’il n’est qu’à trois petits mois de son diplôme en arts graphiques, il quitte l’école pour se consacrer entièrement au piano.
Les nombreux voyages à travers l’Amérique faits avec sa mère lui permettent de se produire non seulement à Washington mais aussi à Philadelphie et à Atlantic City, dans le New Jersey. Dans son autobiographie, Music is My Mistress, Duke raconte qu’il comprit très vite qu’il y a toujours une belle fille installée au creux d’un piano lorsque celui-ci est joué avec grâce. « I ain’t been athlete since! », ajoute-t-il.
De 1917 à 1919, Ellington se lance officiellement dans une carrière de musicien. Il travaille en même temps dans la publicité et comme coursier pour la marine américaine. C'est à cette époque qu'il quitte la demeure familiale pour une maison qu’il s’est achetée grâce à quelques économies réalisées lors de concerts, et qu'il amorce la création de son premier groupe jazz, The Duke’s Serenaders. Ce groupe est d’abord formé de camarades de classe et ensuite rejoint par quelques musiciens un peu plus expérimentés, dont Arthur Whetsol à la trompette, Otto « Tobby » Hardwick au saxophone et, bien sûr, son grand compagnon Sonny Greer à la batterie. Ils se produisent aussi en compagnie d’un joueur de banjo local du nom d'Elmer Snowden. Après quelques spectacles promotionnels réalisés à l’école, le groupe donne son premier concert officiel au Reformer's Hall à l’hiver 1917. Ce baptême de la scène lui rapporte un beau gros 75 cents.
Tout au long de sa vie, Duke vouera une très grande admiration à sa mère, à tel point qu’il ne respecte pas tellement les autres femmes. Au printemps 1917, Duke se lie d’amitié avec Edna Thompson, une jolie fille du voisinage, avec qui il se marie le 2 juillet de l’année suivante, et qui donne naissance à leur premier enfant, Mercer Kennedy Ellington, le 11 mars 1919. En 1920, un deuxième enfant meurt hélas durant l’accouchement.
Pendant ce temps, côté musique, le groupe bat son plein et repousse les barrières raciales en jouant autant devant un public noir que blanc. Avec la ségrégation en vigueur à cette époque, peu de gens laissent de la place à la musique afro-américaine et encore moins au mélange des couleurs. Ellington joue principalement pour la haute société, les grandes réceptions, mais aussi pour un public plus jeune et moins bourgeois. Bref, son amour pour la musique laisse bien peu de place à toutes les barrières hiérarchiques de la société, ce qui lui permet très tôt de s’ouvrir sur toute l’Amérique.
Lorsque l’occasion d’aller jouer à New York s’offre à Sonny Greer, Duke décide de laisser temporairement son succès grandissant de Washington pour aller tenter sa chance lui aussi dans la « grosse pomme », plus précisément à Harlem. Le groupe, alors sous la direction de Snowden, commence à travailler au Harlem’s Exclusive Club et Ellington est engagé comme pianiste au Connie’s Inn, tout comme sa femme qui, après son arrivée en compagnie de leur enfant, trouve un emploi comme hôtesse dans le même hôtel.
Vers la fin de l’automne, Snowden et le groupe se séparent et Duke, assisté de Greer en créent un nouveau : The Washingtonians. En juin 1924, Sidney Bechet, saxophoniste de renom, joint le groupe et commence la deuxième tournée en Nouvelle-Angleterre avec eux. Moins de trois mois plus tard, Duke le renvoie après qu’il ne s'est pas présenté à trois concerts. Grâce à Jo Trent, chanteur compositeur interprète, le groupe accompagne plusieurs chanteurs populaires dont Trent lui-même, et enregistre leur premier disque en tant que Washingtonians. Duke et Trent composent leur premier tube : Pretty Soft for You. Le jeune compositeur offre sept titres majeurs durant cette année-là, dont le populaire Choo Choo.
1925 : le groupe monte en popularité et les tournées sont de plus en plus fréquentes (Pennsylvanie, Nouvelle-Angleterre ainsi que l’ouest de la Virginie). Après deux incendies douteux, le Hollywood Club ouvre ses portes de nouveau mais cette fois sous le nom de Kentucky Club et le groupe s’y installe. En même temps, Greer et Duke forment un duo (Ellington Twins) et accompagnent plusieurs artistes dont la chanteuse Alberta Jones.
1927 est une année déterminante dans la progression d'Ellington et son orchestre. Au début de janvier, WHN, une station radio-jazz, diffuse les spectacles des Washingtonians en direct. En février, Le groupe enregistre pour la première fois avec la compagnie Brunswick, sous le nom des Washingtonians, ce qui leur permet de continuer d’enregistrer avec d’autres compagnies en tant que Duke Ellington and his Kentucky Club Orchestra. De plus, Ellington s’associe avec Irving Mills et lui donne l’exclusivité sur toutes les publications de ses compositions. Cette association permet au jeune compositeur de garder le contrôle sur le groupe et sur son talent de compositeur. Mills propulsera Duke et son orchestre vers un sommet de popularité avec des contrats dans les plus grandes maisons de disques dont Columbia, Victor, Brunswick.
Vers la fin novembre, le jeune artiste et son groupe auditionnent et sont engagés pour jouer au Cotton Club, le cabaret le plus en vogue en matière de jazz à New York. Ils jouent pour la première fois le 4 décembre de la même année.
Pendant que sa carrière prend son envol, son mariage dégringole. Duke se sépare d’Edna après qu’elle lui a coupé le visage avec une lame de rasoir durant une de leurs nombreuses disputes. Elle l’accuse de fréquenter plusieurs autres femmes.
Dès 1924, la couleur orchestrale doit beaucoup à Bubber Miley, un trompettiste chevronné qui approfondira le « feeling » musical du groupe, avec sa sonorité « growl » et son jeu avec sourdine wa-wa (un plunger en caoutchouc), fondateur du style « jungle ». Co-auteur avec Duke des grands succès du moment East Saint-Louis Toddle -o, Black and Tan Fantasy, Black Beauty, il quitte l'orchestre pour problèmes de santé. Atteint de tuberculose, il meurt en 1932. Il sera remplacé début 1929 par Charles « Cootie » Williams qui deviendra le spécialiste du growl.
Plus les années passent et plus le Cotton Club devient le lieu de prédilection pour les grands artistes de l’époque : Al Jolson, Ruby Keeler et même Maurice Chevalier, avec qui Ellington joue pour une tournée de deux semaines. En 1930, Duke apparaît dans le premier d’une impressionnante liste de film Black and Tan, où il joue le personnage principal : « Duke ».
En 1931, Ellington et son orchestre quittent le Cotton Club et commencent une longue tournée de 18 semaines à travers les États-Unis. Après un arrêt à Chicago, il engage une jeune femme du nom de Ivie Anderson… une attraction spéciale … qui fera le reste de la tournée avec eux. Peu de temps après, elle commence une carrière de chanteuse pour le Duke avec It Don’t Mean a Thing (If It Ain’t Got that Swing).
Duke Ellington est lauréat de treize Grammy Awards de 1959 à 2000, dont neuf lui furent décernés de son vivant.
En 1959, la musique composée pour le film d’Otto Preminger, Autopsie d'un meurtre, rafla trois prix : celui de la meilleure bande sonore, celui du meilleur disque de l’année, et celui de la meilleure interprétation d’un orchestre de danse. En 1965 (New Orleans Suite), 1967 (Far East Suite) et 1968 (And His Mother Called Him Bill) il remporte le prix de la meilleure interprétation par un grand ensemble de jazz. En 1966, il avait également été lauréat de la meilleure composition de jazz originale avec In the Beginning God. New Orleans Suite (1971), Toga Brava Suite (1972), The Ellington Suites (1976) lui valent le prix de la meilleure interprétation d’un grand orchestre de jazz. Duke Ellington at Fargo est couronné meilleure interprétation musicale d’un grand orchestre en 1979. En 1999, The Duke Ellington Centennial Edition - RCA Victor Recordings (1927-1973) reçoit le prix dans la catégorie « Album historique ».
Le 24 mai 1974, un mois après son 75e anniversaire, Duke succombe à une pneumonie. Plus de 12 000 personnes assistent à ses funérailles, dont Ella Fitzgerald qui dit quelques mots : « It's a very sad day. A genius has passed ! » Son fils Mercer reprend immédiatement la direction de l’orchestre et le dirigera jusqu'à sa mort, en 1996, date à laquelle il sera remplacé par son propre fils, Paul Ellington, puis par Barry Lee Hall, Jr.
