Vallée enregistra ses premiers disques en 1928 pour de petits labels comme Columbia Harmony, Velvet Tone et Diva .
En février 1929, il signa à RCA Victor et y restera jusqu'en 1931, partant après une vive dispute avec les dirigeants au sujet de la sélection de ses chansons. Ensuite, il enregistra pour le label éphémère Hit of the Week qui vendait des disques de qualité plutôt médiocre.
En août 1932, il signa avec Columbia et resta avec le label jusqu'en juin 1933 où il retourna à RCA Victor et où il restera jusqu'à la signature avec ARC en 1936 jusqu'en 1937, date à laquelle il reviendra de nouveau chez RCA Victor.

Rudy Vallée and His Connecticut Yankees
jouant le titre You're Hust Another Memory en 1929

Rudy Vallée interprétant I'm Just a Vagabond Lover
 dans le film "Glorifying the American Girl" (1929) 

En 1929, Vallée anima une émission de radio populaire The Fleischmann's Yeast Hour, avec des invités tels que Fay Wray et Richard Cromwell
 dans des sketchs dramatiques. Par la suite, il continuera à animer des émissions de radio telles que Royal Gelatin Hour, 
Vallee Varieties, et The Rudy Vallee Show pendant les années 1930 et 1940. 

Pour son travail à la radio, Vallée a été intronisé au Vermont Association of Broadcasters Hall of Fame en 2011.

Pendant la Seconde Guerre mondiale, il sera officier-chef d'orchestre dans les Gardes-côtières du 11ème district
et dirigera 40 musiciens avec succès. En 1944, il sera démobilisé et retournera à la radio.

Au cinéma en 1929, Vallée réalise son premier long métrage, "The Vagabond Lover" pour RKO Radio .
Ses premiers films furent réalisés pour tirer profit de sa popularité de chanteur. Alors que ses premières prestations étaient plutôt balbutiantes,
son jeu s'était grandement amélioré à la fin des années 1930 et 1940, au moment où il commença à travailler avec Preston Sturges dans les années 1940
où il devint un acteur de soutien comique à succès, notamment face de Claudette Colbert dans une comédie de 1942
"Madame et ses flirts" (The Palm Beach Story, 1942).

Parmi les autres films dans lesquels il est apparu, citons "Sweet Music" (1935), "The Bachelor and the Bobby-Soxer" (1947),
 "I Remember Mama" (1948),  et "Unfaithfully Yours" (1948). Mais aussi avec Jane Russell : "Les Hommes préfèrent les brunes" (Gentlemen Marry Brunettes, 1955) d'après un roman d'Anita Loos et qui étaient une suite pour l'actrice de son succès avec Marilyn Monroe
"Les Hommes préfèrent les blondes" (Gentlemen Prefer Blondes, 1953)

A la télévision dans les années 60, il incarnera Lord Marmaduke Fog dans la série télévisée à succès "Batman". 

A la fin des années 1950, la carrière de Rudy Vallee sera en déclin, en partie à cause du moindre intérêt pour les chanteurs de radio après l'émergence de la télévision mais aussi à cause de l'émergence du Rock 'n' Roll. Sa quatrième et dernière épouse écrira un livre intitulé My Vagabond Lover . 

Il décédera d'un cancer à son domicile le 3 juillet 1986, alors qu'il regardait les cérémonies télévisées du centenaire de la Statue de la Liberté restaurée. 

 Quelques uns de ses plus gros succès

- Brother, Can You Spare a Dime ? -

- Deep Night -

- As Time Goes By -

- Let's Do It -

- Makin' Whoopee - 

- Let's Put Out The Lights And Go To Sleep -  

- You're Driving Me Crazy -

- Life Is Just A Bowl Of Cherries -

- Heaven Help This Heart Of Mine -

- P.S. I Love You -