Robbie a enregistré le titre They Can't Take That Away From Me de Frank Sinatra en duo avec l'acteur Rupert Everett. On retrouvera ce morceau sur Swing When You're Winning. Robbie a décrit sa collaboration avec Everett comme une "grande ballade gay".

Rupert Everett avait déjà assuré les chœurs (les backing vocals) sur la chanson "American Pie" de son amie Madonna. D'autre part, Robbie a bien enregistré le titre " Mister Bojangles de Samy Davis Jr, mais ne la jugeant pas assez bonne comparée à la version originale elle ne figurera pas sur l'album.