A Londonban született Gilbert Varga, a híres magyar hegedűművész, Varga Tibor fia, három nagyon különböző stílusú dirigens - Franco Ferrara, Sergiu Celibidache és Charles Bruck - irányításával folytatta karmesteri tanulmányait. Pályája korai szakaszában főként kamarazenekarokkal dolgozott Németországban és Franciaországban - gyakran koncertezett az édesapja által 1954-ben alapított Varga Tibor Kamarazenekarral is. 1985 és 1990 között a Philharmonia Hungarica vezető karmestere volt: turnézott velük Németországban, Ausztriában, Svájcban és Olaszországban, 1990-ben pedig az ő dirigálásával és Yehudi Menuhin közreműködésével mutatkozott be az együttes Budapesten. 1991-től 1995-ig a Stuttgarti Kamarazenekar állandó vendégkarmestere, 1997 és 2000 között a Malmöi Szimfonikusok első vendégkarmestere, valamint 1997-től tíz évadon keresztül a Baszk Nemzeti Szimfonikus Zenekar zeneigazgatója. Mindemellett számos nagy európai együttest is dirigált az elmúlt esztendőkben, többek között az Orchestre de Paris-t, a Bajor Állami Zenekart, a Berlini Rádió Szimfonikus Zenekarát, a Gulbenkian Zenekart, az Orchestre de la Suisse Romande-ot és a Bázeli Szimfonikusokat. Észak-Amerikában 2002 ben mutatkozott be a Minnesotai Zenekarral, akikhez azóta minden évadban visszatér. 2005-ben nagy sikerrel debütált a Philadelphia Zenekarral, a 2007-2008-as szezonban pedig a Dallasi és a Detroiti Zenekarral, valamint több más egyesült államokbeli együttessel. 2009 ben Délkelet-Ázsiában a Malajziai Filharmonikusokkal és a Taipei Szimfonikus Zenekarral lép fel. Lemezeit az ASV, a Discover Records, a Tring, a Koch International és a Claves Recordings adta ki.