Miután befejezte hegedűtanulmányait Szentpéterváron – ahol Tatiana Liberova és Jeanna Metallidi voltak a mentorai –, a Juilliard School of Music-ban tanult tovább Ichák Perlman diákjaként. 1998-ban megnyerte a Premio Paganini Nemzetközi Hegedűversenyt, és ezzel ő lett a verseny történelmének legifjabb győztese.

Szólistaként főképp kortárs és/vagy ritkán előadott darabokat játszik. Ősbemutatta többek között Peter Maxwell Davies, Augusta Read Thomas, Christophe Bertrand és Michael Jarrell műveit. Mindezek mellett azonban érdekli a történelmi művek előadása is. A 2010-es Verbier Fesztiválon egy barokk hegedűn eljátszotta Bach összes hegedűszonátáját Masaaki Suzuki közreműködésével. Ezenfelül az általa 2008-ban alapított Gringolts Kvartett első hegedűse is.

A 2013/2014-es évadban Ilya Gringolts olyan zenekarokkal működött együtt, mint a Bambergi Szimfonikusok (vezényel: Eivind Aadland), a Koppenhágai Filharmonikusok (Santtu-Matias Rouvali), az Izlandi Szimfonikusok (Ilan Volkov), a BBC Skót Szimfonikusai (Ilan Volkov), a Tajpeji Szimfonikusok (Oleg Caetani), a Columbus Szimfonikusok (Thomas Wilkins) és a Galíciai Szimfonikus Zenekar (Osmo Vänskä). Kamarazenei koncerteket adott a Verbier és a Gstaadi Fesztiválon, valamint a londoni Barbicanben Maxim Vengerovval.

A megelőző években a világ vezető zenekaraival lépett fel: a Mahler Kamarazenekar, a Liverpooli Királyi Filharmonikusok, a Birminghami Szimfonikusok, a berlini Német Szimfonikusok, a BBC Szimfonikusok, a Sao Paulo Zenekar, az Izraeli Filharmonikusok, a Chicagói Szimfonikusok, a Londoni, a Szentpétervári és a Los Angeles-i Filharmonikusok, a Melbourne-i Szimfonikusok, az NHK Symphony, a Hallé Orchestra, valamint az SWR mindkét zenekara együtt lépett fel vele.

Ilya Gringolts mindezek mellett önálló koncerteket is ad. Lucerne, Kuhmo, Colmar és Bukarest fesztiváljainak rendszeres vendége, de fellépett már a milánói Serate Musicali keretei között és a Szentpétervári Filharmóniában is. Kamarazenészként partnerei között találjuk a következőket: Yuri Bashmet, Lynn Harrell, Diemut Poppen, Nicolas Angelich, Itamar Golan, Peter Laul, Nicholas Hodges és Jörg Widmann.

Miután a Deutsche Grammophonnal és a Hyperionnal készített felvételei hatalmas elismerést kaptak, Ilya Gringolts három lemez erejéig Robert Schumann műveinek szentelte elmúlt éveit az Onyx kiadónál: az 1–3. hegedűszonátákat Peter Laullal (2010), a zongoratriókat Dmitry Kouzovval és Peter Laullal (2011), a vonósnégyeseket pedig a Gringolts Kvartettel és Peter Laullal (2011) adták elő. 2006-ban kiadott Taneyev-kamaralemeze, amelyen Mikhail Pletnev, Vadim Repin, Nobuko Imai és Lynn Harrell voltak a partnerei, Gramophone Awardot kapott. 2013-ban jelent meg az Orchids Classics kiadásában Niccolo Paganini összes Capriccióját tartalmazó lemeze, és ugyanebben az évben Johannes Brahms három vonósnégyesét is feljátszotta. Amellett, hogy a Zürichi Művészeti Akadémia hegedűprofesszora, a Glasgow-ban lévő Skót Királyi Művészeti és Zeneakadémia nemzetközi tudományos munkatársa.

Ilya Gringolts egy 1718-1720 között készült Stradivari-hegedűn játszik, amely egy magángyűjtő kölcsönadománya.