Kuhmon kamarimusiikkijuhlilla esiintyy Gidon Kremerin lisäksi hänen perustamansa kamariorkesteri Kremerata Baltica. Noin 60 konserttia vuosittain tekevä orkesteri hankkii tulonsa pääasiassa konserttituloilla.
"Orkesterilla ei ole pysyvää rahoitusta. Baltiassa on kyllä rahaa tukea jääkiekkoa, jalkapalloa ja rakentaa Euroviisuille esiintymisareenoita, muttei tukea kamarimusiikkia", Kremer heittää. Gidon Kremer perusti Kremerata Baltica -orkesterin itselleen 50-vuotissyntymäpäivälahjaksi.
"Kyse ei ole oman egoni nostamisesta, vaan orkesterin tavoite on tarjota nuorille, lahjakkaille baltialaisille muusikoille paikka kehittyä. En koe heitä kuitenkaan oppilainani vaan nuorempina kollegoina, joiden kanssa on suurenmoista harjoitella ja esiintyä."
Kamariorkesterin jäsenistä lähes kaikki ovat kotoisin Virosta, Latviasta tai Liettuasta. Joskus orkesteria täydentää sopivan muusikon puuttuessa myös muualta Euroopasta kotoisin oleva kamarimuusikko.
Kremerata Baltica on arvostettu korkealle musiikkipiireissä. Ympäri maailmaa esiintyvän orkesterin riveistä on muodostettu kolme pienempää kokoonpanoa. Orkesteri tekee myös yhteistyötä nimekkäiden kapellimestareiden ja solistien kanssa.
Orkesterin yhteinen kieli on venäjä. Kremer tunnustaa, että kielikysymys on orkesterille hieman herkkä, koska sen syntytaustaan liittyy nimenomaan ylpeys baltialaisista juurista.