Como um dos primeiros especialistas em música antiga, Jaap ter Linden fez parte do início de muitos dos conjuntos de música barroca mais refinados e importantes no mundo, foi co-fundador e violoncelista principal do Musica Antiqua Köln, The English Concert e Amsterdam Baroque Orchestra.
Deste começo próspero, Jaap ter Linden mudou seu interesse, para concertos solo ou tocando com conjuntos que possuiam um repertório mais íntimo com os melhores intérpretes mundiais ou à frente de uma orquestra como regente.
Fundou e dirige a Mozart Akademie (com o qual gravou as Sinfonias completas de Mozart). É diretor convidado regularmente e solista do Arion Ensemble
(Canadá). Dirigiu muitas orquestras de instrumentos de época como a San Francisco Philharmonia Baroque, Portland Baroque e Amsterdam Bachsoloists e emprestou sua experiência para conjuntos modernos, como a Amsterdam Sinfonietta e a Deutsche Kammerphilharmonie.
Possui uma extensa discografia como violoncelista e maestro com muitas gravações premiadas para casas discográficas como Harmonia Mundi, Archiv, ECM, Deutsche Grammophon e mais recentemente Brilliant Classics. Em 2006, Jaap ter Linden lançou sua segunda gravação das Suites para Violoncelo de Bach.
Mais recentemente, Jaap entrou no mundo da ópera, dirigindo The King Arthur de Purcell, com a Städtische Bühne Münster e Iphigénie en Aulide de Gluck com a Royal Conservatory of the Hague – Holanda
