Nascido em Klagenfurt, na Áustria, Karlheinz Miklin formou-se em piano e harmonia no Conservatório de Klagenfurt, mas foi tocando música folclórica e cantando que começou a tocar baixo, acordeão e saxofone, seu principal instrumento. É presidente da Associação Internacional de Escolas de Jazz e artista da Academia Real de Londres, eleito diversas vezes Músico Austríaco do Ano. Entre os jazzistas com quem trabalhou estão Bobby McFerrin, Herbie Mann, Jarmo Savolainen e Phil Markowitz, entre outros.