John Gilmore est né à Montréal en 1951 et a grandi en banlieue, plus précisément à St-Eustache-sur-le-lac, devenu par la suite Cité des Deux-Montagnes. Gradué du CÉGEP de l'Université Sir George Williams en 1972, il étudia et devint par la suite journaliste à Bridgend au Pays de Galles de 1974 à 1976. Lors de son retour à Montréal, il travailla au journal The Gazette de 1977 à 1978 et il commença à prendre des leçons privées de saxophone.

En 1978, il devint étudiant à temps plein au programme de jazz à l'Université Concordia et il obtint un Baccalauréat en Beaux-arts (musique) en 1981. Durant cette période, il fut aussi l'animateur d'une émission sur le jazz sur Radio Centreville CINQ-FM et commença à faire de la recherche sur l'histoire du jazz à Montréal.

De 1981 à 1986, il fut rédacteur à la pige, en plus d'être pigiste, et enseigna aussi l'histoire du jazz pendant un an à Concordia tout en faisant la recherche et en rédigeant deux livres, grâce à une subvention du Conseil canadien des arts: Swinging in Paradise: The Story of Jazz in Montreal publié en 1988 et Who's Who of Jazz in Montreal: Ragtime to 1970, publié en 1989 par Véhicule Press à Montréal. Il a ensuite publié un article «Jazz Research in Canada: Issues and Directions» dans Ethnomusicology in Canada, dirigé par Robert Witmer (Toronto: Institute for Canadian Music, 1990). Swinging in Paradise fut traduit et publié en français sous le tire Une histoire du jazz à Montréal, par Lux Éditeur, Montréal, en 2009. L'édition française inclut des corrections, de nouvelles notes explicatives en bas de page, Une préface de Gilles Archambault (auteur et ancien chroniqueur de jazz à Radio-Canada), et une nouvelle postface par l'auteur.

From 1985 to 1991, John Gilmore fut journaliste à Radio-Canada Intenational, à Montréal, puis est déménagé dans l'ouest canadien où il vécut de 1991 à 2000, plus précisément à Canmore et Calgary, Alberta et ensuite à Vancouver, Colombie-Britannique. Durant cette période, il a travaillé à en tant qu'éditeur au Banff Centre, comme programmeur musical à CBC Radio à Calgary, en tant que rédacteur à la pige et également en tant que pigiste. Il a aussi enseigné l'anglais langue seconde en Angleterre (où il a obtenu un certificat d'enseignement à Cambridge) et au Brésil et, par la suite, à la University of British Columbia et au Vancouver Community College.

En 2000, il revint vivre à Montréal, où il a continué à travailler en tant que rédacteur à la pige et pigiste. Il fut chargé de cours pendant un an à l'Université Concordia et professeur à temps partiel à la division de l'éducation aux adultes de la Commission scolaire de Montréal. Il est devenu citoyen britannique (tout en maintenant sa citoyenneté canadienne) en 2010. Son roman poétique, Head of Man, a été publié par Reality Street (Royaume-Uni) en 2011.