Johannes Weiss studierte zunächst Viola da Gamba und Cembalo, bevor er sich dem Sologesang zuwandte. Mit beiden Instrumenten gewann er u.a. beim „Biagio-Marini-Wettbewerb“ (D), beim „Van-Wassenaer-Concours“ (NL) und den Alte-Musik-Preis der Stiftung Preußischer Kulturbesitz. Später studierte er Gesang bei Hedwig Fassbender in Frankfurt/M., Meisterkurse bei Christoph Prégardien, Ernst Häfliger, Guillemette Laurens und Thomas Heyer folgten.

Solo-Verträge führten ihn an die Oper Frankfurt, das Freie Landestheater Bayern, das Hessische Staatstheater Wiesbaden, die Opéra La Monnaie Brüssel, das Nationaltheater Prag, die Opéra National de Paris, das Opernhaus Danzig, die Opéra Monte Carlo und die Kammeroper Schloss Rheinsberg. 2006-2007 war er Mitglied des Atelier Lyrique der Pariser Oper. Als Solist tritt er auch mit „Akadêmia“ (F) unter der Leitung von F. Lasserre und mit „Cantus Cölln“ (D) unter der Leitung von K. Junghänel auf.

Seit 2008 unterrichtet er Historische Aufführungpraxis an der Musikhochschule Mannheim.