Zunächst als Buchbinder tätig, wurde Schirmer 1825 Schüler bei Heinrich Kolbe und Wilhelm v. Schadow an der Akademie in Düsseldorf. 1827 entstanden Landschaftsstudien zusammen mit Karl Friedrich Lessing. Nach ersten Historiengemälden wandte er sich der Landschaftsmalerei zu. Er war ab 1830 als Lehrer für Landschaftsmalerei, ab 1832/33 mit einer eigens für ihn eingerichteten Klasse, an der Düsseldorfer Akademie tätig. Studienreisen führten ihn durch Deutschland, Belgien, in die Schweiz, nach Frankreich und Italien. 1839 wurde er zum Akademie-Professor ernannt. 1854-1863 war Schirmer Leiter der Akademie in Karlsruhe, die er zusammen mit Louis Des Coudres neu organisierte. Schirmer gilt als Vermittler zwischen der Malerei der Romantik und des Naturalismus und beeinflusste besonders den jungen Arnold Böcklin und Hans Thoma.

G. J. Wolf, Johann Wilhelm Schirmer, in: Die Kunst für Alle 35 (1920), S. 197-209; Thieme-Becker 30 (1936), S. 88-89; Die Lebenserinnerungen des Johann Wilhelm Schirmer, (Niederrheinische Landeskunde. Schriften zur Natur und Geschichte des Niederrheins Bd. 1), bearb. v. P. Kauhausen, Krefeld 1956; Schneider 1968, S. 107-122; R. Theilmann, Johann Wilhelm Schirmers Karlsruher Schule, Phil. Diss., Ms., Heidelberg 1971; R. Theilmann, Schirmer und die Düsseldorfer Landschaftsmalerei, in: Ausst.-Kat. Düsseldorf 1979, S. 130-144; Bruckmann 1997-1998 3, S. 204-208; Ausst.-Kat. Karlsruhe 2002