1940-ben kezdték el fejleszteni, gyártása 1942-ben indult meg.

Az első változatok tornyába 75 mm-es páncéltörő ágyút szereltek. 1944 januárjában a 75 mm-es ágyút lecserélték egy 76 mm-es ágyúra. Ekkor megnövelték a torony méreteit és a parancsnoki kupola mellé egy másikat is vágtak a torony tetejébe. Ez a változat volt a legelterjedtebb az összes közül.

Először az el-alameini csatában vetették be. Mindegyik hadszíntéren alkalmazták. A háború végére már nem számított korszerűnek. A legnagyobb ellenfelei a Panther és a Tiger voltak. A szövetségesek úgy tartották, hogy egy Tigris kilövéséhez nyolc Sherman harckocsi kell.

Percy Hobart vezérőrnagyot 1943-ban azzal bízták meg, hogy tervezzen olyan eszközöket melyekkel partra lehet szállni Európában. Hobart ezen eszközök alapjául a Sherman és a Churchill tankokat alakította át: egy csomó furcsa kinézetű harckocsi jött létre, pl.: lángszóróval ellátott, hídvető, és aknavető típusai jöttek létre a Shermannak.

Az USA a Szovjetuniónak a Lend-Lease program keretében sok példányt szállított belőle.

Az amerikaiak 1955 után kivonták, de több hadsereg (például az izraeli) az 1960-as években is hadrendben tartott Shermanokat.

Nagy előnye a könnyű gyárthatóság és az egyszerű karbantarthatóság volt. Sok változata készült. Közel 50 ezer darabot gyártottak belőle. Hátránya a rendkívüli gyúlékonysága volt, ezért a későbbi változatok kettős fallal készültek, a két fal között tűzoltó folyadékkal feltöltve. A brit statisztikák szerint a kilőtt Shermanok 65%-a kigyulladt és kiégett.

Hatékonysága erősen korlátozott volt, a német tüzérek 75- vagy 88 mm-es páncéltörő gránátjai átlag 1,62 találattal megsemmisítették, ugyanakkor a Sherman számára 2,55 lövés kellett egy Párduc és 4,2 lövés egy Tigris leküzdéséhez.