Der Name der einst slawischen Stadt lautete um 1220 Grimme, und er wandelte sich nur sehr wenig, so 1272 in Grymme, 1279 in Grimmen, dann schon 1325 in das heutige Grimmen und 1349 auch in Grymmen. In dem altpolabischen Flurnamen steckt das Substantiv grim, was als Fläche umgeben von nassen Wiesen übersetzt werden könnte.

Vom 9. bis zum 10. Jahrhundert wanderten in die Region um Grimmen die slawischen Lutizen ein, nachdem die dort siedelnde germanische Bevölkerung abgewandert war.

Vermutlich nach 1250 gründeten zugewanderte Handelsleute und Handwerker aus Niedersachsen, Westfalen und vom Niederrhein den Ort Als Gründungsdatum der Stadt gilt jedoch heute die Ansiedlung des Vogts Berthold. Dieser kam als Vertreter der Landesfürsten 1287 ins Gebiet der heutigen Stadt Grimmen. Dies beweist, dass Grimmen zu dieser Zeit bereits das Lübische Stadtrecht innehatte.

Die Stadtkirche St. Marien ist eine frühgotische Hallenkirche aus der zweiten Hälfte des 13. Jahrhunderts (1275). Auch das Rathaus wurde schon ab 1400 erbaut, und 1402 wird ein erster Jahrmarkt erwähnt. Das Kalandhaus stammt aus dem 15. Jahrhundert.

Nach der politischen Wende wurden ab 1991 der historische Stadtkern und das Rathaus im Rahmen der Städtebauförderung grundlegend saniert, so ergibt sich ein wieder schönes geschlossenes Stadtbild.