Die Kirche wurde im frühen Mittelalter erbaut und erstmals 1186 urkundlich erwähnt.

Der Hauptchor und die Nebenchöre, bei denen es sich um vor allem in der Romanik gebaute sogenannte kommunizierende Nebenchöre handelt, stammen aus dem Ende des 13. Jahrhunderts, das heutige Hauptschiff aus der ersten Hälfte des 14. Jahrhunderts. St. Martini prägt zusammen mit der Liebfrauenkirche und dem Dom das Stadtbild Halberstadts.