Das Untertor gehört zum ältesten Teil der Befestigung der Stadt und ist zwischen 1230 und 1250 entstanden. Darauf weist unter anderem der Torturm mit den Bossenquadern an den Ecken hin.

Prägnant sind auch die Treppengiebel und der rundbogige Tordurchgang mit Sandsteinkapitellen an beiden Seiten. Nach der Bedrohung der Stadt durch die Bermatinger Bauern 1525 wurde 1534 ein Vorbau als Torverstärkung des vormals recht schmalen Turmes angebracht.

Das Untertor war Ausgangspunkt der täglichen Nachtwächterrunde.

Im Jahr 1875 mahnte das Großherzogliche Bezirksamt Überlingen den Markdorfer Stadtrat, den Untertorturm abzubrechen, damit der schmale Torbogen den Verkehr nicht länger behindere. Die Stadt ist der Aufforderung nicht gefolgt und besitzt somit heute immer noch ein städtebauliches „Juwel“.

Das Bild unten dürfte in den 1950er Jahren entstanden sein und enstammt dem Landesarchiv Baden-Württemberg.