Небольшой форбург, сооружённый датчанами с западной стороны, ливонцы расширили до современных размеров. Это произошло в 1-й трети XVI века. Его пересекал широкий ров с подъёмным мостом, а по углам крепостных стен стояли три башни: северо-западная, юго-западная и южная.Этот форбург сейчас называют Большим Западным двором. Северо-западная башня впоследствии была перестроена в рондель — артиллерийскую башню. Во время Второй мировой войны подверглась значительным разрушениям. После реставрации в ноябре 1987 года состоялась торжественная передача музею башни Рондель. В настоящее время в башне открыт ресторан «Рондель».

Южная башня была построена на рубеже XV и XVI веков, и предназначалась для легкого огнестрельного оружия. Она соединяла два отрезка стены старого переднего двора (южная и западная границы), а также новую, протянувшуюся на запад южную стену более просторного двора. Во время археологических раскопок в 1984 -1987 годах было вскрыто основание этой башни.

Рядом с Южной башней находится 9 дюймовая(229 мм) береговая мортира образца 1877 года.Изготовлена в России на Пермском заводе в 1892 году. Ствол стальной, скреплённый кольцами, с нарезами. Боеприпасы: фугасная пороховая бомба, весом 112,6 кг; стальная фугасная бомба, весом 137,2 кг. Дальность стрельбы мортиры — около 8 километров.

В 1930-е годы Эстонская Республика проводила фортификационные работы на восточной границе Эстонии по линии реки Нарвы. Было построено множество оборонительных сооружений. В Нарве, в районе бастиона Гонор находилась артиллерийская батарея, состоящая из двух 9 дюймовых мортир. Одну из этих мортир в 1950-е годы перевезли с бастиона во двор замка.