Zamek w Trokach zbudowano na przełomie XIV i XV wieku na jednej z wielu wysp na jeziorze Galwe jako twierdzę nie do zdobycia.

Został wzniesiony przez wielkiego księcia litewskiego Kiejstuta i jego syna Witolda. Krzyżacy pełni respektu dla tej potężnej budowli nazwali ją „małym Malborkiem”. W średniowieczu Troki były stolica państwa litewskiego, a Książe Witold uczynił z zamku główną siedzibę swojego dworu.

Kamienny zamek, wykończony czerwoną cegłą, przez długie lata stanowił rezydencję książąt i centrum życia politycznego i kulturalnego. Począwszy od XVII wieku popadał w ruinę. Został zrekonstruowany w stylu gotyckim według  domniemanego stanu z XV wieku.