Церковь Св. Игнатия построена в 1622-1647 годах. Как и прочие церкви иезуитов в Литве, она была базиликой, с куполом и двумя башнями с обеих сторон пресбитерии.
Памятник русскому поэту, романтику, родоначальнику современной литературы Александру Пушкину (1799-1837) и его прадедушке, русскому военному инженеру Абраму Ганнибалу (1696/1697-1781).
В этом здании обосновался Окружной суд, во время нацистской оккупации – гестапо. Во время советской оккупации здесь был КГБ, где держали в заключении, пытали и убивали борцов за литовскую государственность.