В этом здании обосновался Окружной суд, во время нацистской оккупации – гестапо. Во время советской оккупации здесь был КГБ, где держали в заключении, пытали и убивали борцов за литовскую государственность.
В отстроенном ренессансном дворце Старого арсенала, который относится к Нижней башне Вильнюсского замка, долгое время экспонировалось прикладное искусство Литвы и зарубежных стран XIII-ХХ веков.
Музей разделен на археологическое пространство, в котором разместятся самые древние игрушки, этнографическое пространство, предназначенное для игрушек 19-20 в.