Στο εσωτερικό του κάστρου των Ιωαννίνων, που είναι χτισμένο στο νοτιοανατολικό άκρο της πόλης, επάνω στη μικρή βραχώδη χερσόνησο που εισχωρεί στη λίμνη Παμβώτιδα, υπάρχουν δύο φυσικά υψώματα που διαμορφώθηκαν ήδη από τη βυζαντινή εποχή ως ακροπόλεις. Η νοτιοανατολική ακρόπολη είναι γνωστή ως Ιτς Καλέ (=εσωτερική ακρόπολη), η σημερινή μορφή της οποίας χρονολογείται στην ύστερη οθωμανική εποχή.
Στο χώρο του Ιτς Καλέ και εκεί όπου βρίσκονταν τα σεράγια του Αλή Πασά, βρίσκεται και το Βυζαντινό Μουσείο Ιωαννίνων. Περιλαμβάνει συλλογές παλαιοχριστιανικών και βυζαντινών γλυπτών, κεραμικών, βιβλίων, μεταβυζαντινών εικόνων από εκκλησίες του νομού από τον 16ο ως τον 18ο αι., καθώς και μια αξιόλογη συλλογή αργυροχοΐας που στεγάζεται σε κτίριο της ακρόπολης του 19ου αι., το λεγόμενο «Θησαυροφυλάκιο».