Γύρω στα μέσα του 14ου αιώνα, λόγω των συνεχών πειρατικών επιδρομών, οι Σκιαθίτες αναγκάστηκαν να εγκαταλείψουν την αρχαία πόλη Σκίαθο και να ιδρύσουν την πόλη τους στο Κάστρο, μια χερσόνησο στο βόρειο τμήμα του νησιού, η οποία ήταν ένα φυσικό φρούριο. Για να ενισχύσουν το φυσικό αυτό φρούριο, το έκλεισαν με τείχη διάσπαρτα με πολεμίστρες και κανόνια, τα οποία κυρίως προς την ξηρά, ήταν ισχυρότατα και πανύψηλα. Η επικοινωνία του φρουρίου με την ξηρά γινόταν με μια ξύλινη κινητή γέφυρα, η οποία ένωνε την πύλη του φρουρίου με το απέναντι ύψωμα. Σε περίπτkastro1bωση ανάγκης αυρόταν προς το εσωτερικό του Κάστρου, μη επιτρέποντας έτσι την είσοδο στους εχθρούς. Πάνω από την πύλη υπήρχε μια ταράτσα με την απαραίτητη ζεματίστρα.
Από την ίδρυσή του ως το 1453 το Κάστρο το εξουσίαζαν οι Βυζαντινοί, στη συνέχεια ως το 1538 οι Ενετοί και ως το 1821 οι Τούρκοι. Για ένα μικρό διάστημα γύρω στο 1660, το Κάστρο πέρασε και πάλι στα χέρια των Ενετών. Όλα αυτά τα χρόνια η ζωή των κατοίκων του ήταν πολύ δύσκολη και μερικές φορές ακόμα και μαρτυρική, αφού εκτός από τις συνεχείς επιδρομές των πειρατών και επίδοξων κατακτητών, αντιμετώπιζαν και το πρόβλημα της έλλειψης χώρου στο εσωτερικό του φρουρίου. Έτσι, τα σπίτια ήταν μικρά και χτισμένα το ένα πολύ κοντά στο άλλο. Παρ' όλα αυτά όμως, στο Κάστρο υπήρχαν περισσότερα από είκοσι εκκλησάκια, ως και τζαμί χωρίς μιναρέ από τα χρόνια της Τουρκοκρατίας, καθώς και οι απαραίτητες δεξαμενές για νερό, ενώ το Νεκροταφείο βρισκόταν έξω από την πόλη.
Από τη στιγμή που εγκαταλείφθηκε το Κάστρο το 1830, με την ίδρυση του Ανεξάρτητου Ελληνικού Κράτους, αφέθηκε στην τύχη του. Έτσι, σήμερα σώζονται μόνο τέσσερις εκκλησίες, ένα τμήμα του τείχους με την πύλη, η θεαματική ταράτσα με τη ζεματίστρα, το μισοχαλασμένο τζαμί και κάποια ερείπια του τουρκικού διοικητηρίου. Ακόμα σώζονται δύο δεξαμενές και το κανόνι της Αναγκιάς.
Σίγουρα το Κάστρο αποτελεί την πιο αξιόλογη τοποθεσία της Σκιάθου, αφού συνδυάζει την άγρια μεγαλειώδη φυσική ομορφιά, με την ιστορία που αφηγούνται μελαγχολικά τα ερειπωμένα απομεινάρια, μάρτυρες άλλων εποχών.