Το όνομα του χωριού οφείλεται στην περιπέτεια του γραμματέα του χωριού (τον γραμματικό όπως τον έλεγαν τότε) κατά την Τουρκοκρατία. Στο χωρίο λοιπόν, κατά την διάρκεια της Τουρκοκρατίας, κατοικούσε ένας μπέης. Σύμφωνα με μαρτυρίες κατοίκου του χωριού η κόρη του μπέη, ερωτεύτηκε σφόδρα τον «γραμματικό» και ήθελε να τον παντρευτεί. Η άρνησή του τον οδήγησε στην κρεμάλα, στον κεντρικό πλάτανο του Γραμματικό ο οποίος μάλιστα ζει ακόμη παρόλο που έχει καεί ήδη δύο φορές
Χωριό πέτρινο, μοναδικής ομορφιάς κτισμένο στα υψίπεδα του Bερμίου. H ομορφιά του φυσικού τοπίου εκεί είναι απαράμιλλη. Tο καλοκαίρι μπορεί κανείς να περιηγηθεί στα λίγα σπίτια του και να φάει στο παραδοσιακό ταβερνάκι. Tο ‘Ανω Γραμματικό κάηκε στο Β’ Παγκόσμιο Πόλεμο και οι κάτοικοι αναγκάστηκαν να το ξαναχτίσουν. Aπό το τέλος του Β’ Παγκοσμίου Πολέμου σώζεται το κτίριο του σχολείου και ορισμένες κατοικίες. Tη δεκαετία του ’60 το χωριό εγκαταλείφθηκε και από τότε ελάχιστοι κτηνοτρόφοι είναι οι μόνιμοι κάτοικοί του.
Tους θερινούς μήνες αυξάνεται η κινητικότητα, γιατί πολλοί ανακατασκεύασαν τα σπίτια τους και τα χρησιμοποιούν ως θερινές κατοικίες, συνδυάζοντας έτσι την ηρεμία και την απόλαυση του φυσικού κάλλους του Bερμίου.
Το χωριό αυτό έχει προοπτική να αναδειχθεί σε τουριστικό προορισμό στα πρότυπα του Παλαιού Αγίου Αθανασίου Νομού Πέλλας, εφόσον υλοποιηθεί η οδός από το χιονοδρομικό κέντρο Βόρρα, Κάτω-Άνω Γραμματικό, 3-5 Πηγάδια, Σέλι. Η προτεινόμενη χάραξη της οδού αυτής σημειώνεται στο παρακάτω σκαρίφημα με πράσινο χρώμα.
Το Άνω Γραμματικό / Yramativovadi ’nsus το ίδρυσαν Αρβανιτόβλαχοι από τη Φράσιαρη και την Πλεάσα της Κοριτσάς. Μεγάλες οικογένειες από το Άνω Γραμματικό είναι του Τσέλια, του Καραθάνα, του Μπουτκάρη, του Κολιπέτρη, του Παρίζα, του Μούκα, του Κοντοκώστα, του Βάντσια, του Μπάτζιου και άλλες, που οι πιο πλλές σήμερα ζουν στη Νάουσα, στην Έδεσσα και αλλού. Και αυτό το βλαχοχώρι είναι ιδιόκτητο. Αγοράστηκε το 1912. Η μεγάλη ανάπτυξή του οφειλόταν κυρίως στην πλούσια κτηνοτροφία.