Pilskalns ir vissenākā vieta Gaujienā. Apmēram pirms 1000 gadiem šeit apmetās pirmie novada iedzīvotāji. Senāk ZA Latvija bijusi sadalīta divos valstiskos veidojumos – Tālavā un Atzelē. Senlatvieši savas pilis būvēja pēc iespējas grūti pieejamās vietās, ar stāvām nogāzēm. Visapkārt pilskalnam dzīvoja iedzīvotāji, kuri uzbrukuma gadījumā varēja paslēpties nocietinātajā pilī. Novgorodas un Pleskavas kņazi bieži devās uz Latviju karagājienos, un piespieda vietējos iedzīvotājus maksāt meslus (nodevas). Ja ar savāktajām nodevām viņi nebija apmierināti, tad paši laupīja un siroja apdzīvotās vietās, bieži aizveda līdz gūstā vietējos iedzīvotājus.
Gaujienas senākais nosaukums Agzele pirmoreiz minēts 1111.gadā Novgorodas laika grāmatā, runājot par kņaza Mstislava karagājienu uz Atzeli. Arī 1180. gadā un 1285.gadā Atzeles vārds ir pieminēts sakarā ar karagājieniem.
XIII gadsimtā Latvijā ieradās bīskaps Meinards un vēlāk arī vācu bruņinieki. Trešais un arī visnežēlīgākais bija bīskaps Alberts, kurš nonāca līdz Atzelei. Tolaik liela nozīme bijusi ūdens ceļiem, un Gaujā bijis vairāk ūdens. Sākumā krustneši iekarojuši zemes ap jūru un Daugavu, vēlāk arī ap Gauju. 1223. gada rudenī arī gaujienieši bija spiesti cīnīties ar krustnešiem. Tomēr latvieši tik sīvi pretojušies, ka krustneši nevarējuši pili ieņemt un gaidījuši papildspēkus. Papildspēki ieradušies un 1224. gada agrā pavasarī pēc aplenkuma un daudziem uzbrukumiem latviešu koka pils tika ieņemta un nodedzināta. Vāciešu karaspēkā bijuši daudz bruņinieku un arī ticības sludinātāju, un iekarotās zemes viņi sadalījuši savā starpā. Tā Atzele nokļuvusi zobenbrāļu rokās un Gaujas labajā krastā sāka celt mūra pili.
Krustneši savas pilis cēla no mūra, parasti no laukakmeņiem un vēlāk arī no ķieģeļiem, bet Gaujienā tik daudz laukakmeņu nebija, toties tuvu zemes virskārtai atradās dolomīta slāņi. Lai uzceltu pili, vācu bruņinieki ar varu dzina latviešus darbā. Vienu grupu norīkoja dolomīta laušanai, un otra grupa veda dolomītu uz pilskalnu. Visapkārt pilskalnam uzcēla augstu, 1,5m biezu mūra sienu. Daudzi amatnieki bija atvesti no Vācijas. 13. gs. beigās uzcelta galvenā pils, kurai ir kvadrātam tuvs plānojums ar 29 un 27metru garām ārsienām. Tā bija četru korpusu celtne ap iekšējo pagalmu un pret Gauju pavērstajā pils ziemeļrietumu stūrī celts apaļais tornis. No tā līdz mūsdienām saglabājušās sienas drupas trīs stāvu augstumā. Telpas stūrī vēl redzama dolomīta konsole un virs tās nodrupuši profilķieģeļi, kas kādreiz veidoja greznas zvaigžņu velves ribas. Pirmajā stāvā atradās saimniecības telpas un pils virtuve, bet otrajā stāvā bija ordeņbrāļu dzīvojamās telpas un kapela.
No 14.gs. pirmās puses saglabājies Gaujienas komtura zīmoga spiednis.
Pils nocietinājuma mūrī bija iebūvētas speciālas istabas, kurās visu diennakti dežurēja uzraugs, kurš skatījās vai kāds neuzbrūk. Bijuši ari tādi gadījumi, kad latvieši paši šai pilij uzbrukuši, tomēr tas vienmēr beidzies neveiksmīgi. Notika arī vairāki Novgorodas un Pleskavas kņazu uzbrukumi, ari tiem neizdevās pili ieņemt, tomēr turpinājās krievu sirojumi un meslu vākšana ordenim piederošajās pierobežas zemēs. Tāpēc vācu ordenis 1342.gadā sāk celt nocietinātu mūra pili Alūksnes ezera salā. Pili pārvaldīja komturs – ordeņa ierēdnis, kura rīcībā bija 200 smagi bruņotu jātnieku un 300 leimaņu.
1558.gadā, Livonijas kara laikā, Gaujienas pili krievi nopostīja. Livonijas karā iejaucās Polija un Zviedrija Polija uzvarēja un Krievijai bija jāatkāpjas. No 1582. – 1600. gadam valdot kņazu Osobļinsku dzimtai, atjaunoja sagrauto pili. 1625. gadā uzvarēja zviedri un Zviedrijas karalis Gustavs Ādolfs uzdāvināja Gaujienas muižu savam reihsmaršalam Akselam Banēram, kurš savukārt to atstāja savai meitai.
1700. gadā sākās Ziemeļu karš, kurā atkal uzvarēja krievi. Krievijas cars Pēteris I šeit ieradās 1702.gadā, un viņa karavadonis Šeremetjevs atkal nopostīja pili tā, ka atjaunot vairs nebija iespējams.
