Deoarece Piatra-Neamţ era un oraş important în Moldova, era necesară înfiinţarea unui gimnaziu în această reşedinţă de judeţ. Astfel în 1865 Consiliul Comunal (în acelaşi timp şi Comitet şcolar) şi Consiliul Judeţean au cerut ministerelor de resort întemeierea unui gimnaziu. La 5 august 1865 Ministerul Cultelor şi Instrucţiunii „admite înfiinţarea gimnaziului şi roagă pe primar să închirieze un local şi să întreţină gimnaziul până la întocmirea noului buget al statului“ (Anuarul Jubiliar 1869-1919).
Consiliul a aprobat în unanimitate 3000 lei în şedinţa din 23 august 1865, iar Comitetul Permanent al judeţului, patru zile mai târziu, încă 7000 lei. Pentru că Ministerul de Interne a redus alocaţia judeţului la 1000 lei, gimnaziul nu a fost deschis. La 26 octombrie 1867 cererea este înaintată din nou „pentru motiv că în judeţ sunt 600 copii şi ar fi, deci, populaţie şcolară pentru gimnaziu“ (Anuarul Jubiliar 1869-1919), dar din nou propunerea rămâne fără urmări.

La 13 august 1869, Primăria „va trece gimnaziul în bugetul anului viitor“ (Anuarul Jubiliar 1869-1919).

La 27 noiembrie se deschide şcoala, având ca profesori pe Ion Negre (partea ştiinţifică) şi pe Calistrat Hogaş (partea literară), conducerea fiindu-i încredinţată acestuia din urmă. Profilul acestei şcoli fiind atât clasic (1869-1878), cât şi real (1878-1897).

După mai multe dispute în ceea ce priveşte numele, se hotărăşte ca şcoala să fie numită „Gimnaziul Piatra“, ca mai apoi, în 1893, să fie numit „Petru Rareş“, titlul menţinându-se chiar şi după transformarea sa în liceu. Pe parcursul anilor, titulatura i s-a modificat în mai multe rânduri: „Liceul de Băieţi nr.1 Piatra-Neamţ“, „Şcoala Medie de Băieţi nr.1 Piatra-Neamţ“, „Şcoala Medie Mixtă nr.1 Piatra-Neamţ“, „Şcoala Medie nr.1 Piatra-Neamţ“, „Liceul Petru Rareş“ si în cele din urmă „Colegiul Naţional Petru Rareş Piatra-Neamţ“.

Găsirea unui local propriu pentru gimnaziu a constituit una din problemele majore. De la înfiinţare şi până în 1877, şcoala a funcţionat în case boiereşti închiriate, după care s-a mutat în fostul local al Primăriei, situat în centrul oraşului, pe locul unde astăzi se află Teatrul Tineretului; această mutare este urmată de transformarea gimnaziului clasic în gimnaziu real. În 1887 încep lucrările de construcţie pentru actualul sediu al „Gimnaziului Real“ din Piatra, pe fostul amplasament al Curţii Domneşti, iar în 1892 au loc manifestările de inaugurare.

Noul sediu al „Gimnaziului Real“, după Ion Negre „un adevărat palat“ dispune de o monumentalitate şi o sobrietate ce impresionează şi acum, iar în serile de iarnă,când îi sunt luminate ferestrele, pare un impunător castel medieval, străjuit de brazii semeţi, încărcaţi de zăpadă.

Deoarece rostul tuturor lucrurilor în viaţa este să se schimbe şi să evolueze, nici localul liceului nu putea face excepţie, şi de aceea, au fost construite treptele care evoluează spre înalt şi se leagă sus într-un arc, ansamblul monumental fiind realizat de sculptorul Vicenzo Puschiasis. Pe fundalul acestuia, sunt fixate chipurile întemeietorilor liceului dăltuite în bronz de sculptorul Mihai Onofrei. În piatra căruntă a zidului dintre cele două arcuri ale scărilor, la nivelul de sus, e fixat în mijloc, altorelieful lui Calistrat Hogas, iar în dreapta şi în stânga acestuia, sunt dispuse basoreliefurile lui Ion Negre şi Mihai Stamatin. Sub aceste chipuri, sunt săpate în piatră, cuvintele „Recunoştinţă şi pioasă amintire!“; mai jos, e pusă o efigie a zeiţei Pallas Athena, socotită de vechii greci protectoarea războinicilor, dar şi a artelor, meştesugurilor, literelor sau a oricărei acţiuni care presupune ingeniozitate şi spirit de iniţiativă.

În martie 1893 are loc prima încercare de transformare a gimnaziului în liceu, când o delegaţie locală din care făcea parte şi Ion Negre, cere Ministerului Instrucţiunii Publice să înfiinţeze cel de-al doilea liceu din ţară (primul era la Brăila), în oraşul nostru, cererea fiind, din păcate refuzată. A doua încercare are loc în 1896, când delegaţii urbei Piatra-Neamţ cedează în favoarea păstrării şcolii profesionale. O a treia încercare se face în ianuarie 1897, când în „Memoriul“ înaintat celor de care depindea înfiinţarea liceului a fost aprobat.

În judeţ erau încă patru şcoli primare urbane la Târgul Neamţ, plus două israelito-române, iar în comunele rurale în jur de 140, în 1912 fiind 131. Liceul „Petru Rareş“ continuă să fie deci singura şcoală secundară din judeţ, căci cele patru şcoli normale mixte înfiinţate în anii războiului au avut o existenţă cu totul efemeră.

În aceste condiţii este uşor de explicat de ce între 1900-1919, excepţie făcând doar anul şcolar 1916-1917, când nici o şcoală nu a funcţionat în condiţii normale, în doar cele câteva clase de elevi numărul celor înscrişi pe ani şcolari a variat între 301 şi 435 la cursul de zi şi între 39 si 591 la examenele particulare.

În perioada interbelică populaţia oraşului sporeşte simţitor, pe de o parte datorită dezvoltării economice şi culturale, pe de altă parte datorită încorporării unui număr de sate anexe transformate treptat în cartiere.

Nevoia de cultură determină mărirea numărului de şcoli secundare. În Piatra-Neamţ, alături de liceul de baieţi, funcţionează în acest timp (unele numai către sfârşitul perioadei) un liceu de fete (din 1923 cu clasele I-IV, iar din 1927 complet), două şcoli normale, două licee industriale, un liceu comercial şi din 1932, şi un gimnaziu particular de băieţi.

Această nevoie de cultură a elevilor s-a materializat şi sub forma unor încercări de publicare a câtorva reviste: „Picuri de rouă“ – 1927-1928 (numai în trei numere), „Năzuinţi“ – 1928-1929.

Pe masură ce numărul de elevi creştea, creşteau şi nevoile acestora. De aceea, în 1928, amfiteatrul este transformat în sală de festivităţi, tot atunci construindu-se două camere pentru oamenii de serviciu. În 1930-1931 este reamenajată sala de gimnastică şi în 1935-1936 încăperile edificiului erau repartizate astfel: zece săli de clasă, şapte săli pentru colecţii, muzee, laboratoare, trei săli pentru cancelarii, o sală de festivităţi, o sală pentru desen, o sală atelier, o sală pentru bibliotecă, cinci camere locuinţa directorului, două camere locuinţa secretarului, o cameră oficială; trei camere locuinţe pentru personalul de serviciu (corp aparte), sală gimnastică (clădire separată).

După primul război mondial, problema internatului a intrat în preocupările comitetului şcolar. În 1936, din dorinţa de a mări capacitatea de cuprindere a internatului şi de a asigura elevilor condiţii optime de muncă şi de odihnă, Comitetul şcolar face intervenţii la Casa de Depuneri pentru contractarea unui împrumut de 1.000.000 lei, în vederea construirii unui nou local. Construcţia începe la 27 noiembrie 1936, dar înaintează greu, pe de o parte din lipsă de fonduri, pe de altă parte (mai ales din 1939) din lipsă de braţe de muncă. Etajul a putut fi folosit încă din 1940, dar clădirea a fost terminată (exceptând tencuielile interioare) abia în 1943.

De la înfiintare şi până la sfârşitul celui de-al doilea război mondial (1897-1944), liceul a avut mai multe specializări: reală (1897-1899), reală cu secţie modernă (1899-1928), unitară – cu şapte clase (1928-1934), şi teoretică (1934-1944).

În 1949, directorul liceului a cedat cu prea multă uşurinţă presiunilor din afară şi a acceptat trecerea acestei clădiri (ridicată prin contribuţia bănească a părinţilor elevilor şi a câtorva întreprinderi industriale locale, clădire aproape tot atât de încăpătoare ca cea în care acum funcţionează liceul) în patrimoniul Ministerului Economiei Forestiere, fără a primi ceva în schimb.

Începând cu 1957-1958 numărul şcolilor medii este diminuat: în Piatra-Neamţ figurează doar două licee teoretice şi un centru şcolar forestier (şcoală medie tehnică şi scoală profesională), căci celelalte fuseseră desfiinţate (şcoală medie tehnică de administraţie economică, şcoală medie tehnică profesională de fete şi scoală medie tehnică de lucrări hidraulice) sau transferate la Bacău.

Deşi libertatea de exprimare era oprimată, elevii liceului au continuat tradiţia de a-şi materializa talentul în unele publicaţii: „Cetatea Neamţului“ – 1942-1943 (două numere), „Licăriri“ – 1945-1946, „Flori de munte“ – începând cu 27 noiembrie 1966. Aceasta din urmă are să rămână revista şcolara cea mai reprezentativă a Liceului „Petru Rareş“.

Din fericire, activitatea elevilor nu a fost afectată de numeroasele schimbări din învăţământ, iar la 1 ianuarie 1969, secţia sportivă a liceului „Petru Rareş“ a devenit unitate independentă sub numele de şcoală sportivă de elevi.

În ciuda faptului că în 1971 au fost constituite clasele speciale de matematică, fizică, chimie, biologie, şi limbi moderne, în ianuarie 1977, i s-a stabilit profilul matematică-fizică.

Introducerea „autogospodăririi“ în întregul sistem de învăţământ, a avut efecte imediate în degradarea şi chiar distrugerea mobilierului, a claselor, laboratoarelor, internatelor etc.; de asemenea începe economia forţată de energie electrică, gaze naturale şi chiar de apă, rezultatele fiind dezastruase (1979).

O lege impusă şcolilor de către guvern a fost legalizarea funcţiei de director educativ (1981), iar în 1982 a avut loc „întărirea“ consiliului de conducere prin prezenţa, alături de profesori, ingineri şi maiştri, a reprezentanţilor unor unităţi industriale şi a elevilor.

Pentru a le asigura elevilor o activitate sănătoasă din punct de vedere sanitar, sunt continuate eforturile de amenajare a curţii, demolându-se unele construcţii insalubre (1982). În 1986 efecturea unui gard durabil pentru liceu constituie una din problemele majore. Aceasta este însă rezolvată la intervenţia domnilor directori Sorin Donea şi Nicolae Acrâşmăriţei.

În ultimul deceniu al secolului al XX-lea, mai exact pe parcursul anilor 1990-1991-1992 au loc acţiuni de modernizare şi dezvoltare a bazei materiale construindu-se noul corp (tronson cu patru nivele), liceul devenind Centru de execuţie bugetară pentru peste 8500 de preşcolari şi elevi.

În anul şcolar 1994-1995 se realizează repararea şi completarea lambrisării claselor, laboratoarelor, culoarelor şi a unor spaţii anexe.

În timpul anului şcolar care a marcat trecerea la noul mileniu, 1999-2000, liceul se reprofilează având următoarele specializări: matematică-informatică, ştiinţe ale naturii, filologie şi ştiinţe sociale.

Liceul dispune acum de treizeci de săli de clasă, laboratoare şi cabinete pentru fizică, chimie, biologie, limbi moderne şi informatică; cabinet medical; cabinet pentru consultanţă psiho-pedagogică şi orientare şcolară; bibliotecă modernă cu depozite, sală de lectură şi împrumut; sală de festivităţi modern amenajată; şi de alte spaţii adecvate pentru activităţile administrative şi gospodăreşti.