暑假中，卢修斯·马尔福的家养小精灵多比警告哈利·波特，说若哈利回学校上课的话会非常危险。不过哈利没有理会警告，并叫多比不要用魔法。但多比还是使用了魔法，被魔法部抓到，并记警告信。德思礼一家把哈利锁在房间，直到韦斯莱双胞胎和罗恩用飞天汽车把他救出。哈利和他的好朋友罗恩·韦斯莱在陋居度过了一个愉快的暑假。
返校的日子到了，韦斯莱一家到国王十字车站，但是哈利和罗恩无法进入停靠霍格沃茨特快车的九又四分之三月台，无奈之下，他们只好驾驶飞天汽车去学校。不过，他们到学校时撞上打人柳，他们都没有受伤，但罗恩的魔杖被折断了，而且被学校处罚。
有三个人引起了哈利的注意：新的爱虚荣黑魔法防御术教授吉德罗·洛哈特、一直仰慕哈利且喜欢摄影的的科林·克里维、罗恩的妹妹金妮·韦斯莱。
但是，学校里面变得一团糟，攻击事件接连发生，有些学生被石化，无法查出凶手。相传，学校创办人之一萨拉查·斯莱特林曾经在学校里面建造了一间密室，只有他或斯莱特林的继承人才知道如何进入，这间密室是为了清除学校中血统不纯的学生而建造的。一时间，大家一度认为哈利·波特是凶手，是斯莱特林的继承人；大家知道哈利是一个爬说嘴（可以和蛇说话，而蛇正是斯莱特林的象征）之后，大家更是这么认为。而整个故事的主线就是，哈利、罗恩、赫敏三个人寻找密室的入口和真正斯莱特林的传人。
攻击事件一直发生，包括赫敏在内的一些学生被石化，送往医院。由于海格在50年前被指控打开密室而被开除，这次魔法部把海格关进阿兹卡班以防万一。同时，卢修斯?马尔福威胁学校理事会要求邓布利多停职，其原因是邓布利多无法阻止攻击事件。在邓布利多离开前，留下著名的一句话：“当这里不再有任何人忠于我的时候，我才会真正离开这个学校。只要发出求救信号，必然会有人对霍格沃茨伸出援手。”I will only truly have left this school when no one here are loyal to me.Help will always be given at Hogwarts to those who ask for it.而这句话似乎是对哈利和罗恩说的。一天，金妮被抓进了密室——在学校里面的一面墙出现了‘她的尸骨将永远留密室’字样，危急的时刻到了。
在海格的提示下，哈利和罗恩从阿拉戈克Aragog得知海格在50年前并未打开密室。而那时死亡的是桃金娘Myetle在赫敏的提示下，哈利和罗恩找到密室的入口，并且成功进入了密室。他发现，打开密室造成袭击的人是金妮，不过金妮是被控制了而做出这种事情的，是伏地魔控制了她。伏地魔在在霍格沃茨时的名字是汤姆·里德尔，他的一个魂器HP6汤姆·里德尔的日记使金妮受到了控制。
汤姆·里德尔保存在日记中的灵魂偷去了金妮的生命而强大，他放出了蛇怪（能够使人石化的怪物）对抗哈利，千钧一发之际，阿不思·邓布利多的凤凰福克斯为哈利送来分院帽，里面有戈德里克·格蘭芬多（学校创始人之一）的剑，福克斯啄瞎了蛇怪，使它无法石化哈利，哈利用剑杀死了蛇怪。汤姆·里德尔因为哈利用蛇的毒牙刺进日记本而消失，魂器HP6-日记因而毁掉，金妮恢复了生命。这本日记是鲁休斯·马尔福在开学前偷偷藏在金妮的书袋中的，但是哈利没证据，不能指控鲁休斯·马尔福。哈利把他自己的袜子夹在残破的日记中交给鲁休斯·马尔福，鲁休斯非常生气，顺手把装有日记连同其中的旧袜子丢给了他的家养小精灵多比。按照惯例，主人把衣物送给家养小精灵代表给他们自由，所以多比就自由了，他非常感激哈利。
吉德罗·洛哈特其实只会吹嘘，没有一点本领。当洛哈特想要让哈利和罗恩记忆消失时，却因为使了罗恩魔杖而咒语反弹，击中自己，结果自己失忆，后来一直待在圣芒格魔法医院。他无法继续胜任黑魔法防御术教授。
