De actie vindt plaats aan het begin van de twintigste eeuw (in de jaren onmiddellijk voorafgaand aan het uitbreken van de Eerste Wereldoorlog) in Zwitserland, in een tuberculose-sanatorium in de buurt van Davos. De naam van de roman roept associaties op met de berg Gerzelberg (zondige of magische berg), waar volgens de legende de minnesinger Tannhäuser zeven jaar in gevangenschap met de godin Venus doorbracht.
De held van de roman, een jonge Duitser genaamd Hans Kastorp, komt uit Hamburg naar het Berggof-sanatorium om zijn neef Joachim Zimsen te bezoeken die daar wordt behandeld. Hans Kastorp is van plan niet meer dan drie weken in het sanatorium door te brengen, maar tegen het einde van de geplande periode voelt hij zich onwel, vergezeld van een temperatuurstijging. Als gevolg van een medisch onderzoek vertoont hij tekenen van tuberculose, en op aandringen van de hoofdarts Behrens blijft Hans Kastorp voor langere tijd in het sanatorium. Vanaf het moment van aankomst ontdekt Hans Kastorp dat de tijd in de bergen helemaal niet vloeit zoals op de vlakte, en daarom is het bijna onmogelijk om te bepalen hoeveel dagen, weken, maanden, jaren er zijn verstreken tussen deze of andere beschreven gebeurtenissen en hoe lang de hele roman beslaat. Helemaal aan het einde van de roman wordt echter gezegd dat Hans Kastorp in totaal zeven jaar in het sanatorium heeft doorgebracht, maar zelfs dit cijfer kan worden beschouwd als een zekere artistieke conventie.
In feite zijn de plot en gebeurtenissen die in de roman voorkomen absoluut niet belangrijk om de betekenis ervan te begrijpen. Ze zijn slechts een excuus om de verschillende levensposities van de personages te contrasteren en de auteur de gelegenheid te geven zijn lippen te spreken over veel zaken die hem zorgen baren: leven, dood en liefde, ziekte en gezondheid, vooruitgang en conservatisme, het lot van de menselijke beschaving aan de rand van de 20e eeuw. In de roman passeren enkele tientallen personages - voornamelijk patiënten, artsen en verplegend personeel: iemand herstelt en verlaat de Berghof, iemand sterft, maar er komen voortdurend nieuwe voor in de plaats.
Onder degenen met wie Hans Kastorp al in de eerste dagen van zijn verblijf in het sanatorium ontmoet, wordt een speciale plaats ingenomen door de heer Lodovico Settembrini - een afstammeling van de Carbonari, een vrijmetselaar, een humanist, een fervent voorstander van vooruitgang. Tegelijkertijd haat hij als een echte Italiaan hartstochtelijk Oostenrijk-Hongarije. Zijn ongebruikelijke, soms paradoxale ideeën, uitgedrukt in een heldere, vaak bijtende vorm, hebben een enorme impact op de geest van een jonge man die de heer Sethembrini als zijn mentor begint te vereren.
Een belangrijke rol in de levensgeschiedenis van Hans Kastorp werd gespeeld door zijn liefde voor de Russische patiënt van het sanatorium Madame Claudia Shosha - de liefde waarmee hij, vanwege zijn rigoureuze opvoeding in een calvinistisch gezin, aanvankelijk met alle middelen weerstand biedt. Het duurt vele maanden voordat Hans Kastorp met zijn geliefde spreekt - dit gebeurt tijdens het carnaval aan de vooravond van de vasten en het vertrek van Claudius uit het sanatorium.
Gedurende de tijd die hij in het sanatorium doorbracht, werd Hans Kastorp ernstig meegesleept door veel filosofische en natuurwetenschappelijke ideeën. Hij volgt lezingen over psychoanalyse, hij studeert serieus medische literatuur, hij is geïnteresseerd in kwesties van leven en dood, hij studeert moderne muziek, gebruikt voor zijn doeleinden de nieuwste technologie - opname, enz. In wezen denkt hij niet meer aan zijn leven op de vlakte, hij vergeet dat hij daar werk zal vinden, verbreekt praktisch de banden met zijn weinige familieleden en begint het leven in het sanatorium als de enige mogelijke vorm van bestaan te beschouwen.
Bij zijn neef Joachim is de situatie precies het tegenovergestelde. Hij had zich lang en hard voorbereid op een militaire carrière en beschouwt daarom elke extra maand doorgebracht in de bergen als een ongelukkig obstakel voor het verwezenlijken van zijn levensdroom. Op een gegeven moment kan hij het niet uitstaan en, zonder op de waarschuwingen van artsen te letten, verlaat hij het sanatorium, gaat in militaire dienst en krijgt een officiersrang. Er gaat echter heel weinig tijd voorbij en zijn ziekte verergert, dus wordt hij gedwongen terug te keren naar de bergen, maar deze keer helpt de behandeling hem niet en sterft hij snel.
Kort daarvoor valt een nieuw personage in de kennissenkring van Hans Kastorp - de jezuïet Nafta, de eeuwige en onveranderlijke tegenstander van Mr. Settembrini. Nafta idealiseert het middeleeuwse verleden van Europa, veroordeelt juist het concept van vooruitgang en de hele moderne burgerlijke beschaving die in dit concept is belichaamd. Hans Castorp raakt in de war - luisterend naar de lange geschillen tussen Settembrini en Nafta, is hij het met de een eens, dan met de ander, en vindt dan tegenstrijdigheden in zowel de een als de ander, zodat hij niet meer weet welke kant waar is. De invloed van Settembrini op Hans Kastorp is echter zo groot en het aangeboren wantrouwen van de jezuïeten is zo groot dat hij volledig aan de kant van de eerste staat.
Ondertussen keerde Madame Shosha enige tijd terug naar het sanatorium, maar niet alleen, maar vergezeld van haar nieuwe vriend - de rijke Nederlander Peperkorn. Bijna alle inwoners van het Berghof-sanatorium staan onder de magnetische invloed van deze onvoorwaardelijk sterke, mysterieuze, zij het enigszins tonggebonden persoonlijkheid, en Hans Kastorp voelt een verwantschap met hem, omdat ze verenigd zijn door liefde voor dezelfde vrouw. En dit leven eindigt tragisch. Zodra de terminaal zieke Peperkorn een wandeling naar de waterval maakt, vermaakt hij zijn metgezellen op alle mogelijke manieren, 's avonds drinken hij en Hans Kastorp op de Brudershaft en schakelen over op' jij ', ondanks het leeftijdsverschil, en' s nachts neemt Peperkorn vergif en sterft, spoedig verlaat Madame Shosha het sanatorium - om deze keer blijkbaar voor altijd.
Vanaf een bepaald moment begint in de ziel van de bewoners van het sanatorium “Berghof” enige ongerustheid te voelen. Dit valt samen met de komst van een nieuwe patiënt - de Deense Ellie Brand, die met een aantal bovennatuurlijke vermogens in het bijzonder gedachten op afstand kan lezen en geesten kan veroorzaken. Patiënten zijn verslaafd aan spiritualisme, organiseren sessies waarbij Hans Kastorp betrokken is, ondanks de bijtende spot en waarschuwingen van zijn mentor Settembrini. Het is na dergelijke sessies, en misschien als gevolg van hun eerder gemeten tijdsverloop in het sanatorium, dat wordt geschonden. Patiënten maken ruzie, zo nu en dan ontstaan er conflicten bij de meest onbeduidende gebeurtenis.
Tijdens een van de geschillen met Nafta beweert Settembrini dat hij de jeugd bederft met zijn ideeën. Een schermutseling leidt tot wederzijdse beledigingen en vervolgens tot een duel. Settembrini weigert te schieten en dan schiet Nafta een kogel in haar hoofd.
En toen sloeg het onweer van een wereldoorlog toe. Bewoners van het sanatorium beginnen naar huis te gaan. Hans Kastorp vertrekt ook naar de vlakte, gescheiden door meneer Settembrini om te vechten waar hij dicht bij het bloed staat, hoewel meneer Settembrini zelf een heel andere kant in deze oorlog lijkt te steunen.
In de slotscène wordt Hans Kastorp afgebeeld rennen, kruipen, vallen, samen met dezelfde jonge mannen in overjassen van soldaten die in de vleesmolen van de Tweede Wereldoorlog vielen. De auteur zegt opzettelijk niets over het uiteindelijke lot van zijn held - het verhaal over hem is voorbij en de auteur was niet alleen geïnteresseerd in zijn leven, maar alleen als achtergrond voor het verhaal. Maar zoals opgemerkt in de laatste paragraaf, heeft Hans Kastorp weinig hoop op overleven.