Provinshovedstaden Tjernopol var en del af Østrig-Ungarn til og med første verdenskrig. Nu regeres byen af en rumænsk præfekt, der drager på visit i sin skinnende karet med to dalmatinere luntende bagved. Et af de hjem, han ynder at besøge, tilhører en assimileret østrigsk adelsfamilie. Især de to børn i huset, en dreng og en pige, hænger ved præfektens læber, når han belærer dem om filosofi og en passant får indflettet den seneste sladder.
For der er nok at sladre om i Tjernopol. Byen syder af klandestine intriger og slåskampe på åben gade, udløst af alt fra en enkelt fornærmelse til ældgammelt etnisk had. For eksempel er der sagen om major Tildy, som børnene interesserer sig så heftigt for. Tildy lider under at blive opfattet som tysk – ikke tysk som dem, der overmaler jødernes butikker med hagekors, men tysk som en teutonsk ridder, ædelmodig og uden sans for ironi, kort sagt umenneskelig efter tjernopolsk målestok. Sådan en helt må gå til grunde i latterens og fornedrelsens stad, men han bliver ikke den eneste.
Fordi den er så inspireret af barndommens fortryllelser, fremstår En hermelin i Tjernopol som den mest eventyrlige af Gregor von Rezzoris erindringsromaner. Den fortæller om ting, der er forsvundet fra verden uden nødvendigvis at have eksisteret, såsom mausoleet for den gamle Pa?canus to koner, en diamant kaldet Ishjertet, heltemod, Europas stejleste sporvognsstrækning, den amerikanske pige og duerne på himlen over Ringplatz.
