一九四九年秋，開國大典的禮炮聲中，北京城里一片歡騰，清查特務的工作也在緊張地進行。土刀唐胡同里，方才接管了舊警察局的年輕派出所所長肖大力正忙著維持群眾游行的秩序，偶遇一個熟知火器的教書匠馮靜波，這引起了他的懷疑。為了查清馮靜波的身份，肖大力搬進了土刀胡同十五號院，與馮靜波做了街坊。馮的真實身份確實是國民黨的潛伏特務，代號"5182"。惡霸四閻王為他發了委任狀，接受"白眼鏡"的命令。深夜，"白眼鏡"前來交待使命，馮的特務生涯從此拉開了序幕。"白眼鏡"為馮送電臺時被肖大力等人擊成重傷，臨死前只說出5182幾個字。肖大力認為馮有重大嫌疑，讓他注意四閻王的行蹤，借此對馮拐彎抹角。曾在妓院做使喚丫頭的大眉子參加了夜校掃盲班，她愛慕馮老師的才華，常自動為他做家務。馮為了掩護自己的身份，請大力保媒娶大眉子為妻。大力找大眉子談心，借題發揮說馮是特務，可大眉子自覺身世輕賤，婚事全憑大力做主。肖大力有時聽到從馮家傳出用作聯絡暗號的樂曲，便也買了一臺短波收音機，費盡心血地進行研究，吃飯睡覺都不忘琢磨那首名為《博覽會上的圖畫》的曲子，在大家眼里他似乎是著了魔。馮從大力的妻子劉亞琴那里聽說此事，不由暗暗心驚，深知自己處境艱難，只得若無其事地應付這一切。他托辭挖出一夜壺金子，將活動經費充了公，被評為抗美援朝積極份子。學富五車的馮靜波邂逅了校長的女兒徐小妤，兩人一見如故。小妤敬慕馮的才華，馮也傾心于美麗又有知識的小妤。二人蕩舟湖上，面對小妤熾熱的目光，馮在歡樂之余也深感痛苦，心情沉痛地說自己是負罪之人，預備自首，但在大力面前卻半吐半吞。晚上，馮突然不見了蹤跡，大力緊張地認為他是畏罪潛逃。敏感的亞琴直奔小妤的宿舍，正好撞見這對偷情的戀人。東窗事發，馮家亂成一團。大眉子不依不饒，要跟那個破壞她家庭的女人"撞頭"。馮終于鼓起勇氣提出和她離婚，不意受到大力等人的指責與阻撓。校長更以開除作威脅，不許他離婚。氣憤的大力把馮反鎖在廁所里，讓他好好反省歷史問題。靜波與小妤迫于壓力，只得黯然離婚。馮靜波在學校從未有過激言行，是小我人稱贊的好老師，大力挑不出他的毛病，迫不得已。街道組織大家學習憲法，請馮為世人講解。馮對鎮壓反革命的條文心有余悸。特務身份的重壓使馮隱忍地生活著，這竟使他在歷次運動中躲過了劫難，并且由于他為人和善，處處助人，竟被評為區勞模。而堅信馮是特務的肖大力卻被誣以"特務"的罪名送進了勞改農場，亞琴自殺身亡。大眉子意外地發現馮的委任狀，偷偷地燒掉了。四十年過去了，肖大力重又穿上了警服，他依舊執迷不悔地監視著馮的一舉一動。此時的馮已由一名好老師變成好校長，他確實感到坦蕩做人的快感，同時也更感到自己心底那塊石頭的沉重。肖大力的兒子新桅和馮靜波的女兒抗美兩小無猜，卻因父輩的恩怨無法走到一路。昔日給馮發委任狀的四閻王已成了海外合作項目的投資者，這令馮驚訝不解。肖大力的錚錚鐵骨令馮自慚形穢，也正是肖大力的所作所為，讓馮領會了共產黨。馮終于幡然悔悟，給大力寫了自首信，請他寬恕"昨天的敵人"，并在女兒的攙扶下走進了公安部的大門。