康熙十四年,年仅一岁的二皇子胤礽被立为太子。当时已有的两个皇子中,皇长子是庶出,生母身份卑微,而胤礽系孝诚仁皇后所生,符合立嫡长子的传统,名正而言顺,地位还是很稳固的。立为太子后,康熙对他悉心教育,最初似乎也颇得宠爱。但胤礽其人,才智平庸而性情贪婪,以至广收贿赂,专权结党,使康熙渐渐对他感到失望。1690年,在征讨噶尔丹途中,康熙身体不适,急召留在京城的太子胤礽来行营。胤礽赶到时,康熙躺在床上,胤礽脸上却未流露出焦急与担心,康熙十分不满。1698年,康熙大封诸皇子,让他们参与政务,后又逮捕了太子的亲信索额图,废黜之意已初露端倪。胤礽也感到很惶恐,经常偷偷察看虚实,在随康熙去围场途中竟然半夜三更掀开康熙帐幔向内窥伺,使康熙极为恐慌,疑心太子要害他。至康熙四十七年(1708年),终于把太子废黜了。三十多年的太子一旦被废,本来不可能觊觎皇位的诸皇子一下子有了一朝君临天下的机会,这使本来就明争暗斗的诸皇子间矛盾骤然激化。为了扼制诸皇子的争斗,无奈之下,康熙于第二年夏天复立胤礽为太子。康熙五十一年(1712年)十月,太子第二次被废。
两次废立太子使暮年的康熙非常伤心,此后太子之位一直空缺,凡奏请选立太子的大臣都受到严辞训斥。但是,太子可以不立,未来由谁继承帝位却是个不能不考虑的问题。在康熙晚年,先后有几名皇子成为康熙考察的对象,其中最引起人们兴趣的是十四皇子胤禵。胤禵与雍正是一母所生,但他与雍正的关系并不好,反而与雍正的政敌八阿哥相亲厚。康熙四十七年八阿哥因夺嫡而被锁拿时,胤禵舍命相保,把康熙气得火冒三丈,甚至要抽出佩刀当场杀死他。胤禵勇猛善战,年仅二十三岁即随康熙出巡塞外;康熙五十七年,年仅三十的胤禵被任命为抚远大将军,手握兵权,可见康熙对他的器重。在他任抚远大将军期间,康熙给他的朱谕、朱批中有很多寄予厚望的话,比如:“人心最为重要,你要时刻把这件事放在心上”,类似这样的话让人觉得意味深长,似乎是在传授他为君之道。但直到康熙风烛残年时,胤禵依然在外带兵,没有被召回,又令人费解。有论者据此以为胤禵性格粗鲁,康熙实不想把帝位传给他,但因他军功赫赫,恐怕对继位的新君构成威胁,故将他遣往边陲,远离京城这个权力的中心。还有一种说法来自雍正手编的《大义觉迷录》,说是康熙从未看重过胤禵,实在是因为厌恶他才将他遣往边陲的,而他的大将军也只是虚衔,实际统辖的兵力只有几千人。
康熙在世的最后几年对雍正的倚重却是很明显的,康熙六十年和六十一年,令雍正代行冬至祭天之礼,这是极重要的委任,这件事后来被论者认为是将传位于雍正的暗示。康熙六十一年(1722年)十一月十三日,时年69岁的康熙皇帝在京西畅舂园崩殂,临终将帝位传给皇四子胤稹,就是后来的雍正皇帝。