康熙皇帝急于和俄国签订和约，的确是为了腾出手来对付蒙古族准噶尔部落头目噶尔丹发动的叛乱。
早在元朝灭亡以后，成吉思汗的子孙退回塞外，驻扎在大沙漠南北，逐渐形迈出漠北蒙古、漠南蒙古、漠西蒙古三大部。这些蒙古部族之间相互攻打，还经常南下骚扰内地。后来，努尔哈赤和皇太极用征伐、联姻和结盟的办法，把漠南蒙古征服了。清朝设立了蒙古衙门（后改为理藩院）管理蒙古各部，把漠南蒙古分为六盟，二十四部，四十九旗。这样，漠南蒙古各部成了清朝当权者最可靠的盟友。漠北蒙古又叫喀尔喀蒙古，继漠南蒙古之后，也跟清朝建立了朝贡关系，每年向清朝进献一头白骆驼，八匹白马，称为“九白之贡”。
清朝入关以后，只依靠几十万满族人，是维持不了对全中国的统治的。为了弥补力量不足，多尔衮、顺治、康熙都把联合蒙古各部做为一项重要的国策。
可是这时候，还有居住在阿尔泰山以西的漠西蒙古不肯合作。漠西蒙古又称厄鲁特蒙古，分为杜尔伯特、土尔扈特、和硕特、准噶尔四部。其中准噶尔部力量最强大，它兼并了和硕特部和杜尔伯特部，把土尔扈特部排挤到俄国伏尔加河流域一带，又把和硕特部的人赶到了青海、西藏。
准噶尔部控制了阿尔泰山周围地区，又继续向东进兵，想占领漠北广大地区。喀尔喀各部挡不住准噶尔骑兵，只好奔向漠南并请求康熙皇帝加以保护。康熙皇帝把科尔沁草原借给喀尔喀各部驻牧，救济他们大量的牲畜、茶、布，又派人劝告准噶尔头目噶尔丹返回阿尔泰山地区，退还喀尔喀的故地。噶尔丹自认为兵力强盛，不但不把康熙皇帝的命令放在眼里，还率领十万大兵深入到漠南蒙古乌珠穆沁草原，想和康熙皇帝较量一下。
康熙皇帝见噶尔丹这样猖狂，已经威胁到内地的安全了，就在康熙二十九年（公元一六九○年）秋高气爽、草肥马壮的时候下令征讨。他亲自率兵驻扎在长城口外，任命他的哥哥裕亲王为大将军，在离北京只有七百里的乌兰布通和准噶尔兵决战。
噶尔丹没和清军正式交过锋，还不知深浅。他依山列成“驼城”，把一万头骆驼捆住脚，让它们卧在地上，又在骆驼背上搭起箱垛，盖上湿毡，然后让主力部队隐藏在“驼城”之内，从箱垛的空隙放枪射箭。清军隔河隐晦阵，先用大炮轰击“驼城”，打死了许多骆驼、骑兵，步兵随后冲杀过来，大败准噶尔军。噶尔丹知道打不过清军，当晚就把军队撤到高处，第二天一大早，派随军的西藏喇嘛到清营求和。
清朝大将军马上派人向康熙皇帝报告战况，又派使臣到噶尔丹营内，让噶尔丹向“威灵佛”起誓，保证不再向内地进犯。噶尔丹连忙当着使臣的面跪在“威灵佛”前磕头，样子显得很虔诚。使臣看到这种情况，很放心地回去了。
康熙皇帝得到噶尔丹乞降的报告，担心大将军受他愚弄，当即派人对大将军说：“噶尔丹为人狡猾，不可不防。”没想到这个命令还没有达到，噶尔丹已经拔营逃走了。
噶尔丹丢下辎重，率军狂奔不止，沿途放火烧毁了草场，想断绝清军的粮路，士兵一路病死、饿死的不计其数，回到老家一清点，十万大军只剩下几千人了。
为了彻底孤立噶尔丹，第二年五月，康熙皇帝亲自到了多伦（今蒙古人民共和国首都乌兰巴托），召集蒙古各部王公开会，会前举行了盛大的阅兵仪式。
阅兵那天一大早，八旗禁旅盔甲鲜明，戈矛锋利，威武雄壮地在会场整齐列队。不一会儿，号角齐鸣，康熙皇帝身穿金甲，骑着俊马缓辔而来。只见他还不到四十岁，身板挺直，两眼炯炯有神，鼻子略微呈鹰勾形，脸上有稀疏的麻子。一看，就可以知道他性格刚毅，精力过人。康熙皇帝接受了诸王、大臣、皇子和蒙古王公的朝拜，又率领众人检阅了蒙古各部骑兵。他一路用娴熟的蒙古语同蒙古王公亲切交谈。更令人惊叹不已的是检阅完毕，在蒙古王公的恳请下，他当众连发十箭，九箭命中靶心。顿时，全场欢声雷动，众人山呼万岁，随后，康熙皇帝对协助追剿噶尔丹的蒙古王公进行了嘉奖，对暗中给噶尔丹通风报信的人进行了责罚。蒙古王公们见康熙皇帝不但弓马娴熟，而且赏罚严明，都对他心悦诚服。
康熙皇帝依照皇太极对漠南蒙古的编制，把漠北蒙古编为三十七旗。因为蒙古各部笃信喇嘛教，他下令在多伦建立汇宗寺。为了纪念这次盛大的盟会，他还亲笔撰写了汇宗寺碑文，命人树立在汇宗寺内。
噶尔丹虽然遭到失败，但仍不死心。五年以后，他又率领三万骑兵侵入巴颜乌兰，大肆掠夺。还扬言借来了俄国鸟枪兵六万，要兴兵深入内地。
康熙皇帝接到消息，决定第二次亲征。他命东三省清军为东路，陕甘地区清军为西路，自己亲率中路大军从独石口进入大沙漠。在沙漠里行军。粮草常常接济不上，康熙皇帝和官兵一起吃干肉、喝马奶，日夜兼程，走了七十多天，才探听到噶尔丹屯住在克鲁伦河的消息。有的大臣怕苦怕累，听说敌人还很远，就劝阻说：“道路迂回，粮秣不继，走了七十多天，还未见敌军，皇上不如暂时回驾吧！”康熙皇帝听了非常生气，斩钉截铁地说：“朕已告祭了天地宗庙。现在这样不见敌军就回去，还有什么面目对天下百姓？”他当即下令开拔，直奔克鲁伦河。到了克鲁伦河以后，康熙皇帝不等扎下营寨，就命令从征皇子和诸将前来议事。他席地而坐，拿出亲手绘制的阵势图，详细部署了作战方略。随后，又派使臣渡河到噶尔丹大营，约他明天决战。
噶尔丹根本不相信康熙皇帝会亲征到此，他放声大笑说：“哪能来得那么容易！”可是，等他登上克鲁伦河边的北孟纳兰山，见到河南岸清营黄幄龙纛，十分鲜明，大兵屯集，漫无边际。他吓得六神无主，不由得自言自语起来：“哪能来得那么容易！哪能来得那么容易？”随后跌跌撞撞地回到军营，闷头不语。当天晚上，他丢下营帐辎重，率领部众向西逃走了。
第二天一早，清军前来决战，只见噶尔丹的营盘已空无一人。康熙皇帝马上率领骑兵轻装追赶，沿途到处都看得到噶尔丹部队遗弃的财物、牲畜，还有行动不便的老人、小孩。清军整整追了三天，没能赶上，只好停止追赶，康熙皇帝估计噶尔丹很快就要跟西路大军遭遇，就派人通知西路军火速阻击敌人。
两天之后，西路清军果然在昭莫多山下和噶尔丹相遇并进行了决战。一开始，西路军因为粮草接济不上，战马死亡大半，只好下马步战。噶尔丹手下兵将虽然只剩下一万多人，但都是久经战阵的精锐。双方整整打了一天，清军无法取胜。只好把后备部队分成两路，一路横冲入阵，一路偷袭敌军的辎重。这个办法果然奏效，噶尔丹阵营大乱，清军乘胜连夜追击，杀死敌兵一千多人，俘虏了三千多人，缴获了大批马、牛、羊、骆驼及幕帐器械等。噶尔丹只带着几十个亲信逃走了。康熙皇帝接到战报，十分高兴，命人在昭莫多山上树立石碑，记述此事。
这时候，噶尔丹的侄子策旺阿拉布坦得到康熙皇帝的支持，占领了准噶尔帮地阿尔泰山以西的地方，同噶尔丹作对。噶尔丹想回老家又回不去，只好收集残兵败将，在阿尔泰山以东地方游荡，靠打猎捕鱼过日子。同时，因为噶尔丹连年兴兵打仗，弄得准噶尔人长期不得安宁，人们越来越怨恨他，追随他左右的人纷纷离去，最后只剩下一千多人了。康熙皇帝得知这个情况，就派人去对他说：“只要你肯投降，入朝谢罪，皇上一定依照优待喀尔喀蒙古的规格招待你。”但是，噶尔丹不肯认输，拒绝了劝降。
为了免除后患，康熙皇帝又在康熙三十六年（公元一六九七年）第三次亲征，噶尔丹听说了，就派他的儿子到哈密借兵。没想到哈密王把他的儿子捆起来献给了清朝。他左右的亲信不是远逃就是投奔清营。无论噶尔丹把营帐扎到哪里，都不断地接到告急的警报，弄得他一夜要换好几处地方，连个囫囵觉都睡不了。他常常迷惑不解地对周围人说：“世界上的人真的不一样吗？听说皇上不论走到哪里，哪里的沙滩就要涌出甘泉，石头上也生青草，是天助他吧！我部下的人都投奔他去了，是人助他吧！如今我该如何是好呢？”过了些日子，他见自己众叛亲离，就吃毒药自杀了。他手下人把他的骸骨和女儿钟齐海献给了康熙皇帝，追随他左右的三百户人也全部投降了。
康熙皇帝下令赦免准噶尔各部侵扰内地的罪过，封噶尔丹的儿子为一等侍卫，编入张家口外察哈尔旗。又把喀尔喀蒙古各部增编为五十五旗，命令他们回阿尔泰山以东故地驻牧。他还下令在狼居胥山建立了一块石碑，记述了平定噶尔丹这件大事，噶尔丹叛乱平定以后，蒙古族地区才安定下来。