1843年，麦克唐纳*政界，开始了他的政治生涯。那一年他当选为金斯敦的议员。从此，他就一发不可收拾，节节高升，屡屡担任加拿大省的重要职务。
当然，最让人们难以忘记的是他促成加拿大国家的建立时所起的举足轻重的作用。18*年，为了解决加拿大省频繁出现的法律僵局，由麦克唐纳领导的保守党，乔治布朗（GeBrown）领导的自由党前身和卡提尔（Cartier）领导的魁北克政党组成大联合。这个大联合致力于改革加拿大的政治体系，并为将来改革取得一致意见迈出了关键的一步。
18*至1867年期间他着手立法工作，以使各殖民地联合成加拿大国家。当时的加拿大宪法BNA法案（BritishNorthAmericaAct），基本上就是出自他一人之手。18*年9月，在夏洛特敦，他带领加拿大代表团组织沿海各殖民地会议，在会上，代表们讨论他们之间的联合，麦克唐纳也向他们阐述了自己的观点。同年10月，联邦代表再次聚会魁北克，72项决议（也就是联邦计划）出炉。1866年新布伦兹维克省、新斯科舍省和加拿大两省同意加入联邦，而纽芬兰和爱德华王子岛反对。1866年联邦创立前的最后会议在英国伦敦举行，联邦协议也在这里完成。当时的大西洋三省同安省魁省并无很大往来，相反同美国倒是交往密切。但英国并不想继续直接管理该地区，因为会花费很多精力，所以鼓励他们加入加拿大自治。另外来自美国的骚乱直接促成了大西洋二省的决心。
1867年根据联邦协议，英国议会通过了“英国北美法案”，实施加拿大自治。加拿大自治领诞生之后，加拿大省分成了魁北克省和安大略省。当时加拿大第一任总督查理斯，摩克要求麦克唐纳组织第一界政府，随后，在1867年7月1日，他被授以爵位，他是唯一获此殊荣的殖民地领导人。
三、第一次大选
1867年8月，加拿大举行第一次大选，麦克唐纳领导的保守党获胜，他也成为加拿大的第一任总理，并且从此到他去世的24年时间，他有19年都在总理的任上，是任期第二长的加拿大总理。他也是加拿大当之无愧的国父。
在他任内，加拿大持续扩张。加拿大花了30万英镑从哈得逊（Hudson-Bay）公司手里购得鲁珀特的土地和西北自治区土地，这是一单历史上最大的土地交易，这些土地最后组成了西北自治区及加拿大中部的两个省份。1870年，为了对付路易斯，里尔的红河暴动，国会通过曼尼托巴法案，从西北自治区中分离并成立曼尼托巴省。1871年，卑诗省加入加拿大。自此加拿大横跨两大洋。
做为一个国家，最困难的就是维系一个国家纽带，尤其南面有一个十倍于加拿大人口的美国，文化上差异小，各个省同美国的贸易又非常密切。
麦克唐纳为了解决这个问题采取了三个主要措施，第一建立连接东西两岸的太平洋铁路。这在当时绝对时非常大胆的计划，美国刚刚完成他们的铁路，而加拿大从财力和人力上都非常困难。第二提高关税，鼓励国内贸易，加强省间的联系。第三大量移民，提供土地优惠，使得加拿大。
其中最难的就是铁路计划，当时许多省份加入加拿大的重要条件就是对铁路建设有要求。虽然铁路建设过程中困难重重，1885年太平洋铁路得以最后完成，这要归功于麦克唐纳的不懈努力。在铁路修建期间，他力排众议用各种方法解决资金问题，他决定雇佣华人劳工修建铁路。华人劳工吃苦耐劳，积极肯干，费用又低，果然没有辜负麦克唐纳的期望，很多华工为铁路的建设甚至献出了自己的生命。日后，麦克唐纳说“没有华工就没有铁路”就是对这些华工的最好肯定。1873-1879年贿赂丑闻导致他没能连任总理，而输给了自由党。但他很快又卷土重来，继续他的建国政策。
1*1年，他又一次赢得大选，但此时，这位76岁的政治家开始感到力不从心、沮丧、酗酒还有疾病缠身。1*1年，他得了严重的中风，无法说话，从此再也没有恢复。一周后，他去世了，时年76岁。同年6月9日，加拿大政府为他举行国葬，几十万加拿大人参加了他的葬礼。他被安葬在他们家来加拿大时的登陆地——金斯敦的一个公墓里，永远地安息在那里，同时也把悲伤留给了那些怀念他的人们。至今，仍然有很多去瞻仰这位加拿大开国之父的安身之地。