由于他对磁学方面出色的研究，得到一笔奖金，这才使他于1895 年秋天能前往英国，在剑桥大学卡文迪许实验室任主任、著名的物理学家约瑟夫·约翰·汤姆生教授门下当一名研究生。汤姆生非常欣赏卢瑟福的才能，1898 年加拿大麦克吉尔大学物理学教授空缺，学校派专人前往英国物理学人才最集中的卡文迪许实验室来聘请教授。汤姆生虽然不愿放走崭露头角的卢瑟福，但他还是向加拿大方面热情地推荐了自己的得力助手。汤姆生在推荐信中写道：“在独创性的科学研究中，我从未见过有比卢瑟福先生更加热情和干炼有为的学生。我认为，不论哪所大学若请到卢瑟福先生去担任物理学教授，将是十分幸运的。”就这样，27 岁的卢瑟福前往加拿大担任物理学教授，他在麦克吉尔大学工作了9 年，把原来无足轻重的物理系建成了驰名世界的物理实验室，在他精心的指导下，一群学生各自探索科学中的许多领域，发表了具有世界水平的论文达50 多篇。

在加拿大工作期间，卢瑟福研究了天然放射性现象，并取得了巨大成就。1899 年，他发现铀放射出来的射线是多种多样的。他让这些射线垂直于磁感应强度的方向通过磁场，根据射线被磁场偏折的程度，他判断出有一种射线是带正电荷的，另一种射线是带负电荷的，第三种射线根本不带电。卢瑟福用希腊文的头三个字母给这三种射线命名，分别称为α射线、β射线和γ射线。后来，他进一步研究提出，带正电的α射线就是氦原子核，带负电的β射线就是高速电子流。

在麦克吉尔大学工作期间，卢瑟福还发现了新的放射性元素钍。1902年，他发现放射性元素在放出射线以后，其放射性强度会逐渐减弱，最后变成另一种元素。在实验的基础上，他提出了放射性元素的衰变理论。因此，在1908 年，卢瑟福获得了诺贝尔化学奖。他对自己不是获得物理奖而是获得化学奖而感到意外，他在得奖演说中风趣地说：“我竟摇身一变，变成一位化学家了。”并幽默地说：“我现在从一个物理学家向一个化学家的变化是我到目前为止所见到的最快的变化。”

1907 年，卢瑟福回到英国，应聘担任了曼彻斯特大学的物理学教授。他以赶超剑桥大学卡文迪许实验室为自己的奋斗目标，以充沛的精力和惊动全世界的科学成就，使曼彻斯特大学第一次成为全世界的科学中心之一。