为防止再次发生炸弹袭击事件，第二次大臣出洋考察决定分批出发，低调出行。端方和戴鸿慈带领首批考察团于1905年12月7日先期出发，其乘火车到天津，随后又由军舰护送至上海，最后乘坐美国太平洋邮船公司的巨型邮轮“西伯利亚”号前往日本。十日后，载泽、李盛铎和尚其亨率领的第二路考察团也从北京出发，同样前往上海搭乘外国邮轮出洋。
沙鸥点点，白浪滔天。此时的端戴团成员在“西伯利亚”号凭栏远眺，不禁心潮澎湃，感慨万千。二十多年前，北洋水师的很多将领也曾前往英伦等国负笈求学，可如今都已成了哀伤往事，他们中的一些人甚至在甲午年中便已为国捐躯。令人心情复杂的是，这次考察团的第一站，正是甲午战争的胜利者和向西方学习的成功榜样：日本。看来，洋务新政单纯的学习西方技艺，是不能挽救中国的。抚今追昔，考察团成员的心里，何尝不是感慨万千？
令考察团没有想到的是，国外舆论对清廷派出考察团一事的反应十分热烈。英国《泰晤士报》在当年9月3日和4日连续发表评论《论中国之前途》，对中国的新政改革和选派大臣出洋考察给予了很高的评价。五大臣正式起航后，《泰晤士报》又发表了一篇题为《中国人的中国》的文章，作者布兰德满怀热情地评论道：“人民正奔走呼号要求改革，而改革是一定会到来的。……今天的北京，已经不是几年前你所知道的北京了。中国能够不激起任何骚动便废除了建立那么久的科举制度，中国就能实现无论多么激烈的变革。”
由于分工不同，端戴团途经日本横滨后并没有详细考察，便直接去了美国。十天后，载泽团来到神户，正式开始了对日本的考察。在日本方面的安排下，考察团分别拜见了其总理大臣西园寺公望、外务大臣和陆军大臣等人。在日期间，载泽团重点考察了日本的议院、邮政、教育和地方行政机构等。日本方对载泽团的来访非常热情，专门指派了著名的法学家惠积八束博士给考察团仔细讲解了日本的君主立宪体系。
日本考察期间，正好是中国的传统佳节春节。这年的大年初一，日本天皇特意派出御用马车迎接载泽考察团入宫觐见和参观。觐见后，日本安排考察团对日本前首相伊藤博文进行了一次访谈。伊藤博文对此非常重视，他在会见前便派人向载泽团赠送了自己的两部著作，《皇室典范译解》和《宪法译解》，以帮助载泽考察团更好地理解日本宪政。讲解完后，伊藤博文又对载泽团提出的问题进行一一讲解。载泽对此做了详细的记载。
当时载泽问：“我们实行立宪，以何国最为适宜？”
伊藤博文说：“各国的宪政，无外乎两种，一种为君主立宪国，一种为民主立宪国。贵国数千年为君主国，主权在君，和本国的历史颇为类似，参用我国的制度颇为适宜。”
载泽又问：“立宪后，对君主制度有无阻碍？”
伊藤博文说：“对我国而言，并无阻碍。日本宪法规定，天皇神圣不可侵犯，天皇为国家之元首，总揽大权，并不旁落于臣民。”
载泽听后似有不解，便又问：“那君主立宪和君主专制有何区别？”
伊藤博文答道：“最主要的区别，在于专制国的君主不经过法律，随意下诏，而君主立宪国的法律必须经过议会讨论通过后，由君主裁定公布。法律一经公布，任何人等均须遵循。这是关键问题所在。”
载泽听后似有所悟。
随后，载泽团的成员又结合中国和日本的实际情况，与伊藤博文进行了深入的探讨。伊藤博文试图向载泽团表达的大概意思主要有这么两点：一是实行宪政，君权仍旧是国之权威，并不旁落，而增设议院等机构不过是辅佐君主；二是宪政的核心在于法治，任何国民（包括天皇在内），都要受到已经公布的法律之约束，法律一旦颁发，天皇也必须遵守，而不是像以往的专制君主可以口含天宪，任意妄为。
端戴团则先期到达了美国进行考察，就在日本天皇接见载泽团的同一天，美国总统罗斯福接见了端戴考察团。说来有趣，罗斯福总统的女儿在几个月前曾到中国游历，还得到了慈禧太后的接见。考察团赴美考察期间，恰逢罗斯福总统的女儿大婚，慈禧太后和光绪皇帝还特意委托驻美使臣向她赠送了首饰等礼品。
令考察团感到不可思议的是，他们参观美国国父华盛顿的纪念馆和故居时，发现里面居然“设施简陋，无异平民”。戴鸿慈在后来的日记中写道：“盖创造英雄，自以身为公仆，诚哉，不以天下奉一人。”也许在这时，考察团成员才明白了皇帝和总统的区别：“惟以一身事天下，不以天下奉一人！”
接见考察团后，罗斯福总统还在百忙之中给光绪皇帝写了一封信，说：“我非常乐意接待这些先生们，我将精心安排他们去考察我国的一些地方和部门，以便让他们顺利完成考察任务。我将为您的考察团提供一个方便而有效的计划。”
在欧洲考察时，两路考察团分开行动，各有侧重。载泽团偏重宪政和政府职能，考察比较详细，接待方也多有专家讲解。端戴团则偏重教育、工业、文化等，考察的国家比较多，日程安排紧凑，大多是面上的考察。在欧美各国各兜了一圈后，考察团于1906年7月先后回国。
在欧洲考察期间，端方为了更好地说服慈禧太后而特意从德国带回了一个最新的电影机，不料事后却不慎发生意外。据说，端方怕这个洋玩意在老佛爷面前运转不灵，到时出洋相，于是让随同考察的随员姚某先试放一下。谁知道因为操作不当，电影机里的乙肽灯泡突然爆炸，姚某竟然被当场炸死。隔壁会客的端方听到这么大的动静，还以为革命党又来扔炸弹，出去一看，却发现了这样一出的惨剧。真是不祥之兆。
载泽回国后，很快赶到北京复命。在慈禧太后和光绪皇帝接见时，载泽力陈各国之所以富强，主要是因为各国均以宪法为国本，而中国搞了这么多年的洋务运动，却没有成效，原因就在于不得要领。由此，载泽提出清廷立宪最好以日本模式为效仿对象。
当年8月，载泽又向朝廷上了一道密折，其中明确指出立宪有三个好处：一是君主神圣不可侵犯，君位万世不易，相位旦夕可迁，君主不负行政责任；二是外患渐轻，立宪是国际潮流，立宪后外国将尊重我国；三是内乱可平息，实行立宪后，革命党人也无话可说，即使想作乱也无人跟从。
慈禧见此折后大为动容，若有所思，似有心动。
端戴团回国后，也向慈禧太后和光绪皇帝汇报了考察成果，不料这时慈禧太后和光绪两人身体都不太好，汇报被分成好几次，时间稍长，慈禧和光绪两人便体力不支，难以支撑。最后，端方只好上了一道长折，痛陈国事，力请立宪。折中，端方也提出要效仿日本进行宪政，并设立预备立宪期。据说，慈禧太后看这个折子，足足看了有三个时辰，默然不语。
五大臣的立宪奏折上去后，受到顽固派官员前所未有的攻击，这些人出于对失去权力的恐惧，百般阻挠，肆意混淆视听，使得载泽、端方等人陷于孤立之中。诚然，数百年之固有积习，决不是一朝一夕所能改变的。即使是慈禧太后，她对当时的宪政改革也不免心存疑惧，立宪时间表的屡屡推迟，正是这种左右为难的心态体现。
