1975年夏天，王凤祥被派到莫斯科任使馆三等秘书，为当时驻苏联大使当翻译。此前，他已经在外交部经过了10多年的锻炼。

　　对于那个年代的中苏关系，王凤祥用“三个一”来概括，即“一个大使馆、一次航班、一趟列车”。中苏双方无任何往来，见面就是吵架，大使馆只是一个两国还有外交关系的象征；至于飞机和火车，乘客稀稀拉拉，还大多是途经莫斯科去第三国的。

　　在那样一个紧张对峙的时期，36岁的王凤祥更愿意把人生的第一次驻外当成一种使命。那时驻苏联大使馆工作被视为是一条十分敏感而又极端重要的战线，政策性和纪律性强，要认真准确领会中央的精神和指示，执行任务要慎之又慎，不容半点偏差。王凤祥在大使的言传身教下，“成长很快”。

　　在莫斯科工作了５年后，1980年，王凤祥回到北京。此后，中苏紧张关系开始有所松动。从1983年开始，两国开始双边磋商，断断续续谈了七年。作为对苏联有着丰富经验的王凤祥也参与了其中的一些谈判，“但谈判是聋子的对话，你说你的，我说我的，最大的收获是双方终于建立了磋商渠道”。

　　直至1989年5月，戈尔巴乔夫访华，邓小平以他高屋建瓴的战略家智慧提出“结束过去、开创未来”的八字方针，从此结束了长达25年的中苏对峙关系。而令王凤祥遗憾的是，因为爱人病重，他未能参与这段历史性的工作。

　　1991年7月，他开始了为期两年的中国驻列宁格勒（现为圣彼得堡市）总领事的生活，其间正赶上苏联解体。再后来，在出色完成中国驻格鲁吉亚大使、驻拉脱维亚第一任大使的使命后，1998年初，他再次回驻莫斯科担任大使馆公使。

　　是时，俄罗斯处于全面的政治、经济和社会危机中，叶利钦四度更迭政府。王凤祥的夫人孙莉后来对媒体回忆那段驻外生活时不无感慨地说道：“（他）非常繁忙，常常要到后半夜才能休息，有时半夜还会被急促的电话铃声叫走。”