出生于贵族家庭，其祖父彼得·戈洛文曾任俄国雅库茨克督军，其父和叔父在宫廷斗争中都是彼得一世的支持者，所以身居显位。戈洛文依仗祖、父两代余荫，从青年时起进入宫廷，任内务官和侍臣，被上层集团视为年轻的干才。

17世纪初，沙俄开始向西伯利亚扩张，建立了零星的侵略据点。从17世纪30年代起，俄国殖民者即觊觎黑龙江流域。1640年，戈洛文的祖父曾经派遣一支70人的军队远征黑龙江，但中途折返。未达目的，不久，俄国入侵者占领了精奇里江地区，并向鄂尔古纳河扩张。至1682年（清康熙二十一年），其军事据点已分布黑龙江下游地区。清政府为解决两国争端，曾进行长期努力，但未获得结果，不得不做战争准备。1685年6月，中俄爆发第一次雅克萨战争，俄军战败投降。1686年1月30日，戈洛文被沙皇政府任命为赴华谈判全权大使。使团成员包括皇宫侍臣、宫廷护卫、译员和几名军官。随行军队有1938人。戈洛文被授予外交、行政、军事等方面的广泛权力。沙皇政府还规定了使团的任务、权限及谈判方案。特别是制订了三个领土划界方案：最高要求是以黑龙江为界；其次，是以比斯特拉河（即牛满河）和结雅河（即精奇里江）为界；第三个方案是以雅克萨为界。1686年2月5日，戈洛文从莫斯科启程，10月3日，至雷宾斯克。戈洛文使团在雷宾斯克住了8个月，于1687年3月与从北京返回的先遣信使会合。信使带回康熙帝关于“勘划边界，停止征伐，互相和好”的信函和其他重要情报。七月底，戈洛文使团到达贝加尔湖西侧的伊尔库次克，旋渡河于9月21日至东岸的乌的柏兴。1688年10月，戈洛文率军偷袭在希落克河畔游牧的蒙古牧民，烧杀抢掠，并强迫其归顺。1689年初，戈洛文又派使者前往北京，商洽会谈地点和时间；他本人则于6月24日从乌的柏兴出发，于8月19日抵达黑龙江与尼布楚河汇合处尼布楚城，而中国谈判代表则已于七月下旬抵达此处。8月22日，中俄谈判开始，戈洛文采取先发制人、以攻为守的策略，声称中方侵犯了俄国边界，制造流血事件。中国使团首席代表索额图据理反驳，指出俄国的侵略才是导致雅克萨战争的真实原因。戈洛文又一口咬定贝加尔湖周围和黑龙江流域为俄国领土，索额图则举出实例证明这些土地隶属中国。翌日，双方举行第二次会谈，继续讨论划界问题。戈洛文要求把边界划到牛满河，索额图对领土问题做出重大让步，提出以尼布楚为界。戈洛文则抛出第三个方案，即以阿穆尔河（黑龙江）为界。为达目的，戈洛文除会上威胁、欺骗外，还在会后贿赂清朝代表团中的西方传教士徐日升和张诚，试图从中牟利。中方代表坚决顶住了戈洛文的压力和讹诈。1689年9月7日，双方签订《中俄尼布楚条约》，明确规定两国东段边界以格尔必齐河、外兴安岭和额尔古纳河为界线。同时，在中俄贸易上也作出规定。这是中俄签订的第一个平等条约。