生于萨拉托夫一个农民兼小商人家庭,卒于莫斯科。1898年,参加俄国社会民主工党。1905年党的第三次代表大会上,当选为中央委员。多次被沙皇政府逮捕流放。积极参加十月革命。胜利后,历任内务人民委员、最高国民经济委员会主席、人民委员会副主席、劳动与国防委员会副主席。1923年,当选俄共(布)中央政治局委员。1924年列宁病逝后,被任命为苏联和俄罗斯联邦人民委员会主席,领导经济建设工作,参加反托洛茨基和季诺维也夫的斗争。
1928年,李可夫和N.I.布哈林等人在非常措施和农业集体化等问题上,与斯大林产生重大分歧,受到严厉批判。1930年,被解除政治局委员和人民委员会主席职务。次年,改任邮电人民委员,1936年被撤职。1937年,被开除出党。1938年3月14日,最高法院军事委员会以“参与托洛茨基的恐怖、间谍和破坏活动”的罪名,判处李可夫等人死刑。1988年2月4日,最高法院主席团撤销判决,为其恢复了名誉。同年6月21日,苏共中央监察委员会为李可夫恢复党籍。