考诺诺夫生于1902年，在1918年俄国内战中，他的父母亲因为是哥萨克人而被红军处死。为了活下去，1920年，考诺诺夫隐姓埋名加入红军；1924年，他加入了共产主义青年团；后来，他进入了著名的哥萨克人布琼尼元帅领导的第一骑兵集团军第14哥萨克师。