此职最早见于三国时吴国，乃孙权于黄龙元年置。“上大将军”之职并非汉制，而是其独创。“吴于大将军之上复置上大将军”。