昌义之少有武干，随曹虎征战，多有战功。曹虎为雍州刺史后，以昌义之补防阁，为冯翊戍主。曹虎还朝，昌义之留雍州事萧衍，萧衍待其甚厚。齐末，战乱不断，中兴元年(501年)，萧衍起兵攻打东昏侯萧宝卷，昌义之为辅国将军、军主，除建安王中兵参军。时竟陵芊口有邸阁，萧衍派昌义之前去驱逐，昌义之每战必捷。萧衍军至新林，昌义之随王茂于新亭，斩获尤多。攻克建康后，萧衍以昌义之为直阁将军、马右夹毂主。