Nguyễn Vỹ sinh năm 1912 tại làng Tân Hội (sau đổi là Tân Phong, năm 1945 lại đổi là Phổ Phong), huyện Ðức Phổ, tỉnh Quảng Ngãi. Cha ông tên Nguyễn Tuyên từng làm quan ở huyện Tuy Phước tỉnh Bình Định, nhưng vì chống Pháp nên từ chức, mẹ là bà Trần Thị Luyến. Ngoài ra ông có người bác là Nguyễn Thuyên từng bị quân Pháp đày Côn Đảo, anh họ là Nguyễn Nghiêm, thủ lĩnh phong trào Xô viết Nghệ Tĩnh ở Quảng Ngãi năm 1930 sau bị giết hại tại tỉnh nhà.