黄维对其他认罪悔过的战犯，大肆讥讽挖苦。他对监狱睡觉不许关灯的规定也非常不满，大骂没有人性。当时功德林战犯管理所里既有国民党战犯也有日本战犯，日本战犯享受不用劳动优待。黄维就大骂：“我们再有罪也没日本人罪大，凭什么日本人可以待着，我们就要劳动。”

右四为黄维

黄维在南平集附近的周庄被俘。从被俘起的第一天开始，黄维就表现出不合作、不配合。中原野战军联络部长杨松青动员十二兵团的高级将领给被围在陈官庄的杜聿明、邱清泉写劝降信。八十五军的参谋长陈振威写好了信，请各人签名，只有黄维不签。
一个年轻的新闻记者采访黄维：“你为什么不早些投降。”
黄维把桌子一拍，大吼起来：“有战死的烈士，没有苟活的将军，我为什么投降。为了国家民族利益，我要战斗到一兵一卒……”
这仿佛预示着改造黄维是一个艰巨的任务。
事实也是这样：黄维和杜聿明、宋希濂等人一起被关在位于北京德胜门外功德林路一号的功德林战犯管理所。中共创始人之一李大钊曾在这里被张作霖杀害。初到功德林时，黄维抱定“不成功便成仁”的决心，“君子不事二主”，与管教人员坚决对立。管教人员曾撰写回忆文章说：他认为自己所以成为阶下囚，就是因为打了败仗，“抗战胜利时共产党也尊称蒋先生是人民领袖，失败了就骂他是独裁者。”
有回忆说，黄维对其他认罪悔过的战犯，大肆讥讽挖苦。他对监狱睡觉不许关灯的规定也非常不满，大骂没有人性。当时功德林战犯管理所里既有国民党战犯也有日本战犯，日本战犯享受不用劳动优待。黄维就大骂：“我们再有罪也没日本人罪大，凭什么日本人可以待着，我们就要劳动。”
对于父亲的这些过激言论，黄慧南说，“以前没有问过，不知道父亲是不是这样说过，但是父亲是个不服输的性格。”
有同期战犯回忆说，在战犯管理所，黄维走路始终挺着腰杆，将军风范丝毫不失。他还留起了胡子，自称“在国民党时期留的胡子不能在共产党的监狱里剃掉”。在随身的本子上写下了于谦的《石灰吟》和文天祥的《正气歌》自勉。
当时监狱规定每个战犯要读一些指定的学习书，并结合自己的罪行谈读书体会，杜聿明读了《论持久战》，写下万余字的读书笔记，并且要求把自己的读后感寄给蒋介石，而黄维却拒绝写任何悔过书，他说自己“无罪可悔”，所以黄维在战犯和管理人员眼里是“拒绝改造”的典型。
44岁的黄维在功德林战犯管理所“斗争”的时候，他并不知道家人在外面急切地等待着他的消息。