1943年4月，根据希姆莱的密令，特务将雅科夫在集中营中秘密枪杀。但是在未加审判的情况下私自处死战俘，而且是世界知名战俘，明显违反了相关国际法规定。为掩盖事实，希特勒手下捏造称，雅科夫系私闯集中营铁丝网，触电身亡。
1945年秋天斯大林准确得知雅科夫牺牲的消息，大病了一场，近乎失语。可见痛失爱子对斯大林打击之沉重。
朱可夫等将领在其回忆录中也提到，斯大林因为雅科夫之死已经承受了巨大痛苦。
以德军元帅换回儿子的建议为何遭到斯大林的拒绝，这需要回顾当时的军政形势。1943年，希特勒和德军高层之间已经出现了严重分歧———此后发生的某些高级将领密谋政变便是明证。希特勒认为，保卢斯被苏军第22师俘虏，已经犯下了不可饶恕的罪行，应该接受第三帝国的审判和惩处。如果希特勒得偿所愿，必将对军中反对派起到警示作用。也就是说，同意交换战俘，斯大林等于是给希特勒帮了个大忙。另外，斯大林作为苏军最高统帅，也不得不顾及成千上万儿子也沦为德军战俘的苏联父母的感受，一旦引发军队哗变和民心不稳，后果不堪设想。这就是斯大林“大义弃子”的真实原因。