黄埔三期生，长于演讲，记忆力很强，能吃苦耐劳、任劳任怨；在蒋介石心目中留下了“好学生”的印象
康泽，字兆民，四川省安岳县人，1904年农历七月初出生在四川安岳县双龙铺（今来凤乡）山坳里的一个普通的村民家。以屠猪为业的父亲康历全，依照康氏族谱给他取名代宾。代宾7岁那年，父亲因病丢下他和一弟一妹撒手西去，一家4口人便全靠母亲康何氏常年手工纺织来维持艰辛的生活。
康代宾8岁开始在双龙铺村塾上学。两年后，母亲送他到圣泉寺通贤场小学读书，吃住在大姑母吴康氏家。学校有一位叫罗用之的老师，对康代宾发愤攻读颇为赏识，常常给他鼓励和帮助，加上康氏族人的支持，他得以继续升学。其母为减轻自己的劳动，给他收养了一个童养媳。这童养媳年纪虽不大，但却非常贤惠勤俭，一心一意帮助康母操持家务，让康代宾在外安心读书。
1919年，康代宾15岁，从通贤场小学转到安岳县城县高等小学读书，翌年考入安岳中学。在中学读书期间，康代宾学习成绩连年皆名列前茅，同时受孙中山先生革命思想的熏陶，又亲眼目睹辛亥革命后军阀混战、民不聊生的社会惨象，萌生了救国救民的思想。
1924年，康代宾中学毕业时，听说孙中山先生在广州黄埔岛创办陆军军官学校，便跃跃欲试，想去投考。在进步教师李恒生、刘卓安的帮助和族人康纪鸿的接济下，康代宾远赴广州，于1925年考入黄埔军校第三期。因他对当年曾拼着一死去刺杀清王朝摄政王载沣的年轻革命党人汪精卫十分景仰，便在入学后效法汪兆铭（汪精卫字兆铭），改名兆名，号泽。以后，以号代名，遂以“康泽”之名闻于世。从此，康泽讲话的举止、动作、辞令一概模仿汪精卫。康泽长于演讲，记忆力很强，在各种场合讲话从不带讲稿，而且词句简练，有条不紊，经长期模仿，还真有点汪精卫的风度和派头。
在黄埔军校学习期间，康泽学习勤奋，性格刚强，生活朴实。他秉承了四川南部山区农民那种吃苦耐劳、任劳任怨的传统美德，不贪玩乐，甚至节假日也不外出游逛。有个星期日，康泽独自在教室里聚精会神地整理校长的训话笔记，突然听到有脚步声，转头一看，见是校长蒋介石在教官陪同下进了教室。康泽赶忙放下笔起身作立正姿势。蒋介石径直来到他的身边，翻阅了他的笔记，问道：“你叫什么名字？为何不休息?”教官介绍道：“他叫康泽，学习很用功。”蒋介石频频点头，叫他坐下。从此，康泽在蒋介石心目中留下了“好学生”的印象。
毕业后，经蒋介石推荐，康泽被选派苏联莫斯科中山大学继续深造。
在莫斯科中山大学，康泽与贺衷寒、邓文仪、郑介民、谷正钢、谷正鼎为同期同学。他们气味相投，欲在政治联合中形成自己的势力。他们看到，在中山大学就读的有三四百名中国国民党党员，就想拉这些人结成派系，作为日后回国争取权力的政治资本。于是，大家推举贺衷寒领衔，康泽助之，以留法学生中有国民党、共产党旅欧支部为由，发起组织中国国民党旅莫支部。这个活动，因遭到校方坚决制止，加上也未得到国民党中央组织部批准，闹腾了一阵子便流产了。
1927年10月，康泽从苏联回国，任北伐军总司令部侍从参谋。同年冬，任国民革命军陆军第二师政治部主任。1929年11月，军中政治部撤销，康泽改任陆海空军总司令部政治训练处“剿匪”宣传大队队长，在职两年，曾参加中原大战和反共军事“围剿”。
1931年“九一八”事变后，抗日救亡热潮在全国兴起。但蒋介石此时并不热心抗日，而是考虑如何对付共产党人，于是南昌行营别动总队成立，康泽任少将总队长，在江西剿共时期为蒋所重用。在共产党人曾建立过的根据地，康泽的别动总队特别活跃，督促地方进行清剿，恢复政权行使。
“剿匪”失败，蒋介石的地位受到威胁，他开始整天冥思苦想，盘算着建立一个新组织，用以加强他的独裁统治。他惯以采用骂人诱导的方式，让下属想出办法来迎合他的意图。
该年11月初，蒋介石召集康泽、贺衷寒等十几个得意门生开会，叫骂了一通就宣布散会，过了几天，蒋介石又连续两次召集这些人开会，再三重复骂过的话。
当这帮学生中终于有人提议要团结起来时，蒋介石顺势表露了一点心迹：“你们怎样能团结起来？今天团结，明天就闹意见。好吧，你们试试也可以。我想，我们要有苏联那种‘克格勃’的组织就好了。我们今天的力量是够的。”
康泽这个忠实的学生对校长的话心领神会，便站起来说：“据我所知，苏联的‘克格勃’是它政府的一部分，是挑选最忠实最干练的党员去组织的。”
蒋介石听后便指示说：“你们慢慢去研究吧。”过后，学生们对校长意思研究的结果是建立一个新组织，康泽被推举为五个筹备人之一，负责起草纪律条例。
1932年3月，蒋介石又召集这帮学生开会，康泽把起草的纪律条例呈报给蒋介石，其主要内容是：“（1）不得违抗命令；（2）不得有小组织；（3）不得泄露秘密；（4）不得倾陷同志；违犯以上四条之一者，处以极刑；（5）不得贪赃纳贿；（6）不得狂嫖滥赌；（7）不得娶妾；违犯以上三条之