不過，當時這麽多人為他老爹送行，他有請大家喝酒吃飯嗎？這麽多張嘴吃喝，可是一筆不小的開銷，竇建德人已經變成塵埃不知道飄那裏去了，史書上也沒有說他有沒有犒勞鄉親們，但這不重要，知道他是有人格魅力的男人就行了。他還是鄉裏的裏長，想必是鄉親們推舉的。

  隋煬帝大業七年（611年），隋煬帝招兵征討高麗，征戰遼東時，四處征壯丁，竇建德在名單，被認命為二百人長。

  這一年大鬧水災，饑荒，同縣有個叫孫安祖的人，拒絕入伍，被縣令往死裏打，他反抗殺死了縣令，逃跑投奔竇建德。竇建德本來對隋超暴政不滿，不想入伍為這樣不值得的朝廷賣命，於是跟孫安祖一拍即合，招集逃避征兵和沒有家產的人，駐在名字有點古怪的高雞泊（今河北故城縣），本來就想在這裏圖個安穩，不被人騷擾，過個有口飯吃的小日子，沒想過要反隋，但接下來發生的事，著實惹怒了他，不反不行了。

  蓨縣人高士達招集了一千多人，在清河郡一帶活動反隋，各處屠殺搶劫百姓，估計也是被竇建德獨居人格魅力的男人感染，唯獨他的家鄉不騷擾，政府的人，以為竇建德跟這人勾結，把竇建德家裏人給全殺了。氣極的竇建德率領手下的二百多人歸順高士達，正式有心反隋。

  高士達任命他為司兵，並不斷把自己的部隊給竇建德統領，後來孫安祖被人殺死，他部下的幾千名士兵投奔到了竇建德，從此隊伍逐漸壯大，發張到一萬多，但還是在高雞泊一帶活動。

  大業十二年（616年），涿州通守郭絢率領一萬多人馬到高雞泊討伐，高士達有一個很多人沒有的優點，那就是有自知之明，知道自己謀略不如的竇建德，提升他為軍司馬，軍權全權叫給他。竇建德為了不辜負上司的信任，想著一定要用一切手段把郭絢打趴下，向上司證明自己行，於是想出詐降這麽個損招。兩位戲精，假裝鬧矛盾，高士達把俘虜來的一個倒黴女人，當著眾人麵給宰了，說那是竇建德的老婆。竇建德假裝派人告訴郭絢，他要投降，跟他合力一起打敗高士達，為他老婆報仇。郭絢相信了竇建德的謊言。他們各自帶著部隊，準備商量如何對付高士達時，竇建德趁郭絢的部隊放鬆警惕時，襲擊了郭絢的部隊，郭絢大敗，被竇建德斬殺，俘獲幾千人，得戰馬一千多匹。

  不久，心浮氣躁的高士達被隋朝廷派太仆卿楊義成殺死，竇建德全權統領了高士達的部隊自稱將軍，先是攻下平原縣，接連攻下隋朝好幾座郡縣，一路對活捉的隋朝官吏和當地士紳都以禮相待，逐漸擁有精兵強將十多萬。

  由此，竇建德的人生開始開掛，軍隊和土地擁有的越來越多，氣焰逐漸囂張，漸漸割據一方，的，野心勃勃地要逐鹿中原。