楊玄感決定起事後，通知了自己的弟弟們，以及信得過的幾位故交。
不久，四弟楊玄挺、五弟楊積善帶著家僕數十人來到黎陽縣。
楊玄感召集李密、王伯仲、楊玄挺、楊積善開會，讓他們四人一起負責籌建軍隊。並等待二弟楊玄縱、三弟楊萬石到來。
相對於李密、王伯仲等人，楊玄縱、楊萬石經歷過兩次東征戰火洗禮，且是現任驍果軍高階將領，帶兵經驗更豐富。
5月中，二弟楊玄縱回到了黎陽。
只不過，他的樣子非常狼狽，且帶回一個不幸訊息：楊家老三楊萬石被涿郡留守薛世雄的人抓捕了。
原來，楊玄縱、楊萬石兄弟倆接到大哥信件後，立即去找暫代兵部尚書的斛斯政幫忙。
在後者協助下，二人頗為順利離開了遼東隊伍。
他們帶著送信人和十幾個同族親隨，來到榆關門下，叩叫守將趙元淑。
趙元淑已經收到楊玄感書信，知道該咋辦。
他不顧軍規，親自下樓開啟關門，領著他們穿越榆關防區，送他們出境。
十幾人向西進入涿郡防區後，楊玄縱和楊萬石合計：涿郡留守薛世雄是楊廣親信，楊家人若是被他逮到，一定凶多吉少。
二人決定分頭行動，各帶幾人，潛行越過涿郡轄區。
後來，楊萬石那幫人全部被涿郡官兵抓獲。楊玄縱這股也幾次遭到追捕，被抓走大半，只回來三人。
楊玄感忍住悲痛，安排醫師給楊玄縱三人治傷。
楊玄縱傷好後，成為新組建的黎陽起義軍大將軍，隊伍3萬人。
5月份開始，楊玄感已經停止向涿郡發運糧草。
涿郡留守薛世雄多次派人送來嚴厲質詢函。
楊玄感已派人與山東、河北幾處起義軍取得聯絡。
在楊玄感授意下，山東亂民王薄、張金稱、孟讓等，河北竇建德、孫安祖、高世達等，對黎陽運糧船進行了多次伏擊，“搶走”了幾批糧草。
楊玄感便以反賊四起、漕運安全無法保障為由搪塞薛世雄。
5月20日，薛世雄的軍信使送來皇帝楊廣通牒詔書：6月初一若不見黎陽督運使部運糧船抵達涿郡，則以謀反罪論處楊玄感等人。
眼看準備工作也差不多了，楊玄感、李密、楊玄縱、王伯仲、趙懷義、楊玄挺、楊積善七人開會，決定於6月初3起事。
起事的理由是右翊衛大將軍來護兒在東萊謀反、楊玄感奉皇上口諭率軍平叛。
大業九年（西元613年）6月初3，楊玄感在黎陽縣督運使部閱兵誓師，宣佈奉詔平叛：駐紮東萊海域的樓船軍水師大將軍來護兒，故意拖延時間不出兵配合皇帝東征。黎陽督運使楊玄感奉詔擔任河東大總管，討伐來護兒叛軍。
楊玄感同時宣佈：即日起，汲郡、河內郡全域戒嚴。
所謂的來護兒謀反，自然是楊玄感編造的幌子。
李子雄在東萊軍中試探來護兒後，認為拉來護兒入夥沒有可能。他一邊派人暗地裡給楊玄感報了信，同時自己也脫離東萊水師，帶著少量親信正在趕來黎陽的途中。
。口藉是只也，叛平去東軍率謂所
。軍行南向路兩陸水由，部幾分隊軍黎，後之師誓兵閱
。城都首是地的目正真的人等縱玄楊、李、玄楊
