对于翟让的结交，徐茂公也没有多想，投其义气，相交甚好。徐茂公精通玄门之术，虽觉翟让豪雄，但终究读书甚少，是个粗人。故而深知他才能有限，算不得个成就大事之人。

不过，通过翟让，徐茂公迅速结识了江湖上许多好汉，特别是当时同郡响马头子，绿林瓢把子二贤庄庄主单雄信。

单雄信自幼习武，善使马槊，功夫精湛，其勇力不在翟让之下。而且，他为人尚义重情，犹其体恤百姓，时常做些劫富济贫之事。还有就是他平时也读书，又心怀大志，常以不能凭一己之力安天下为恨。这些都很与徐茂公相投契。

单雄信也是十分欣赏徐茂公，一经把酒言欢，即引为知己。二人便焚香歃血，结为了生死兄弟。

翟让倒是没有参与，否则可能又出个桃园三结义的剧情来了。不过翟让年长了许多，虽然江湖地位不如单雄信，但单雄信仍以兄长看待之。

次年，王薄首先率众在山东邹平南长白山起义了。虽然当时影响也很大，山东草莽英雄们尽皆摩拳擦掌的。但大家其实心里都清楚，首义之举，实在是风险太大。一时未有燎原之势，很容易被扑灭。

所以，翟让与单雄信都在暗中积攒力量。

翟让也组织了一帮子人，不过并未公然宣布起义，只是一股土匪武装一般流窜打劫而已。单雄信依然沿着老路子发展。他那些绿林弟兄，聚起来就是土匪，散开后则又化为了民，做哪行哪当的都有。完全就是个隐形的地下组织。

翟让所带的那伙人时常在曹州附近活动。徐茂公并没有参加进去。他不需要靠打劫为生。但他觉得翟让他们那样做不好。一是兔子不吃窝边草，照翟让他们那般做下去，难免不有人不守规矩祸害到老百姓，那样就可能要落下污名，不利于以后发展。翟让本身就治下不严，这是很有可能的。另外呢曹州油水也不多，不太容易发展壮大。于是，他就找到翟让，劝说翟让：“附近是你与我的家乡，乡里乡亲的，不宜侵扰。宋、郑两州地近御河，商旅众多，去那里劫掠官私钱物非常方便。”

翟让称善，于是便到运河上去劫取公私财物。几年间，所获财物无算。有钱就不缺人，不久翟让兵众大振，有徒众一万余人。

队伍大了，就得找个合适的地方安置大家。翟让对此有些头疼，就来找徐茂公求教。

作为一个道士，对山形水势的地理是比较熟悉的。何况徐茂公又习得了师父所授的兵法，自然更知到哪些地方宜于驻扎军队。

他向翟让建议道：“瓦岗山前面是金堤关，瓦岗山上有个瓦岗寨，已被废弃了许久了。你的人马若入驻瓦岗寨，再拿下金堤关，金堤关就成了第一道防守的天险。后面瓦岗山又险峻又有退路，这样你们就进可攻退可守了！”

翟让听后大喜，当即便邀徐茂公同往。徐茂公因在单雄信那边还有些事要办，并没有立即答应翟让。

翟让引军入驻瓦岗寨，自此称为瓦岗军。