次日，柴进带了几十个人，让林冲混在里面，骑上马，出庄佯装打猎。路上碰到关卡，柴进说：“林冲就在里面。”哨官说：“大官人取笑了。”放开关卡。柴进一行人过了关卡，林冲辞别柴进，投奔梁山泊去了。
林冲独自行了十多日，一路上大雪不止。这天黄昏，林冲见前方湖畔处有家酒店，便走了进去，要了酒菜，向酒保打听去梁山泊的路途。酒保说：“此去梁山泊，虽只几里路，却无旱路，尽是水路。”林冲说：“你可与我觅船去。”酒保说：“大雪天，时已黄昏，上哪觅船去?”二人说着话，只见有一人身穿皮袄，正背着手观看雪景。林冲独自吃了一阵，吃得半醉，想起自己的身世，不由感慨一番，同酒保要来笔砚，往那粉墙上题了一首诗：
仗义是林冲，为人最朴忠。江湖驰誉望，京国显英雄。
身世悲浮梗，功名类转蓬。他年若得志，威镇泰山东。
写毕，林冲掷了笔，又吃了一会酒。赏雪那汉子不动声色地走过来，出其不意地拦腰抱住林冲，说：“好一个林冲，官府正出三千贯赏钱拿你，不想你落到我手里!”林冲吃了一惊，忙说：“我不是林冲，我姓张。”那人说：“你题的诗还在那里，如何抵赖?”林冲说：“你真要拿我?”那人却松开手，说：“我是跟你开玩笑的。实不相瞒，我就是山上头领朱贵，人称旱地忽律。这个酒店，就是山寨的眼线。”
朱贵说完，请林冲进了后面暖阁，重新上了酒菜，问：“林教头为什么打听山寨道路?”林冲长叹一声，说出自己的遭遇。朱贵说：“柴大官人于山寨有恩，既是他荐你来，明日我送你上山。”
次日一早，朱贵叫起林冲，二人梳洗了，吃了些点心。朱贵打开后窗，取一张弓，搭一支响箭，望湖面上空射去。林冲问：“这是干什么?”朱贵说：“这是号箭，山寨那边听得箭响，才放船过来。”林冲看时，对面一只小船，箭一般驶来。
朱贵与林冲上了船，不一会划到山下，二人上了山，过了三道关口，进了聚义厅，里面坐着三个头领，正是王伦、杜迁、宋万。林冲与头领们见过礼，呈上柴进的书信。王伦请林冲坐了，边看书信边思忖：我是个不第秀才，因得罪了官府不得不和杜迁、宋万占山落草。从柴进书信上看，这林冲是个十分有本领的人，他若看出我不如他，这山寨岂不是他的?王伦想罢，吩咐摆下酒席，款待林冲。吃了几巡酒，王伦说声：“来人。”一个喽啰捧出一个盘子，上放五十两银子，两疋绸缎。王伦拱手说：“山寨狭小，不堪林教头歇马，些小薄礼，请笑纳，望林教头改投大寨，以免误了前程。”
朱贵有几分不快，说：“柴大官人于山寨恩深如海，他荐来的人，哥哥怎往外推?”杜迁、宋万也一再劝说王伦留下林冲，也好壮大山寨的实力。林冲苦求半晌，王伦方说：“既如此，你得拿投名状来。”林冲说：“请拿纸笔来。”朱贵说：“哥哥不知，山寨的投名状，是要你去杀一个人，割下人头来，就是投名状。”林冲说：“这也不难。”王伦说：“给你三天时间，若拿不来投名状，别怪我不容人。”
次日早上，林冲吃了饭，由一个小喽啰引路，坐船渡到岸边，等了一天，也没等到一个行人。第二天，小喽啰引他到南山路上埋伏，半下午时，过来一队客商，足有三四百人。林冲见他们人多势众，无法下手。当日回去，王伦说：“明日还有最后一天，若拿不来投名状，你就不要上山来了。”
第三天，林冲随喽啰到东山路上设伏，晌午时，一个汉子挑着挑儿走过来。林冲叫声“惭愧”，挺手中朴刀跳了出去。汉子惊叫一声，扔下担儿逃了。喽啰说：“没有人头，有财物也可抵投名状。”正说着，一个大汉赶过来，高叫：“强盗，还我财宝来!”林冲看时，那大汉身材魁伟，脸上生老大一块青记，手提朴刀杀过来。二人你来我往，足足斗有三四十回合，不分胜负。忽听山上有人高叫：“二位好汉住手!”林冲跳出圈子，望山上看时，却是王伦等三人。三人下了山，渡过湖来。王伦说：“二位好刀法，真使得神出鬼没。这位是俺兄弟豹子头林冲，青面汉，你高姓大名?”汉子说：“洒家是杨老令公之后，名叫杨志，流落关西。年轻时应过武举，做到殿司府制使。因皇上要修建艮岳，让我们十个制使去太湖押送花石纲，因遇风打翻了船，我逃脱在外。近日闻听已赦免了罪行，收拾了一担珠宝，上京打点。请把担子还我。”王伦说：“你跟俺上山，吃几杯水酒如何?”杨志说：“洒家也不上山，只请你还了俺的担子。”林冲说：“早在东京，我就久闻青面兽大名，只恨无缘相见，今日幸得相遇，怎能让你走了?”
杨志为了讨还财宝，只得跟随众头领上了山寨。王伦摆下酒席，宴请杨志，寻思：看这杨志武艺不弱于林冲，若把他留下来，就可跟林冲互相牵制，便说：“这位豹子头林冲，原来是八十万禁军教头，因得罪高俅，被害得走投无路。杨制使若到东京，总是脱不出高俅手下，怎有用武之地?不如留在山寨，也当一位头领。”杨志说：“洒家是杨老令公之后，世代将门，怎能上山落草?”坚持要走。王伦劝不下他，只得留他吃了一日酒，当夜留宿在山寨上，次日早上，送他下山。
杨志回到东京，到各有关衙门打点了，各衙门都批文准他官复原职，最后来到殿帅府，高俅却说：“十个制使押运花石纲，九个都回来了，偏偏你失陷了，不来自首，却又出逃，虽然已赦了你的罪名，绝不再用你!”一笔把所有的公文都批倒了。
杨志的珠宝已用尽，盘缠也花光，眼看连吃饭、住店的钱都没有了。又过了几天，他实在无法可想，随身只有那口祖传的宝刀了。