一位普通的农户家里，一只母狗生下三胞胎狗仔，母亲在怀上它们时，父亲公狗就离家出走。两个月后，母狗染上瘟疫被人活埋了。不久，大狗死于车祸，小狗夭折。剩下老二长着深灰色的毛发，乳名叫小灰。小灰狗乍小没有大狗管教，野性十足，上树捣鸟蛋，下河摸鱼虾，摸爬滚打练就十八般武艺；小灰狗长大后性格乖张，勇猛好斗，他在田间摆局布阵做战场，把鸡鸭当着假想敌。有一回邻居的大公鸡经过它的防地，竟把公鸡咬死了，主人还赔人家三斗米。
从此，附近的鸡鸭见了小灰狗都躲得远远的，唯恐避之不及。小灰狗静卧在家门口，几天不动手脚又发痒了。一位小男孩路过门前，小灰狗冲过去，小男孩吓得尿了一地，趴在地上“投降”。它扒下人的裤子当着旗帜胜利挥舞。小男孩的父亲找到了主人家，说：“你这狗不教育不行，将来要出人命的！”
主人当着他的面狠狠地打了小灰狗一顿，又赔了小孩一套新衣。小灰狗仍不思悔改，有一次抓田鼠，又把人的庄稼拔了，主人被叫去“苦役”三天……
主人觉得小灰狗是个灾星，不知还要捅出多大的漏子来呢！他决定把小灰狗远远地打发掉。那天一大早，冒着冷冽寒风，主人叫醒小灰狗，要带它到镇里赶集。小灰狗长这么大还没出过村，心里特高兴。临行时主人拿条绳子要套在小灰狗脖子上，小灰狗开始不乐意，想就是把它抛在八里十里之外，也能嗅着味回来。可听主人说对自己爱护，便乖乖地把头伸出让主人系着。
小灰狗活蹦乱跳来到镇上，主人牵着它走进畜禽贸易滩点，小灰狗看到鸡鸭还有小猫、小猪都关在笼子里，特别好奇，比手划脚想去亲近。主人勒紧手中的绳索，不由它胡来。
主人找个滩位蹲着，买了块光饼给小灰狗啃。小灰狗长得相貌平平，又矮又小。主人本想为它找个好人家，蹲了半天也无人过问。中午，天下起大雪，他们又饥又寒。主人牵着小灰狗走进一家香气四溢的酒馆，小灰狗以为主人要请它美餐了，伸出舌头，口水直流。
主人把它交给店老板牵着，接过100元钱掉头就走了。小灰狗感到不妙，啃断绳索要随主人去。店里走出四五个彪形大汉，给它拷上铁链，戴上枷锁，然后捆在店旁的电线杆上示众。另一只狗从柱子上解下来，那只狗绝望地嚎叫，接着人们给它当头敲一棒，拖进去开膛剥肚。小灰狗感到下一个就是它牺牲了。它想自己一身好武艺指望为主人建功立业，主人却狠心把自己卖了。它冤屈地仰天吠叫，声如洪钟；时而又低头呜咽，音如拉琴。小灰狗的叫声引来路人的关注，可是人们不是怜悯小灰狗，都是冲着狗肉而来，小灰狗越叫店主的生意越红火。街上雪花飞扬，人们缩着头，搓着手，跑进店里喝碗热气腾腾的狗肉汤。
此时，卖完山贷的猎户李骑路过店门口，从小灰狗的吠声中听出冲天的豪气和满腹的哀怨。李骑很能相狗，他一看小灰狗长得尖耳长嘴，细细的小眼睛闪烁灵性，这是一只不可多得的良犬。李骑走上前，摸摸小灰狗头，小灰狗摇着尾，乞求李骑救它一命。
店老板热情地打招呼：“吃狗肉吗？”
李骑不敢说是买猎狗，如让老板知道要抬扛，问：“整条狗肉怎么卖？”
李骑这段时间走背运，前几天猎狗让人偷杀了，光靠自己只能打些野鸡出售。经过讨价还价商定价格后，他身上却凑不齐现钱。“我去取下钱，这条狗一定要给我留着！”
李骑借了钱就跑回来，却不见了小灰狗，他直喊：“老板，狗呢？”
老板出来说：“打了，正要剥皮呢。”
他顿时怒道：“怎么打死了？”
老板纳闷：“你不是说买狗肉的吗？”
李骑才恍过神，忙说：“我是买回去给老人生日用的，不是现在杀了。”
“快去看看宰了没有，说不定还有一口气。”
李骑跑到厨房里，忙叫厨师放下屠刀，他摸摸肉板上的小灰狗已没了气息，但身上还存余温。
李骑背着大灰狗回到家，女主人埋怨道：“叫你找猎犬，你怎么买条死狗回来？”
他小声对女人说：“这可是一只好猎狗，都说狗有七条命，但愿这只狗命大，能活过来。”
李骑常听老猎人说黄泥能救活狗命，他们家的就是泥土地面，拿锄头一挖，下面就见黄泥巴。他把小灰狗放进泥坑中捂着，又在旁边燃起一堆火。李骑烤火取暧，目不转睛地守着狗。夜深人静，李骑昏昏睡着，梦见小灰狗走来，嘴里叼着根灵芝献给他，小灰狗转身腾云驾雾而去，李骑喊着：“小灰——”
醒来眼前的小灰狗真的不见了，他急忙叫出女人问狗哪去了。土木房子四处通风，无遮无挡，女人说：“可能是让野畜叼了或是人偷了吃吧？”
夫妻俩分头搜寻。女人突然一声怪叫，惊讶地发现窝里的大公鸡也不见了。
李骑跑到门外一看，雪地上留下一排爪印。他提枪循着印痕上了山，雪光映照下，看到前方岩石旁，一只狐狸拖着一只老母鸡。李骑举枪要射击，老母鸡还活着咯咯叫，狐狸劫持着老母鸡为质，他迟迟不忍扣动板机。眼看狐狸就要进洞里去，突然一只狗像二朗神的天犬从天而降，咬死狐狸，救下老母鸡。
李骑认出是小灰狗：“神灵保佑，小灰真的活了！”
小灰狗叼着狐狸，带着公鸡奔来。
到家天已大亮，李骑忙叫女人烧水做早饭，剥了狐狸的皮晾起，烹了狐狸的肉做菜。他自己盛了一碗饭，给狗也装了一碗，自己夹了一块肉，也夹一块肉给小灰狗。
小灰狗从没吃过人的饭菜，过去在农户家里，它只喝米汤和馊菜，饭食连猪都不如。夜里，小灰再不要在屋檐下挨冻了，主人为它腾出了间专房，抱来柔软的稻草给它铺床。后来，连主人自己也搬来跟它一块住，主人睡在上铺，它睡在下铺。惹得女主人醋意大发，半夜三更来敲门……
白天，李骑授小灰狗训练科目，教它潜伏、追击、捕杀……
到了春天冰霜消融，林中的野畜倾巢而出，践踏庄稼，掳夺家禽。附近的几位农民送上聘礼：红布一块，猪蹄一对，活鸡一头。请猎主去“除害”。说有两头大野猪频繁出现，啃食青苗，拱毁堤埂，还咬伤多人。
李骑拭亮猎枪，带着大灰狗整装待发。女主人忧虑说：“小灰还没出过猎，能行吗？听说那两头野猪可凶猛，被咬伤的人至今人还躺在医院，其中一个还残废了。”
主人怒道：“出猎前净说不吉利话！用‘犬’不疑，疑‘犬’不用！连狗都不信任，我怎能相信自己！”
主人和小灰狗在山口埋伏一夜。凌晨，一陈悉悉率率声响，一只老母猪霍然出现了，足有一百多斤重呢。
主人一声哨令，小灰狗冲了上去。大野猪根本没把小灰狗看在眼里，蹄刨地朝它猛撞了过来；小灰狗一闪身，反咬住它的肛门，把它的肠子拉出一米多长，野猪嚎叫着逃去。主人忙举枪瞄准。突然，从身后哗啦啦跳下一只公野猪，主人吓得扔掉枪，抱头蹲在地上喊：“小灰，快救救我呀！”。
小灰狗一跃而起，尖牙像双刃插进公野猪的喉管，鲜血喷涌而出，老公猪呼噜噜倒地。
小灰狗乘胜追击受伤的老母猪，直捣老巢，一把拽出母野猪的肠子，缠着它的四肢，老母猪挣断肠子咽了气。主人跟上围住洞口，两只成年野猪想逃窜，张开血盆大口向人袭击。近距离长枪展不开，危急中主人受大灰狗的勇气鼓舞，挥着枪托和两只小野猪捕斗，两下砸死了它们。主仆俩满身溅满血迹，相视而笑。大灰狗首战大捷：不费一枪一弹毙倒四头野猪！主人向山下喊人抬野猪。
横行乡邻的野猪被一窝端了，排列着抬下了山。人们把大灰狗当英难崇拜，一个个花环挂在了大灰狗的脖子上……李骑唤大灰狗为“将军”，人们戏称作“狗腿将军”。大灰狗由此成名，威震四方。
李骑“获利”后，鸟枪换炮，肩上土铳换换成了双管猎枪，跨上驾着轮摩托车，风驰电掣，大灰狗鞍前马后，如影随行，狞猎的范围也扩大几十里山场。附近山头上的飞禽走畜闻风丧胆，捉的捉，逃的逃……有人忌恨他们的“战果”，指着大灰狗鼻子说：“狗腿将军，杀戮过重，会得报应，小心哪天狗头落地……”
秋天里，林中落叶凋敝，视野开阔，是狞猎的最佳时机。主人带着大灰狗向群山纵深推进。他们走了两天两夜，才遇上一只野免，大灰狗挨着野免的尾巴大赛跑，免子很狡猾，来回地兜着他们转悠。免子躲到一只大陶罐后，大灰狗走近坛子，嗅出里面沉甸甸的铁矿味，这气味大灰狗的印象极深。有一回，女主人脖子上金灿灿的链子掉进了阴沟里，主人不顾死活把大灰狗推下深沟，直到它满身污秽咬着金灿灿的链子爬出来……大灰狗从那知道，这种金属贵物比他们的命还重要！
大灰狗还在抱着土坛子嗅，野免趁机逃脱。主人赶上来喊道：“将军，快去捕免子！那是装死人骨头的坛子——没什么好玩的，小心鬼魂缠身！”
大灰狗还在那一动不动，主人用枪指着它，骂道：“你再不走，我一枪嘣了你——那只坛子，就当你的棺材！”
主人过来一脚踢翻了坛子，大灰狗爪子伸进坛里，扒开一层腐土，眼前的根根金条如霞光灿烂。
主人看呆了，他知道过去这山上土匪聚集，解放后枪毙了一批土匪头，传说他们的财宝还埋在山里。多少年来，人们挖山掏洞不止，一无所获，原来财宝就在众人眼前的土坛子里。
主人欣喜若狂，砸了枪扔进了山涧。抱起坛子，赶着大灰狗下山。
此时，山上突然静得无声无息。树上的鸟禽，林中的野畜俱伸长脖子望着他们。只有大灰狗能猜懂它们的心思，这坛金子足可以让主人荣华富贵一辈子，再也不用狞猎了。山上的动物可以换得一段时期和平安宁，繁衍生息。
大灰狗回头望了一眼大山，此地真山清水秀。大灰狗对天汪汪吠了几声：“我还会回来的，10年、20年后，愿到那时水更清澈、树更茂盛。”
野免心里明白：“人只可共患难，不可共富贵，大灰狗这是有去无回的。”
主人拿出部份黄金和大灰狗到城里换成一扎扎现钱，信口雌黄有位海外亲戚汇来一笔款子投资。李骑在村里办起木器加工厂，把廉价的木材资源制成工艺品，销往海内外，赚取丰厚的利润。
主人一夜暴富。他在村盖起了豪华的府弟，顾了佣人。主人自然没忘了创业的第一大功臣大灰狗，在屋后为它建了寓所，还聘专职饲候它膳食的厨子。家事置齐了，他又办村里的公益事来，捐资建了小学校舍，铺了村里的水泥路，收笼人心……换届选举时，主人当选上村主任，成为一村之长，名利双收。
大灰狗从此无猎可狩，伸着懒腰，咬紧牙，身上的赘肉越长越多，心情越来越烦躁。大灰狗拿村里的母猪一试身手，母猪太不经打，一命呜呼；还有一次和小牛犊比武，几个回合就把牛逼到桥下摔断了腿……好在主人财大气粗，拿钱为它赎了罪。但是，主人担心大灰狗再这样蛮搅，会激起民愤。于是，主人把大灰狗圈在院子里，卖些体育器械给它练功。
这天，大灰狗趁大人不在，信步溜到主人的大厅，见小主人在地上哇哇哭闹，它过去叼着小孩的衣襟，挂在嘴上飞来跑去，斗得小孩格格直乐。哈八狗见了，跑去报告女主人，她赶来一看吓得面色发青，大声喝斥，大灰狗忙放下小主人。女主人已是贵夫人了，自从她有了新宠哈八狗，越来越看不惯大灰狗，嫌它随地大小便，不讲卫生、走路步子不轻巧，踏得地板嗵嗵响……女主人的哈八狗为了争宠，狺狺叫嚣，火上浇油。大灰狗冤屈有口难辩，一恕之下咬死了哈八狗。
“我看你是反了！”女主人叫人把大灰狗捆起，吊在树上拷打。
主人得信赶到家中，赦免了大灰狗“死罪”。主人觉得家里大灰狗再也不能呆，以免遭妇人的毒手。
主人把大灰狗带到厂里，让它看厂护院。大灰狗脾气很不好，看到有的女工头发染成畜毛样，便汪汪吠叫，把她们吓得躲进厕所不敢出来。或是那位客户进门不给它点头打招呼，它就把人逐出门外。这天，市地税局长到厂里视察，汪汪！大灰狗横冲出来。地税局长说：“你就是主人的狗腿将军吧，久闻大名，如今却成看门犬。狡免死，猎狗烹，历史规则就是如此。”
大灰狗横眉竖眼拒他门外，主人赶来喝退大灰狗，赔礼说：“这狗眼看人低，你别跟它计较！”
地税局长说：“狗仗人势，有其‘主’，必有其‘狗’呀。这可是一只名犬，你如今是用不着它了，卖给我好了？”
主人知道他是看上大灰狗身上的横肉。“你大局长要吃狗肉，满大街都是大肥狗，这猎狗只剩一副骨头架子。”
局长满脸肥肉堆笑：“你真是狗屁不通，只有这老猎狗，肉少却精，嚼着有味！”
地税局长号称“狗肉局长”，不仅爱吃狗肉，还有个怪痞。就是专买老猎狗杀了，剥了皮，拿整条狗来腌制、熏烤，摆在房里活灵活性，想吃就刮几块肉下来。吃完了肉，再把骨头放在露天下，给蚂蚁噬干净，经风吹雨淋，直到骨头发白，便收藏起骨架。
主人心想大灰狗成了你的美味，我可成了出卖“功臣”的罪人，我可不当“昏君”。他叫人高价买了两头老猎狗奉送，才把地税局长打发走。
如此，厂里大灰狗也不能呆了，以免遭小人的暗算。
主人把它叫到办公室：“将军呀将军，我知道你功高盖主，可我怎么安置你呢？让你享福，你不甘寂寞，叫你看门，又屈了你。干脆放你到外面独立自主吧！”
于是，主人买下一座小山苞，做为大灰狗的封地，让它当个自由自在的山大王。再倍送四只美母狗给它，柔情似水，消磨英雄斗志。
一天，山上来位不速之客，这人叫包叔，是远近有名的地理先生。他抬上山一箱面包和牛奶，敬献给大灰狗。汪汪！大灰狗表示不授。包叔自己吃了几口，释解它疑心人投毒。包叔说：“将军正值壮年，怎能屈尊个小山王，这附近都是灵山宝地，山上藏匿无数财宝，地下古墓散落珍玩。将军如肯为我效劳，探得财宝，富敌李骑。我的儿子在边防当军官，叫他荐你入伍，保送你去培训深造，将来为国立功受赏，那才是真正的天下大将军！”
汪汪！大灰狗指天吠吠，又面朝山下吠吠，意思说我大灰狗本是农户的一只家犬，是主人把我从棍棒下救出，又给我天大的恩赐，我岂能背叛。大灰狗赶他下山，包叔长叹说：“将军不听我言，下场可悲呀！”
日久天长，人们怀疑李骑最初的资金来源，说是海外亲戚给的款，可至今都没见外商来过；也没股份，都是他自己独资。于是，谣言种种有人说是大灰狗捡到飞机掉下的美钞；还有的说是大灰狗杀了逃进深山的银行抢劫范……李骑听了虽为恼火，却无担忧。好在他的将军是条狗，不会说人话。他和大灰狗的秘密永远是个迷。
主人想念大灰狗，突然来到山上。它看到狗窝边的面包袋和牛奶盒，知道有人来找过狗腿将军。他的想法起了变化：虽然狗不会说人话，但狗会被人利用。大灰狗送主人下山时，敏锐地觉察到主人心中的狐疑。从此，大灰狗深居简出，再不和人接触，生怕惹出事端，祸及妻儿。
大灰狗怕出事可偏来事。村里一大家族姓陈人家，有一位女儿大学毕业分配在县公安局当法医，是村里人的骄傲。陈小姐刚交了位男朋友，男方父亲是当地公安分局局长。俩人到村里来度周未，夜里他们为寻剌激，悄悄跑到山上谈情说爱。大灰狗巡山经过，听到草从中响动，看到白哗哗的一团肉，以为是什么大猎物，扑上去一咬。男的啊哟一声痛叫，笔直坐起来，大灰狗看清是人，方知闯下了大祸。
陈小姐是法医，最忌讳狗咬，将男友送上医院，又是体检又是打防犬病针。尽管医疗费用主人全垫付，可她家人仗着男方的权势，纠集村民“逼宫”，要主人交出狗腿将军。大灰狗平日独霸一方，经常驱逐咬伤上山觅食的家畜，民愤很大，村民借机报复。
大灰狗怕殃及山上，它躲进主人的工厂。临别时，它召集妻儿嘱咐后事：“我早料到自己没有好下场，我这次要是能逃过此劫，我自会回来带你们走。要是我死了，你们就往深山密林去，那里经10年休生养息，应该草长畜肥，你们世代不要做农户的家狗，也不要当猎户的走狗，永远不要下山……”
村民举着火把，排成宛延的长龙向山上聚集。主人打发走工人，关起厂门。村民里三层外三层围着厂呐喊，要求交出狗腿将军治罪。
大门都快要顶破了，主人束手无策，坐在狗腿将军对面，一杯接一杯喝酒，醉熏熏唱喏：“大祸来兮力难保，将军恩夸若何？将军、将军夸若何？”
大灰狗跪在地上，舔了舔主人的脚趾，汪汪哭着向主人道别。
主人含泪挥手：“将军放心去吧，你的狗妻狗儿我会照应。”
大灰狗走到门旁，又转身望主人。
主人领会说：“你放心，我再也不会让它们当猎狗了！”
大灰狗再也无牵挂了。
大灰狗猛地从狗洞钻了出来，众人吓得不由往后退了几步。他们挥着棍棒叫喊着杀了狗腿将军！杀了狗腿将军！
大灰狗昂首翘望，它死也要站着死。却没有人敢上前去。有人想出个办法，拿块红被单蒙住大灰狗的头，大家蜂拥而上，把大灰狗打成了肉酱。