从灰牢制度中获利最多的似乎是衙役。衙役们很善于利用在押人犯牟取利益：可以利用盗窃嫌疑人夜出盗窃，得脏分肥；可以利用民事诉讼，作弊诈骗；可以向命案牵涉人敲诈勒索；可以**奸污在押女人；可以私下收钱放人；以关班房为威胁手段敲诈平民；向在押人犯收取高价饭钱等等。
“灰牢”发展到现代，又有了新的表现形式。湖北省监利县棋盘乡党委书记李昌平因为向国务院总理上书，为农民负担沉重叫苦而成为知名人物。他在《我向总理说实话》一书里，谈到了因为办“学习班”而造成农民自杀的事件，其中说到十几个人关在十几平方的“小黑屋”里。这里的“学习班”和“小黑屋”是什么东西？是一个权威部门用来关押“有过失”的人的地方，在这里，关押是强制实施的，是作为惩戒手段使用的，是对人生自由的剥夺。具有这些特征的地方正是监狱；然而，乡政府属于行政部门，没有权力建立监狱剥夺公民人生自由，因此又不好称为监狱；所以叫“灰牢”。“学习班”是干部的叫法，“小黑屋”是农民的叫法，都是一个东西。“学习班”的历史甚至可以追朔到延安时期，当时的叫法是“学习组”或者叫“整风班”。
嗡嗡嗡期间，各个单位关押“牛鬼蛇神”的地方叫“牛棚”，其实也是一种“灰牢”。
开会学习总要把人圈在某个特定的时空之中，与会者总要暂时丧失部分自由，那么圈三五个小时是圈，圈三五个月也是圈；拘禁关押与开会学习的分界究竟在哪里？这种模糊性提供了一个空间，在此模糊空间之内，可以产生一种合法伤害他人的权力——这可是很有利用价值的东西。这种模糊性正好开发出低成本伤害他人的权力。对各个单位的得势者来说，握有这个武器便比较容易整人。东西既然好，需求量自然比较大，牛棚便容易普及了；也确实在嗡嗡嗡中普及到几乎每个单位。比起牛棚来，学习班的参加标准更宽泛，谁敢于说自己不需要、不应该学习呢？这种更加模糊的特性，使学习班的生命力和普及程度又超过了牛棚。
据李昌平介绍说，一个“小黑屋”就是一个监狱。在监利蹲过“小黑屋”的农民每年都数以万计。关押的需要产生于征收粮款的需要，有人抗粮抗款，基层政府不得不打击震慑，于是“灰牢”小黑屋出现了，“灰警”纠察队也出现了。由于政府人员严重超编，又超标准建设办公楼房和宿舍以及小汽车。在上述背景下，农民抗粮抗款和干部的镇压就很容易理解了。这是真实而要紧的利害冲突，“灰牢”就是这种冲突的产物，其功能是维护干部受益和农民受损的利益格局。
按说，超标准楼房和超编干部工资都不属于合法权益，属于利益分配的潜规则体系，但他们又确实获得了地方权势半公开的、瞒上不瞒下的支持，对治下百姓根本就不屑于躲躲藏藏，因此我们可以把“灰牢”定义为支持“潜规则”和“横规矩”的威慑手段。
在实际征收粮款的时候，公共利益（合法征收部分）与代理人利益（超编干部和超标准用品）是搅和在一起的。谁说得清楚抗粮抗的是哪一部分？代理人的利益之所以能够搭便车，正因为有这种模糊性存在。
小黑屋的发明者没有受到任何处分，反而荣升了；这就是说，他们是只受益不受害的，受害的主要是无权势的下层百姓。不过，侵犯平民百姓也有一道灰色界限，越过这条界限便可能遭到反抗，使侵犯者也受到伤害。这种反制能力正是维护边界的关键因素，即决定灰色界线位置的关键因素。平民对灰牢所代表的对自身权利边界的压缩是认可的。从班房开始，经过牛棚到学习班，灰牢一直没有遭遇真正的反抗，甚至没有遭到质疑。中国农民接受潜规则式的征粮标准，也接受灰牢的关押。他们不闹也不告，他们并没有把人生自由和公民权利之类的漂亮说法当真；不过这已经是底线了，更深入的侵犯就难免遭到抵抗，比如，抓人可以，但不能把人打死。
真正能阻止一些官吏成为酷吏的，恐怕既不是上级，也不是良心。把上级和良心糊弄好并不难；关键在于如何分配损害，换句话说，就是要看我是否惹得起那些我打算损害的人。所谓惹不起，就是损害他们的风险很大，自己可能因此遭到相同甚至更大的损害；所谓惹得起，就是损害他们是件有赚头的事。正如《老残游记》中说的：“民家被官家害了，除却忍受，更有什么法子？倘若仍旧发回来审问，再落到他手里，还不是又饶上一个吗？”
在明清时代，即使在告状等于白告的时候，官吏对百姓的侵犯仍是有底线的。不要“激变良民”就是底线。一步又一步的压缩总要导致风险递增。随