魏州人。初为魏州孔目官。天祐十二年(915)，晋取魏博，庄宗以孔谦为度支使。谦自少为吏，工于书算，犹善金钱谷物聚敛之事。晋梁相拒于黄河十余年，大小百余战，谦调发供应，从未缺乏。助庄宗成其功业的臣子中，孔谦的功为多，而百姓亦不堪孔谦的诛求之苦。庄宗即位后，孔谦凭借伶人景进多次向庄宗的推荐，而任租庸使。庄宗为帝初期，推恩天下，下诏免除百姓田赋及诸场务所欠税利，谦不遵诏令，依然督促收取。谦又请求减少百官俸钱，裁减节度观察判官和推官的人数。甚至阻塞天下山谷间的道路，以此来征收过往商人旅客的税。他又重新制定丈量田亩的竿尺。因此天下人因他而受苦，都怨恨他。庄宗同光四年(926)，庄宗死，明宗监国，明宗立即罢孔谦所立苛法，斩孔谦于洛阳，没收其家财。同时撤消租庸使，仍分设盐铁、度支、户部三司。