曹州、单县等地区的大刀会组织最初出现于甲午战争时期，他们的首领是曹州人刘士端，他们的政治诉求是以“保卫身家”相号召，以各种不同的手段秘密地反对外国教会。1896年3月，刘士端邀集大刀会众约十万人在山东单县城关火神庙聚会，唱戏四天，以聚会友，展示功夫。他们大多手持红缨枪，来来往往，公开活动，捏言掐诀念咒，画符饮吞，排砖排刀，浑身上下无所不排，一夜即成，不畏棒击刀砍，不畏火枪洋炮。以其浑身功夫足以抵挡刀枪不入，故又有“金钟罩”、“铁布衫”、“无影鞭”等名号。时值甲午战争之后，社会秩序比较混乱，农村居民为患盗贼，无法处置，闻大刀会功夫能避刀枪，可以保身家，于是争相学习，不惜钱钞，富庶之家堕其术者几乎千万户。这大概是大刀会乃至义和拳最初引起农村居民兴趣的根本原因之所在，也是清政府在最初阶段予以容忍的原因之一。
刘士端为山东曹州烧饼刘庄人（今属单县），幼年时代从白莲教徒赵金环练习武术，习金钟罩。后参与创立大刀会，并逐渐上升为曹州大刀会的首领。与刘士端齐名的大刀会首领还有曹得礼，其家境不错，有田数十亩，为单县大刀会的首领。从他们的身份背景看，大概有点像游走江湖的艺人，他们凭借自己的身手吸引群众，并换得生活费用。当然，由于这批民间艺人常年游走江湖，在他们身上必然存在着浓厚的江湖义气。这种义气在升平时代固然有助于社会稳定和统治，而一旦社会动荡，这种义气又不可避免地成为社会动荡的因素之一。刘士端此次聚会似乎就带有这种性质。甲午战争后“海疆不靖，民间以此教可避枪炮，传习愈多，几乎无处不有。其愚者以为可保卫身家，其黠者遂借以逞其凶暴。兼以外来游匪从而煽惑，渐至聚众滋事。”“百姓有不随己者，群起而攻之；兵丁偶有触犯，鸠众而击之。”来自西方的天主教基于近代科学背景，当然不会相信大刀会真的能够刀枪不入，甚者或许指责这些江湖艺人为“妄诞”。于是大刀会就此与天主教结下仇恨，“凡天主教堂，思尽烧毁；天主教人，思尽杀灭”。尤有甚者，大刀会聚众数万人，在曹州、城武县、单县、丰县、沛县、萧县、砀山县、考城县、兰仪县同时举事，不仅烧毁了一些教堂，而且伤害了一些教民。这大概是甲午战争后大刀会起事的开端。