源于明代中叶鲁西南菏泽（古曹州）地区兴起的民间小曲自娱演唱形式“庄家耍”（又称“玩局”），至清代中叶，将原来唱曲使用的伴奏乐器古琴和古筝改为扬琴（又称“蝴蝶琴”）、四胡、古筝、琵琶以及简板和碟子等，发展为多人分持不同乐器自行伴奏，分行当围坐表演，以唱为主，间有说白或对白的说书形式。再后来，伴奏乐器又加入了坠琴（又称坠胡），并成为伴奏使用的主要特色乐器。

山东琴书采用山东方言表演，因脱胎于民间的“小曲子”联唱，所用唱腔曲调十分丰富，有200多支曲牌。发展为琴书说唱之后，使用的曲调逐渐集中，最为常用的有所谓“老六门主曲”即〔上合调〕〔凤阳歌〕〔叠断桥〕〔汉口垛〕〔垛子板〕〔梅花落〕。清末民初以来，进一步发展成以〔凤阳歌〕和〔垛子板〕为主要曲调，并穿插少量小曲进行说唱的音乐体制。节目也以中长篇书为主，兼唱小段儿。

山东琴书分南、北、东三路流行，并有各自的代表性艺人和流派。南路为最早的一支，流行于鲁西南地区，以茹兴礼及其创始的“茹派”最具代表性，演唱不用花腔巧调，行腔深沉，咬字真切，节目多为愤世之作；北路以济南为中心，广泛流行于鲁西北地区，以邓九如及其创始的“邓派”最具代表性，表演善用方言俚语，于淳朴中显幽默，平易中求韵味。东路以广饶、博兴为中心而流行于胶东各地，以商业兴、关云霞夫妇及其创始的“商派”最具代表性，唱腔优美动听，富于变化。

山东琴书的传统代表性节目，长篇有《白蛇传》《秋江》以及移植而来的《杨家将》《包公案》《大红袍》等多部；中篇有《王定保借当》《三上寿》和《梁祝姻缘记》等七八十部；短段儿多为早期小曲子节目中传承下来的经典之作。

中华人民共和国成立后，山东琴书得到新的发展，流行范围扩大至山东省以外。并出现了经过加工整理的优秀传统节目《梁祝下山》《水漫金山》等。中篇《夺印》，短篇《十女夸夫》《姑娘的心愿》《大林还家》《锔瓷盆》等是具有重要影响的新创作节目。

山东琴书演出照（济南市曲艺团）