刘知幾于高宗永隆元年（680年）举进士而入仕，武则天长安二年（702年）开始担任史官，撰起居注。历任著作佐郎、左史、著作郎等职，并兼修国史，参与了《唐书》《武后实录》《姓族系录》《睿宗实录》，重修《则天实录》《中宗实录》等撰述活动。其间，他因不满武则天和唐中宗时史馆修史的紊乱和监修贵臣们对修史的横加干涉，曾在中宗景龙二年（708年）毅然辞去史职，“退而私撰《史通》，以见其志”。
刘知幾的史学批评意识，得力于他在史学上的修养。他自称：“自小观书，喜谈名理，其所悟者，皆得之襟腑，非由染习……其有暗合于古人者，盖不可胜纪。始知流俗之士，难与之言。凡有异同，蓄诸方寸。”[1]这说明他在史学批评上有多年的积累。他的史学批评意识，因受到武则天、唐中宗时史馆修史活动的混乱与低效而更加强烈和自觉。他深沉地写道：