秦、汉时以廷尉主刑狱，审核各地刑狱重案。汉景帝、汉哀帝、东汉末汉献帝、南朝梁武帝四次改为大理，均仍复旧。大理寺是北齐时正式设立的。置判寺一人，又加少卿一人，其掌职是审核刑狱案件，作为国家最高司法机构，南朝梁武帝第四次改为大理，均仍复旧。
隋唐时沿用此制，从隋朝开始大理寺，刑部，御史台是皇帝之下三大司法机构。唐朝时大理寺职权：行使中央司法审判权，审理中央百官与京师徒刑以上案件；凡属徒流案件的判决，须送刑部复核；死刑案件须奏请皇帝批准；同时对刑部移送的死刑与疑难案件具有重审权。
宋分左右寺，左寺复审各地方的奏劾和疑狱大罪，右寺审理京师百官的刑狱。宋朝时大理寺职权：北宋前期降为慎刑机关，负责地方上奏案件，内部无刑狱设施，不管犯人的审讯事宜；神宗时始设大理寺狱掌管京师诸司刑事案件的审判。
明朝大理寺职权：掌复核拨正，发现有“情词不明或失出入者”，驳回刑部改判。并再行复核，如此三改不当者，奏请皇帝裁决。清朝承明制，大理寺主要职责复核死刑案件，平反冤狱，同时参加秋审，热审等会审，如发现刑部定罪量刑有误，可提出封驳。
明清以前，大理寺权较重；明清以后，大理寺虽仍为“三法司”之一，但主要权力逐渐转向刑部。洪武二十四年（1391年）六月，大理寺丞周志清提升为卿，又说“大理之卿，即古之廷尉，历代任斯职者，独汉称张释之、于定国，唐称戴胄。”明、清由大理寺、刑部、都察院会审，称三法司。
决狱之权三在刑部，但大理寺不同意时，可上奏圣裁。清光绪二十四年（1898），一度并入刑部，旋复旧。清光绪三十二年（1906），改为大理院。明清时期各中央司法机构的职能与隋唐时期相反，刑部负责审判，大理寺负责复核。大理寺于清朝改称为大理院，起名沿用至民国。民国中期，易名为最高法院，而大理院目前是泰国最高法院的名称。
