古罗马起源于公元前10～前9世纪意大利台伯河下游的原始拉丁人部落，经过扩张发展，公元前1世纪末形成奴隶制强国，到476年西罗马帝国灭亡，前后经历了约1500年历史。根据古希腊和罗马作家的作品，以及考古获得的铭文和纸草文献，罗马的档案工作是从接受并保存希腊的预言书开始的。这时罗马还没有自己的文字，他们通过学习希腊人的字母创造了自己的拉丁文，于是开始积累拉丁文文件。罗马的书写材料，除石头、金属(如青铜板)和木板外，主要是纸草和羊皮纸。关于罗马早期档案工作的史料极少，难得其详。
在罗马国家繁荣时期，官僚机构发达，有许多地方机关。政府有严谨的立法活动，有广泛的国际性政治和贸易联系，有巨大的私人财产和与之相联系的私法关系。这一切必然导致大量文件的形成和积累，因而形成了各种类型的档案馆或档案库。主要的可分为两大类，即祭司(宗教的)档案馆和非宗教的档案馆。
祭司档案馆最古老，在罗马国家早期起过巨大作用，后来在世俗权力占优势的时候，由于祭司在国家生活和社会生活中的决定性作用，仍然保持了它的意义。最重要的祭司档案馆有：①预言书保管库。设在卡皮托利诺山上的朱庇特神庙里，负责保藏来自希腊的预言书手稿。它是最古老的祭司档案馆，其历史可以追溯到公元前6世纪。预言书手稿同神庙的金库在一起，由专门的祭司部管理，只有根据最高政权的命令和在特殊情况下，才能查看。②最高祭司团档案馆。它在祭司档案馆中是最重要的，也是很古老的。设在祭司长的府邸，往往在卡皮托利诺山上的朱诺女神庙里。它保存的管理日历的材料及与之相关的编年史材料，反映了社会生活的一切重要事件。它还保存有丰富的法律史和法律理论史料，有关祭司团内部生活的材料，以及经济性案卷。③军事外交祭司团档案馆。设在卡皮托利诺山上的菲得斯女神庙里。军事外交祭司执行国际关系方面的重要职能，并负责拟制和保管书面文件。公元之初，该馆藏有3000份条约及其他外交文件的简板，88年毁于火灾，被视为国家最大的灾难。④占卜祭司档案馆。占卜祭司作为预言者，其主要职能是应当局的请求，解释某种措施是否宜于实行的“征兆”。该馆保存有元老院和执政官的查询和答复查询的注释副本。
非宗教的档案馆，反映了罗马国家繁荣时期的政治和经济生活。主要有：①国库档案馆。当时称为“埃拉里”（Aerarium），即国库或宝库，属于元老院，是罗马共和国最重要的档案馆。设在邻近元老院的萨图尔努斯神庙里。收藏元老院本身形成的文件：会议记录、法律草案、元老院决议、已批准的法令、与外国缔结的条约等。起初文件与钱币、军旗等珍宝放在一起。后在条约保管方面，逐渐取代了军事外交祭司档案馆的地位。国库档案馆也接受其他机关和私人档案馆的重要材料。随着罗马国家威力的增长和疆域的扩大，国库档案馆在公元前1世纪发生了显著变化，名称改为“塔布略里亚”（tabularium），即国家档案馆，重点由实物珍藏变为文字珍藏。公元前78年，国家档案馆迁到一所专建的巨大建筑物内，从此脱离了在神庙保管档案的旧传统。国家档案馆由财政官领导。由于财政官作为选举的长官每年更换，所以起主要作用的是司书和档案员。司书负责答复查询和办理机关与个人需要的文件副本；档案员官职低于司书，负责按内容整理文件和保管文件，查找副本并按需要作摘录。还有学会了文字的国家奴隶，从事执行性的体力工作。档案馆的材料都是蜡板和成捆的简板以及成卷的纸草档案，重要文件往往用羊皮纸制作。档案材料按机关、负责人和文件种类在登记簿上登记和在库房中排列，有些档案按年排列，编有册号、张号和目录。②监察官档案馆。它是一种机关性的档案馆，设在神女庙。公元前443年，原来由行政长官执行的都市调查权交给了由贵族选出的两名监察官。监察官每5年选举一次。该馆收藏的档案，包括公民名册、公民的誓词和声明、骑士名册、兵役适龄青年名册、元老院议员名册、公民品行评价文件、捐税表册、国家财产收入清单，以及其他财政性质的文件。这些材料在形成5年后移交国库档案馆保存。③刻瑞斯神庙档案馆。它是由平民创建的档案保管处所，保存与平民有特别利害关系的文件。平民保民官和市政官的文件就保存在这里。公元前449年，平民取得了在刻瑞斯神庙档案馆保管元老院决议副本的权利。此前，平民不能接近贵族掌握的档案。
档案馆在国家和私人生活中有重大作用和意义。机关、官长、城市公民都求助于档案馆。档案既用于实际目的，也作为国家和历史知识的源泉。M﹒T﹒西塞罗作为法学家，经常利用档案审理案件，处理财政问题；小加图为了准备担任财政官的职务，在国库档案馆抄录了多年的国家财政收支帐目，以使自己明了国家状况；C﹒塔西佗也在国库档案馆研究罗马立法史，屡次从文件中汲取史料，以丰富其历史著作。
在帝国时期，档案馆的组织和管理改变很少，但个别档案馆的作用发生了变化。随着元老院地位的衰落，塔布略里亚丧失了以往的意义。皇帝档案馆成为国内最重要的档案馆，设在皇宫内与皇帝办公厅在一起。在帝国晚期，它迁到了君士坦丁堡。
在罗马帝国境内还有大量的其他种类的档案馆，诸如机关档案馆和官长、商人、高利贷者、大地产主、手工工场主、法学家、作家和学者的私人档案馆。在罗马的各行省，有总督档案馆、国家机关档案馆、自治城镇档案馆、各种宗教的神庙档案馆和各种私人档案馆。
4世纪末叶，罗马帝国分裂为东西两部。476年西罗马帝国灭亡，奴隶制罗马的档案史基本结束。罗马的档案遭到了悲惨的命运，涂蜡的木板和纸草卷在火灾中化为灰烬；铜板档案或是在火灾中熔化，或是被进犯罗马的敌人劫走，去制造武器或其他东西。罗马统治末期存留下来的档案，由于保管不善，也逐渐毁坏或被用作书写材料。但是，古罗马的档案仍有一些被保留下来，成为人类的宝贵文化财富。
