针对于司马迁的历史评价，从古至今历朝均有大学者做过客观公正的描述。汉代研究《史记》的名家，当推扬雄和班固，他们都肯定了司马迁的实录精神。扬雄在《法言》一书中写道：“太史迁，曰实录”。“子长多爱，爱奇也。”杨雄是赞扬司马迁实录精神的第一人，他提出的实录与爱奇，为历人者所赞同，直到现在。班固是汉代系统评论司马迁的第一人，《汉书》中有《司马迁传》。班固在赞语中说：“自刘向、杨雄博极群书，皆称迁有良史之材，服其状况序事理，辩而不华，质而不俚，其文直、其事核，不虚美、不隐恶，故谓之实录。”说司马迁“不虚美、不隐恶”，可谓一语中的，世称其当，后人皆服。而司马迁的“实录”精神，已成为中国史学的优良传统。唐代研究《史记》成就最大者当推散文大家韩愈、柳宗元。韩、柳肯定了《史记》一书的文学价值，奠定了司马迁在中国文学史上的崇高地位。韩愈十分推崇司马迁的文学才华，他说：“汉朝人莫不能文，独司马相如、太史公、刘向、杨雄之为最。”他认为司马迁作品的风格是“雄深雅健”，《史记》成为韩愈作文的样本。柳宗元认为《史记》文章写得朴素凝炼、简洁利落，无枝蔓之疾；浑然天成、滴水不漏，增一字不容；遣词造句，煞费苦心，减一字不能。
宋人赞司马迁，其著名者为马存赞司马迁的壮游和郑樵赞司马迁的五体结构。马存认为司马迁平生喜游，足迹不肯一日休。司马迁壮游不是一般的旅游，而是尽天下大观以助吾气，然后吐而为书。所以他的文章或为狂澜惊涛，奔放浩荡；或为洞庭之波，深沉含蓄；或春妆如浓，靡蔓绰约；或龙腾虎跃，千军万马。司马迁世家龙门，念神禹立大功；西使巴蜀，跨剑阁之鸟道；彷徨齐鲁，睹天子之遗风。所以，天地之间，万物之变，可惊可愕，可以娱心，使人忧，使人悲者，子长尽取为文章，因而子长的文章变化无穷。南宋史学家郑樵认为：诸子百家，空言著书，历代实迹，无所纪系。而司马迁父子世司典籍，工于制作，上自黄帝，下迄秦汉，勒成一书，分为五体：本纪纪年，世家传代，表以正历，书以类事，传以蓍人。使百代而下，史家不能易其法，学者不能易其书。六经之后，惟有此书。可见郑樵对《史记》评价之高。金圣叹把《史记》作为“六才子书”之一，评论《史记》序赞九十多篇。他在评《水浒传》、《西厢记》中多次赞扬司马迁，发表了不少真知灼见。他说：“隐忍以就功名，为史公一生之心。”在评《屈原贾生列传》中说司马迁“借他二人生平，作我一片眼泪。”金圣叹可谓司马迁的知音。他对《史记》与小说关系的探讨独树一帜。“《水浒传》方法即从《史记》出来”，“《水浒传》一个人出来，分明是一篇列传。”
清人张竹波更直言：“《金瓶梅》是一部《史记》。”可见《史记》对后世小说写作技巧的广泛影响。钱谦益在《物斋有学集》中说：“司马氏以命世之才、旷代之识、高视千载，创立《史记》。”他认为司马迁创立的五体结构，成为历代史学家编史的样本，发凡起例之功“炳如日星矣”！章学诚在史学理论名著《文史通义》中说：“夫史迁绝学，《春秋》之后一人而已。”他认为《史记》一书“范围千古、牢笼百家”，司马迁有卓见绝识之能，《史记》有发凡创例之功。由于司马迁有卓绝千古的识力和笔力，《史记》是“经纬乎天人之际”的一家之言，章学诚俨然比于后无来者。赵翼在《廿二史札记》中说：“司马迁参酌古今，发凡起例，创为全史。本纪以序帝王，世家以记侯国，十表以系时事，八书以详制度，列传以专人物。然后一代君臣政事贤否得失，总汇于一篇之中。自此例一定，历代作史者，遂不能出其范围，信史家之极则也。”司马迁的五体结构史学框架，一经创立，即为经典。纵观廿四史，无一例外。赵翼称为“史家之极则”，可谓精当之至。
至于说到近现代，梁启超认为：“史界太祖，端推司马迁”，“太史公诚史界之造物主也”。梁启超对《史记》评价颇高，认为《史记》实为中国通史之创始者，是一部博谨严著作。他认为：史记之列传，借人以明史；《史记》之行文，叙一人能将其面目活现；《史记》叙事，能剖析条理，缜密而清晰。因此他主张对于《史记》，“凡属学人，必须一读”。鲁迅在《汉文学史纳要》一书中有专篇介绍司马迁。鲁迅认为：“武帝时文人，赋莫若司马相如，文莫若司马迁。”司马迁写文章“不拘于史法，不囿于字句，发于情，肆于心而为文”，因而《史记》不失为“史家之绝唱，无韵之《离骚》。”鲁迅的评价成为《史记》评论中的不朽名言。毛泽东在《为人民服务》文中说：“人总是要死的，但死的意义有不同。中国古时候有个文学家叫做司马迁的说过：‘人固有一死，或重于泰山，或轻于鸿毛’。为人民利益而死，就比泰山还重，替法西斯卖力，替剥削人民和压迫人民的人去死，就比鸿毛还轻。”毛泽东对司马迁很佩服，认为“司马迁览潇湘，泛西湖，历昆仑，周览名山大川，而其襟怀乃益广”。郭沫若特别赞赏司马迁的文学才华。他说：“司马迁这位史学大师实在值得我们夸耀，他的一部《史记》不啻是我们中国的一部古代的史诗，或者说它是一部历史小说集也可以。”1958年郭沫若在为司马祠题写的碑文中对司马迁有“文章旷代雄”、“功业追尼父”的赞语。由此可见，郭沫若认为《史记》的文学成就是极高的。郑振铎认为：自司马迁以来，便视历史为时代的百科全书，所以司马迁取的材料，范围极广，自政治以至经济，自战争以至学术，无不包括在内，其所网络的范围是极其广大的。所谓“文学史”也常常被网络在这个无所不包的“时代的百科全书”之中。