刘俊即位后实施了一系列加强中央集权，强化皇权的举措。他通过撤除“录尚书事”职衔，并开始以中书舍人戴法兴、巢尚之、蔡闲等人处理中枢机要事务，由士族担任的尚书令、尚书仆射只剩下在公文上签名的权利，形成了后代所谓“寒人掌机要”的政治局面，孝武帝的集权化统治也被史书称为“主威独运，官置百司，权不外假”。
刘俊同时重用江东寒门沈庆之与伧荒北人柳元景，依照两人的功绩，先后提拔为三公，开启吴兴沈氏与河东柳氏攀升为南朝高门的起始之路，并开创南朝寒门、寒人以军功升为三公的先例。
此外，刘俊还提拔孤寒衰微的袁粲为员外散骑侍郎和侍中；拔擢寒门出身的颜师伯、颜竣、刘秀之等成为高官重臣；重用卜天生、鲍照、宗越、徐爰、邓琬、吴喜、沈文秀、刘胡、武念、毕众敬、张兴世等寒门士人，以及薛安都、崔道固、垣护之、柳元怙等晚渡北人。
刘俊极为重视人才的选拔，其用人不论门第，刘俊在位期间许多寒门士人广泛参与朝政。孝武帝在位期间多次下诏：“朕闻，四方秀孝，非才勿举，献答允值，即就铨擢”，各地士人孝子，没才能的不举荐，对答中肯的，立即擢用。若没有什么长处，只赐名誉；如有收受贿赂，举荐中弄虚作假的，削职为民，永不启用。”
大明六年，又下令各地奖赏才能卓著的人士，确有真才实学，品德高洁，淡漠名利，不攀权贵，或学贯古今，能经邦纬国，正直廉洁奉公，在百姓中德高望重的，都登记姓名报上朝廷。
而在刑律方面，刘俊对审讯制度作出两项重要的规定。第一，对凡是判处死刑的案件，郡太守必须亲自参加审讯，并且“若两千石不能决，乃度廷尉。神州统外，移之刺史，刺史有疑，亦归台狱。必令死者不怨，生者无恨。”
第二，鉴于魏晋以来，刺史、太守皆带军职，甚至不少县令也带“将军”的称号，他们往往跋扈一方，“大辟之罪皆自己决”或借口执行军法任意杀人，而不顾正式的刑律，导致刑法制度紊乱的局面频繁出现，刘俊于大明七年四月下诏：“朕闻，如果不是战场作战，不能再擅自杀人。如罪大恶极该当处死的，也应该遵循国家的法律条文先行上报，有关衙门要严加督察。再有违犯者以杀人罪论处。”这条诏令的颁布在当时是有十分重要的进步意义的。
王夫之曾高度评价刘俊此诏，解决了三代秦汉以来诸侯官吏恃权专杀不能革除的问题，称赞孝武帝此举“法乃永利而极乎善”。
又在大明三年下诏说道：“廷尉对于远近疑案，本应作判决，但一遇到疑难案子，动辄要过很长时间，百姓为此困苦，官吏乘机徇私情。从今日起，犯人押到，卷宗文书送到了就通报，我要仔细审理，不积压案件。如果文案繁杂，证据不足，必须亲自审查，以弄清真相。从今以后依旧听诉讼”；大明七年，诏令重申“简约法律，要考虑到有利于百姓”。
而在政区方面，刘俊通过改置州镇的办法削弱地方势力，他即位初，将扬州分为扬州及东扬州二州；将东晋以来废置不常的湘州最后稳定地设立起来，分统原荆州所统长沙等八郡；后又分荆州、湘州、江州、豫州共八郡置郢州，横跨数州之间；东晋以来，雍州侨置于荆州之内，无实际统治区域，宋文帝曾分荆州襄阳等五郡归雍州统辖，治襄阳，刘骏又进一步分荆州郡县充实雍州无实土的侨郡县，使雍州重镇形成，荆州因此再也不能发挥其昔日威胁建康朝政的影响，以至宋末沈攸之起兵失败之后，“江陵素畏襄阳人”的局面已大致形成。此外孝武帝还通过委任有真才实学的寒门士人担任州镇军府掌管文书的典签，使其往来于朝廷与州府之间，让他们负责传递州镇各项要务上报给中央审核，同时负责监督，传达中央命令和辅助地方州镇长官处理事务，并拥有随时将情况直接报告朝廷的权力，州镇起兵反抗朝廷的可能性大大削弱。
而官制方面，鉴于魏晋以来，由于朝政官僚皆为士家大族所垄断，负有“掌督司百僚”职责的御史中丞之职始终不受重视，几乎沦为摆设。宋孝武帝为此设立御史中丞专道制度以提高和恢复御史中丞的地位，加强对吏治的整顿。同时，他削弱东宫官属、加强皇宫禁卫，设置二吏部尚书，取消五兵尚书，将人才官员的铨选大权彻底收归皇帝手中。禁卫武官制度方面，孝武帝创立直閤将军制度。
此外，刘俊还复置了魏晋以来不设的卫尉武官制度，同时还复置了五官中郎将、左右中郎将、武卫将军、武骑常侍，大大强化中央禁卫军权，被南朝各代所延续，其中有些禁卫武官制度虽然从名称上是复置，但其和汉魏所设的禁卫武官已是完全不同属性的官职。
魏晋以来郡县官多为士家大族把持，而且一任六年，时间很长，不仅加剧了官员分配的紧张，而且往往导致一些大族得以在地方不断壮大和扶持势力，自东晋中后期以来郡县官六年制事实上也已名存实亡，多数官员任期已达不到六年。
刘俊对此进行改革，从制度上予以调整和承认，取消郡县官任免的入仕年限的门槛并缩短其任期，将郡县官的一任六年改为三年，此后的齐梁陈更是把郡县官的任期进一步缩减。同时，孝武帝开始以制局监掌控禁卫军权。制局监原是南朝领军将军的下属机构，多以寒门武人充任。但自孝武帝孝建年间始“制局用事，与领军分权，典事以上皆得呈奏，领军垂拱而已”。这从制度上，进一步加强了皇权对军队的直接控制。（本章完，。）