唐贞观八年（634年），唐太宗将越州改名为廉州，合浦历史从此进入廉州阶段。唐代廉州的管辖范围相对于汉代合浦郡而言，大为缩水，相当于现代的北海市加上浦北县（不含官垌镇），今日人们最熟悉的传统合浦县范围成于唐代。唐代廉州州治位于今浦北县泉水镇旧州村，旧州因为“旧廉州”而得名，区别于宋代的“新廉州”（今合浦县廉州镇）。相对于原来越州的治所位置而言，唐代廉州的位置有所南移，但继续留在辖区的中部，可能有更好地兼顾南北的考虑。廉州成立后，“合浦郡”除在唐玄宗天宝年间有过一次为期16年的实体“复活”外，就基本成为一个文化意象，不再作为一个正式的行政区划。

廉州的得名未必与廉政有关。唐代政区名字仍多以山川形胜命名，是为其朴素的含义。将地名赋予更多文化内涵的做法，更多出现在宋代。史籍对于廉州得名的缘由多表述为与大廉垌有关，当时在那一带就有一个大廉县，大廉县得名于大廉垌，县治可能位于今合浦县公馆镇一带。唐代制度与汉代不同，上下两级行政区不能重名，不能出现合浦郡合浦县这种格局了。作为大廉县的上级，新州的名字自然要有所区别，是为“廉州”。

安史之乱后，唐王朝为应对边疆危机，主动下放权力，到处设置节度使，由此导致藩镇割据局面。唐代中后期，今广西一带由在桂州（今桂林）的桂管、在邕州（今南宁）的邕管和在容州（今容县）的容管分辖，廉州受容管节制。但当时文人对合浦还是很尊重，即便去容州赴任，写诗时还是称为合浦。如刘长卿写的《赠元容州》：“拥旌临合浦，上印卧长沙。海徼长无戍，湘山独种畬。政传通岁贡，才惜过年华。万里依孤剑，千峰寄一家。累征期旦暮，未起恋烟霞。避世歌芝草，休官醉菊花。旧游如梦里，此别是天涯。何事沧波上，漂漂逐海槎。”

唐代廉州治所的位置毕竟位于内陆，指挥海上战事颇有不便，朝廷就在南流江下游设置海门镇这一军事单元。海门镇的位置与宋代廉州城并不重合，因为宋初的太平军是在海门镇的基础上建立的，而崇祯《廉州府志》明确指出太平军在后来新建廉州城的西南30里。从地理和沿革考虑，海门镇的位置可能在今乾江、烟楼一带。粟特人安玄朗的家族世居容州，他本人因为行政区划兼任海门防戍军都知兵马使，为朝廷收复安南作出重要贡献，戎马一生。他的人生事迹也见证了唐代廉州的民族交往、交流、交融。

唐代廉州刺史的权力远不如汉代合浦郡太守的大，这固然是因为中原王朝对岭南地区日益深入的开发伴随的行政区划细化，还与唐代的地方行政制度有关。唐代在州县之上设置道，变地方行政制度为道州县三级，基层的权力被大大削弱。唐代廉州的经济地位也不如汉代：合浦作为汉代海上丝绸之路的始发港，“始”既意味着开始，也意味着原始。三国以后，随着造船和航海技术的提高，商船可以直接穿过琼州海峡，贸易路线势必转向港阔水深、腹地广大的东南大港，如两晋时期的广州港、隋唐时期的扬州港。

尽管政治地位、经济地位都不如汉代，但唐代廉州的文化地位却远远超过汉代。就国内影响而言，唐太宗的爱女高阳公主在唐高宗时期被追封为“合浦公主”，合浦能够作为公主封号正说明其文化地位。到唐德宗贞元七年（791年），朝廷进士科考试以“珠还合浦赋”作为试题，也说明合浦在国内的文化地位。就国际影响而论，唐朝是一个世界王朝，合浦与国家同命运，文化影响力深入域外。唐玄宗天宝元年（742年），新罗国王金宪英继位，史称景德王。景德王积极向唐朝学习，这种对中国文化的倾慕甚至反映在地名的重新命名上，景德王更改新罗不少地名，使用与中国相同的名称。唐肃宗至德二年（757年），景德王改骨浦县为合浦县。朝鲜半岛的“合浦县”还有一个别号“还珠”，并建有月影台，显然是根据成语“珠还合浦”命名的。元世祖征讨日本时，就是以朝鲜半岛的合浦为基地。而现代韩国庆尚南道马山市的行政区划还有一个“合浦区”。古代日本也有一个“合浦”，位于本州岛东北部的青森县，因为同样产珍珠得名“合浦”，现有合浦公园。这估计也是遣唐使带回的地名。

朝鲜的“合浦”还在文学上产生影响，这并不局限于半岛文人创作的汉诗文，还影响到日本的文学意象。“浦岛太郎与龙宫城”是日本家喻户晓的民间传说。这个故事说的是一位叫浦岛太郎的渔夫，因救了龙宫中的乌龟，被带到龙宫城，并得到神女款待。临别之时，神女赠送他一玉盒，告诫不可以打开。浦岛太郎回家后，发现时移世易，已历七世。在他打开盒子的瞬间，盒中喷出的白烟使浦岛太郎化为老翁。故事用“顶天山之雪，乘合浦之霜”形容浦岛太郎变老的神态。然而，中国的合浦位处亚热带季风气候区，并非常年霜雪的严寒地带，是故“浦岛太郎与龙宫城”中的合浦当指纬度较高的朝鲜“合浦”。

五代十国本质是唐代中后期藩镇割据局面的继续，因此廉州辖境及治所位置变化不大。宋太祖开宝四年（971年），北宋平定南汉后，廉州治所与唐代一样，依旧在今浦北县泉水镇旧州村。开宝五年（972年），廉州治所迁石康县长沙场。历史地理学家郭声波教授认为长沙场即今合浦县石康镇沙芹村，由此看来，廉州治所与石康县治所并不在同一个位置，石康县治位于今合浦县石康镇顺塔村，二者距离10公里左右。宋太宗太平兴国八年（983年），宋朝撤销廉州及辖下合浦县，改设太平军，以此应对交阯政局的变化。在宋真宗即位以前，整整15年之间既没有廉州，也没有合浦县。直到咸平元年（998年）后，廉州和合浦县才被恢复。初始廉州治所位于原太平军所在地，宋神宗熙宁八年（1075年）交阯军队在廉州犯下屠城暴行，生灵涂炭，宋哲宗元祐三年（1088年）以后迁到现在廉州镇的位置重建廉州城。从这年算起，廉州古城将在2088年迎来建城1000年。

宋代廉州与唐代廉州同为州，辖境也基本相同，但地方官的权力进一步下降。宋朝统治者过度吸取唐末五代藩镇割据的教训，以文臣为知州，“三岁一易”。“知州”的全称是“权知某军州事”，“权知”意为暂时主管，因此宋代廉州知州的权力又比唐代廉州刺史的权力要小。

宋元符三年（1100年）七月初四，遇赦北还的著名文学家苏轼到达廉州，八月二十九日离开，总共寓留廉州57天。清乾隆四十一年（1776年），廉州知府康基田修建东坡亭纪念苏轼在廉州的这段经历，东坡亭后经过多次重修，至今尚存。