在八世纪的阿拉伯旅行家马尔瓦则的《论中国突厥人与印度》一书中还记载了什叶派穆斯林大批进人中国的最早史实。大约在七世纪八十年代,阿拉伯帝国内曾爆发了反抗伍麦叶王朝的武装斗争,反抗主力是什叶派穆斯林,在这次反抗斗争失败后,有一批什叶派穆斯林因逃避伍麦叶王朝的逼迫逐渐由西向东迁徙,来到中国北方,学会了当地语言,作了中外贸易的“牙客”。而今天的回族中,做牛。羊、马、干果、古玩等行业“牙客”的人仍有很多,特别是在北方一带,同时,中国穆斯林虽基本属于逊尼派,但在宗教细节的某些方面和日常生活中却有不少什叶派的残存印记,反映了当时迁到中国北方的什叶派穆斯林也是回族早期的先民之一。
安史之乱期间,唐朝曾借过阿拉伯帝国的兵士帮助平叛。据史书记载:“肃宗至德二年九月……,元帅广平王领朔方、安西、回纥、大食之兵十五万,将收西京……中军兵马使仆固怀恩领回纥及南蛮、大食等军,从城南过产水东下营。十月壬戍,收复东京(洛阳)。”叙利亚大学历史学系教授卡米勒尔·雅德博士的《中国与阿拉伯之间的历史关系》一文中也说,安史之乱时,唐朝皇帝曾向哈里发请授,哈里发“派遣了一支由阿拉伯人、突厥人和维吾尔人组成的军队,在突厥人业阿福尔的率领下前往中国,帮助中国军队平定了叛乱,恢复了中国皇帝的王位,中国皇帝向支援他的穆斯林官兵提出,如果他们愿意,他们可以留住京城,允许他们同中国女子结婚,并在762年敕建清真寺一座。”在今天西安回族中仍有与之相吻合的民间传说,有“回回巴巴”(爷爷),汉民娜娜(奶奶)”的说法,也反映了早期的回汉通婚。这些安居长安沙苑等地的平定安史之乱的官兵有些也成为回族早期的先民之一。
唐时,侨居或在中国安家落户的阿拉伯人。波斯人,据《通鉴》贞元三年条记载,玄宗天宝年间(742—756年)以来,“留长安久居者或四十年”,“安居不欲归”,“有田宅者,凡得四千人”。长安城内有专门为这些蕃商设立的“西市”,街上有他们开办的珠宝店,药铺等,被称为“波斯店”。唐代僧人鉴真还见到天宝年间居住在海南岛上波斯人的村寨,“南北三日行,东西五日行,村村相次。”《旧唐书》载,760年,杨州发生了兵变,阿拉伯波斯商人遇害的有好几千人。范文澜的《中国通史》第三册第415页记载,879年,“黄巢率兵攻破广州,东回教徒、犹太人、基督教徒、袄教徒,为数近十二万以至二十万人。”由此可见,中国与阿拉伯、波斯等国的交往十分频繁,留居中国的穆斯林人数并不少。
宋时,由于政府实行鼓励通商的政策,通商贸易的规模在唐代基础上又有了发展,在华的阿拉伯人、波斯人及其他穆斯林更为增多。据我国史书记载,仅当时住在广州、泉州、扬州、明州、杭州等地的“胡客”就达数十万人,所以南宋周密在他的《癸辛杂识》续集中就有“今回回皆以中原为家,江南尤多”的记载。986年,占城(今越南南方)的蒲罗遏率其族百口,迁至海南岛居住,988年,占城回回忽宣率族人301人迁至广州。甚至还有130岁高龄的阿拉伯人无西忽卢华因“远慕皇化”而定居广州。为此,中国政府为照顾他们的生活习惯,将他们的留居地称为“蕃坊”,允许与汉人通婚和携家眷来往。并设有“蕃长”,负责管理“蕃坊”居民的日常事务,主持宗教活动。”这一时期,还出现了不少“富盛甲一时”的巨商豪贾,反映了他们当时已有相当的社会经济地位。另外,在宗教信仰上,早在唐时,来华的穆斯林就可自由地进行他们的宗教活动。八九世纪时的长安,极有可能就有礼拜寺,广州扬州也很有可能有。唐代来华的阿拉伯商人苏来曼在其游记中,对广州“蕃坊”穆斯林的生活这样记载:“其处有回族牧师(即教长)一人,教堂一所,……各地回教商贾既多聚广府,中国皇帝因任命回教判官(即蕃长)一人,依回教风俗,治理回民。判官每星期必有数日与回民共同祈祷,朗读先圣戒训……判官为人正直,听讼公平,一切皆依《可兰经》,圣训及回教习惯行事。”(张星《中西交通史料汇编》第2册,中华书局1977年版)
这些来自中亚、阿拉伯、波斯、突厥等国家和地区,以及南海、占城等地的穆斯林,源源不断地来中国置产寓居或定居,与当地汉族和其他不同种族的人民和睦相处,婚亲交往,繁衍后代,成为了今天回族的一部分。如 961年,小亚细亚人、禾文学家马依泽应邀来宋,参与修新历《应天历入任司天监,后代今天已繁衍至40代,遍及全国及世界各地,历史上不乏回族名人。除了经商、学习汉文化以外,有的穆斯林甚至还在内地作官,著书立传。783年,波斯人后裔骆元光率部平定叛乱有功,被封为武康郡王,后被皇帝赐姓为李,更名元谅,官至陇局节度使J48年,阿拉伯人后裔李彦升考取了进士,曾轰动一时。唐末五代的诗人李玉旬是久居四川的波斯人后裔,人称“李波斯”,全家以贩卖“蕃药”为业,李劲还著有《海药本草》人南宋末阿拉伯人的后裔蒲寿庚曾在泉州任提举市舶使达30年之久,后在元初兼任福建“安抚沿海都置使”,其兄蒲寿教著有《小心泉学诗稿》传世,成为中国式文人。宋代大画家米芾,先世为西域人,独创“米家山水”画技,书法苍劲有力,影响深远。