从现有资料可以推断，早从公元9世纪末起，西方的旅行家和传教士们便注意到在中华帝国中存在着一个犹太人社团。

不过这些记述都是二手的或者道听途说，过分简单，而且其游记过分具有传奇性，而难以引起西方权贵们和犹太人自己的高度注意。

大约在公元916年左右，阿拉伯旅行家阿布·宰德·哈桑（ABoul·Zeyd al-Hassan，又作Abu Zad）便于《中国印度见闻录》中指出，黄巢起义时，于878年夺取广州(Khanfu)城时，曾屠杀过“12万穆斯林、犹太人、基督教和波斯人”。但这种简单的提及当时似乎未引起任何人的注意。

公元880年左右，一名叫做艾尔－达德·哈达尼（El-dad Hadani，意为丹部的艾尔－达德）的人声称，他曾遭强盗绑架并被押解到中国，在中国被Issachar部的一名犹太商人赎身，该犹太商人最后又帮助他离开了中国。

这个阿拉伯人的故事，无凭无据，时间地点都很模糊，许多人都认为纯属杜撰。

意大利威尼斯商人马可·波罗于1286年于其口述的游记（《寰宇记》）中，也声称他曾在汗八里（Khanbalik，北京）遇到过犹太人。

1362年，佩鲁西亚的安德拉(Andreas de Perusia)正任泉州的方济各会主教，他于其一封书简中，抱怨当时未作出过一次归化中国犹太人的尝试。另外，意大利方济各会士马黎诺里（Jean de Marignoli,14世纪）来华传教，在1342年在汗八里与中国犹太人进行过神学讨论，在辩论中获胜而自鸣得意。

著名的阿拉伯旅行家伊本·白图泰(Ibn Battuta)于1346年赴杭州(Khansa)旅行，发现在那里有犹太居民和一座“犹太门”。两个世纪之后，葡萄牙人佩雷拉(Galeote Pereira)在1565年一封书简中，也指出中国官府允许摩尔人和犹太人按照他们各自的宗教信仰举行礼仪。

从此之后，中国犹太人社区的信息就再无传出，直到利玛窦于1605年与开封犹太人艾田的会晤，才开始了西方汉学家真正调查中国开封犹太人的第二个阶段。

意大利入华耶稣会士利玛窦（Matteo Ricci,1552-1610年）于1605年在北京会见了入京赶考的举子艾氏（艾田），首开外国入华传教士对中国开封犹太人的调查研究之先河。利玛窦于其札记《基督教远征中国史》（罗马1615年首版，由金尼阁加工编辑）中，详细地记述了这次会见。

利玛窦耐心地向艾田调查了开封犹太人的数量、《圣经》、十字架和其他圣物的情况以及开封犹太家庭的姓氏、礼仪、割礼、洗礼、教理教义、圣母圣婴画、十二使徒、开封犹太人的中文名称等。

利玛窦声称，如若他本人不吃猪肉的话，那么开封犹太人就会请他出去任掌教（拉比）。利玛窦还向艾田调查了中国扬州和杭州等其他地方的犹太人。但利、艾的会见与交往内容，大都是以误解为基础的。例如，艾田将耶稣会传教区内供奉的圣母马利亚和圣婴耶稣，误认为是犹太教中的著名人物利百加(Rebacca)和以扫(Esaü)与雅各(jocob)兄弟。利玛窦也将开封犹太人的存在，当作中国很早就存在着基督宗教以及上帝、中国人自古以来就知道上帝的存在之证据。

至今，中国犹太人是何时来华定居的等等诸多疑问，尚无定论。