中日兩國是一衣帶水的近鄰，自古以來，兩國人民在政治、經濟、文化各領域就有着密切的聯繫和相互的影響。早在中國的史書《漢書》中，就有關於日本的記載。而在日本的史書中，關於中國的記載更是不勝枚舉。就地理形勢而言，在古代社會中，中國一直是距離日本最近的且各方面都較爲先進的大國，因而日本把中國看成是自己民族學習的榜樣。
古代的日本勞動人民以他們高度的智慧和辛勤的勞動，創造了具有獨特民族特色的日本文化。同時，他們也虛心地向已具有高度農耕文明的中國學習。早在秦始皇時代，雖然航海等交通條件還很不發達，但古老的中華文化卻已開始傳入日本了。古代的中國勞動人民以驚人的智慧和非凡的膽略開闢了中日交通的道路。與此同時，中國秦漢時代的銅器、兵器等物品也經朝鮮橫渡對馬海峽傳入了日本北九州等地區。
兩漢三國時，中國與日本北九州一帶地區的交往逐漸增多。《漢書》中首次記載的“倭國”、“倭人”，即是指北九州一帶的居民。《三國志·魏書·倭人傳》也載，三世紀時中國的養蠶業已傳入了日本北九州。這一時期傳入日本的中國文化，是隨着《論語》傳到日本的儒家傳統的詩教思想。
四世紀中葉以後，中國的“南朝”開始了與日本的正式通聘，《宋書》中所記載的“倭國”範圍已由北九州擴展到整個日本。五世紀時，日本人民在假名發明之前已開始使用漢字作爲表達記敍的工具，並借用漢字作日語標音，即“萬葉假名”。“萬葉假名”的産生，爲中日文化交流打下了堅實的基礎。從此以後，日本的知識界開始學習漢文典籍，日本社會一般的文教和禮俗也深受當時中國社會的影響。七八世紀時，中國唐朝最盛期掀開了中華文化史上最爲光輝的一頁，古代的中日文化交流更是達到了空前的繁榮。盛唐之時，國勢強盛，聲威遠震，成爲了世界上最有影響力的國家。貞觀、開元時期，統治階級十分重視兄弟民族之間的和睦相處及與鄰國的友好關係，於是歷史上岀現了“中國既安，四夷自服”的盛況。唐太宗在他的詩中所談到的“指麾八荒定，懷柔萬國夷。梯山鹹入款，駕海亦來思”（李世民：《幸武功慶善宮》，《唐太宗全集》第21頁，天津古籍出版社2004年版。）、“車軌同八表，書文混四方”（李世民：《正日臨朝》，《唐太宗全集》第19頁，天津古籍出版社2004年版。）便是當時中外團結友好狀況的反映。而當時的鄰近諸國，對唐朝也莫不仰慕，其中尤爲突出者爲日本。當時的日本政府向唐朝派遣了大量留學生，其知識界更是直接來唐探取中華文化的源泉。日本政府向唐朝派遣留學生是兩國文化史上一個十分重大的事件，由是揭開了日本歷時一千餘年學習中國的序幕。在這一千多年中，中國文化尤其是盛唐文化對日本的影響是非常巨大的。這種影響使得日本文化在許多方面都帶有極爲深厚的唐代文化色彩。直到今天，這種影響在日本依然存在着。由於中華文化的直接影響，孤懸在海上的日本列島的先民並未被人類最先進的文明所排斥，而是非常幸運地在燦爛光輝的古代中華文明的哺育下成長。與西方“黑暗的中世紀”相比，中華文明至少領先一千年，其思想雨露滋潤着整個東亞。如果談起日本的歷史與文化，無論從哪個角度而言，中華文化與日本文化的淵源關係都是無法否定的。
当中國的歷史進入到宋元時代，中日關係的發展也進入了與唐代不同的發展階段，兩國的關係出現了一些新的變化。在《宋史》之前的官修史書中，中國歷朝正史對日本的記載均將其列入四夷之部，所記多爲奇風異俗、朝貢封賜等内容，這些内容尚談不上是對日本的研究。宋元之際的中日關係與在此之前的中日關係相比，變得曲折複雜起來，不僅有和平友好的一面，也有兵戎相見不愉快的一面；既有中國文化往日本的輸出，也有日本文化反過來影響中華文化的内容，中日關係的發展進入了一個新的發展階段。