著手研究日本歷史的人，都會希望關於他們的起源能有個確切說法。歷史學家追求絕對的起點，並企圖根據遠古為近代尋求答案，正像馬克．布洛赫說的，這是一種“對起源的崇拜”。探索日本人民的確切起源，不會是徒勞無功的，特別因為日本人民在歷史上和外界在地理上隔絕，這就有助於把各種早期文物儲存到後世。有關日本人的種族如何開始構成的知識，及早期文化合成的來源，對我們研究他們的歷史將有極大幫助，可是現在還沒有這種知識。
日本列島和不列顛諸島很相似，是許多民族在不同時間、從不同地點來定居的根據地，他們來自大陸，也可能來自南方的島嶼。經過歷史上的歲月，烏合之眾逐漸變成為一個相當融合的群體，在語言體型、宗教、政治和社會結構諸方面，都和他們的大陸鄰居如中國人、朝鮮人和蒙古人迥然不同。這些早期的特點一直保留下來，但其起源則說不清。混合的過程用了多久，以及從何時開始這些早期居民成為日本人，也說不清楚。
日本的土地上出土了一些冰河期動物的骨骼和長牙，說明更新世時的日本列島和亞洲大陸有陸地相連，這條陸橋正像連線亞洲大陸和新世界的那條一樣。這種連線一直儲存到第一個原始人進入日本列島。日本學者發現了一些他們認為是近代以前雙足哺乳類動物的骨骼化石，這些動物可能遠在20萬年以前就在這片土地上游蕩，不過還沒有有力的證明。同時，1949年考古學家在群馬縣的巖宿發掘並找到越來越多的石器，這些石器都是距今10萬年到20萬年之前的前陶文化時期的。這些石器製作粗糙，有些大件工具和中國、東南亞及印度常見的工具很相像。另一種相當晚的前陶文化的石器也發現了。這種石器又小又薄，還有比較鋒利的拋射體。但在這些細石器之外，還找不到動物的骸骨以資證明。不過，聯絡大陸上類似情況看，我們可以設想，使用這些工具的人具有現代人的體型。
今天日本人的祖先很可能是隨著各種新石器文化的人進入日本群島的。自然，這時候陸橋已經淹沒在水下，進人日本的最可行辦法，只有橫渡把日本和朝鮮半島分開的狹窄海峽，或是沿著那群弧形島嶼由南向日本行進或由北南下。關於東亞新石器早期人的活動，我們的知識很模糊。但是，如果我們放開視野，看一下亞洲東半部的情況，對日本如何開始有人棲息，可能有些概念。
從大約兩萬年以前，看來有不斷的人潮移出中南亞而向東去。這些人都具有不同的體格特點。最早的一批屬於原始黑人和原始高加索巧人血統，前者的後代生存於馬來亞、新幾內亞和菲律賓的偏遠地區，而日本北部的阿伊努人和澳大利亞的布須曼人則是後者的苗裔。再晚一點湧入東亞的是蒙古人，他們把以前的居民推開，或是在某種程度上加以同化。今天蒙古人種的人徹底地統治著東亞。他們的祖先和他們現在一樣，又分為若干小群。他們肯定有不同的體格特點，但更重要的是有不同的語言和文化。在蒙古人中，根據地理而有三種重要語：在北方草原和森林地帶，不同的小群人說阿爾泰語系的語言，包括今天的土耳其語、蒙古語、朝鮮語和日本語。東亞中南部的大部地區，由說中國語的人所佔有，而這些語言中又以漢語最普遍，它本身就是一個語系。西藏、緬甸和印度支那人說的也是屬此語系的重要語言。奧斯羅尼西亞或稱波利尼西亞語，是第三種重要的蒙古系語言，說這種話的人佔領了馬來半島的南半部和東南亞的諸島，遠到波利尼西亞。
和語言分佈圖相對應聯絡著的，是東亞新石器時期居民文化方面的早期分化。北方的森林地帶成了獵人的居住地，他們的組織是母系氏族社會。大草原是遊牧民族的居留地，他們的氏族組織普遍為父系社會。廣大的黃河平原產生了較高的文化。這裡人種植小麥和小米，並把居住地組成村落，這都為較高文化提供了基礎。今日中國中南部和南部沿海的早期居民，發展了灌溉種稻的技術，形成了海洋文化。最後，在中國南方及東南方諸島上，主要是漁業社會，這裡的人精於設計船舶，而他們的社會特點就是男女有別。
一直到相當近期之前，關於亞洲大陸上各人種的活動情況，我們都缺乏確切證據。但是我們知道，至少在公元前第二千紀，黃河流域出現了政府並進人了青銅時代。中國文化開始向它南北的邊境經常地施加影響。這種文化上的壓力，和中國對北方草原和森林的民族週期性的戰爭，使住在中國文化邊緣地帶的人民產生一種經常性的動力，要求移動。
我們也可以假定，日本列島開始有人棲息，是大陸上民族遷徙的結果。或者由於中國人擴張的壓力，後來又有更小規模、更小地區的遷徙。最後，遷人日本的移民逐漸減少，只有偶然來的漂流者或逃荒的難民。但是有關移民的時間、起源和這些運動的重要資訊，仍很貧乏，因而我們對許多問題難免感到困惑。
什麼時候日本人民實際形成了一個融合的民族整體？這個問題還沒有準確的答案。是早在紀元前六七千年前，隨著新石器文化時期第一批人就來了？還是紀元後三世紀，多次移民帶來各自的人種和文化特點之後？另一個不解之謎，就是阿伊努人的身份。這是一種土著居民，目前大約有1萬人，住在日本列島的最北端。這些人曾被認為是遠古原始高加索人移民的後代，也是最早棲息於這些島嶼上的新石器人。不過這種說法已經基本上被推翻。阿伊努人在日本歷史上起了什麼作用，也仍然不確定。最後一個重要的爭議是：日本人可能有蒙古血統，他們是純粹由北方來的，也就是由說阿爾泰語言的氏族社會所構成的嗎？或者，他們看得出有較深說馬來語的海洋社會的影響，因而是從南方來的嗎？因為在語言、社會風俗和宗教信仰上，早期歷史上的日本人和亞洲大陸上東北部的人雖然極為接近，他們的語言和生活習慣卻看得出有很多南方影響。
一旦進入以陶器製作為標誌的文化期，考古記錄就豐富了大約在公元前4500年（可能更早些），日本就有了陶器。這些陶器都與遊獵和採集文化有關係，從南方的琉球群島到北部日本，都已找到他們的遺物。在中石器時期，由於他們不從事農業，這些人在山地上吃野味及核果為生，在海邊則以魚類和貝類果腹。他們之存在的最常見證明，就是垃圾堆，主要是這些人在居留地亂扔的貝殼堆即貝冢。幸而這些居留地的遺址被找到、被髮掘，證明有住在地面以下的小棚屋的社會的存在。他們的居民用石頭或骨頭作工具（包括魚鉤和魚叉的尖端）。他們造出了扁弓，這種弓和日本歷史上典型的弓一樣。他們顯然馴化了狗。他們用手做各種各樣的陶器，上面還有十分複雜的花紋。由於這些陶器，這些人才被稱為“繩紋”，因為他們做的陶器滿是繩狀的花紋。考古學家把繩紋陶器在西部日本的消失，定在公元前250年。但是，在北部這種陶器和它的文化，存在得要長得多一一一直到更高階的文化代替它為止。繩紋文化的型式在年代和地區上的巨大差異，使考古學者假定它的歷史發展有若干階段，而移民也可能是分若干次湧人的。至於他們的起源，一般都認為繩紋人和亞洲東北部的甚至於美洲的森林文化最接近。繩紋遺址上找到了不少很小的奇形怪狀的女性塑像，人們相信這可能就是母系社會的證明。最近學者們聲稱，他們在新幾內亞甚至於在秘魯發現了與此相關的文化。但是繩紋人在日本居住並發展了幾千年，是肯定的。他們創造了石器時代最非凡的陶器之一，其設計之豐富、圖案之精美，至今沒有能超過它的。
公元前3世紀，繩紋文化被湧人的一群人民所破壞。新來的人文化迥然不同，由於他們製造的陶器而得名曰彌生。這些人精通農業，而且帶來了灌溉水稻的技術。他們的來臨既是民族革命，也是技術革命。彌生的陶器雖然沒有繩紋陶器裝飾得那麼複雜，但製作精良，是用陶輪轉出來的，而且有更多的尺寸和形狀。彌生人顯然是屬於蒙古血統。很明顯，他們和大陸上較高的中國文化有接觸，其農業技術可能來自中國。他們早期使用青銅器，大部分用於禮儀，也是來自中國。彌生人居留地的發掘，例如靜岡縣登呂那個驚人完整的居留地，顯示當時的人群居住在有許多泥地棚屋的村落裡。棚屋由木頭的樑柱搭成，上面蓋以稻草。這種村落都聚集在小溪旁，或海邊平地上，以便營造水田。
他們的水稻田都由堤壩圍起來，並用溝渠引水灌溉。彌生人帶來了牛和馬，雖然數量不多。他們的工具主要是農具：木頭的鋤、耙和鏟子，還有石頭的斧子和收穫用的刀。可是，他們也用石頭做箭頭和漁具。彌生人似乎一開始就會鍊鐵，並鑄造簡單的工具，偶然也發現有些鋤頭的尖端是鐵的。彌生人埋葬死者比繩紋人鋪張。繩紋人就埋在居住地，而彌生人用石頭或陶甕作棺材，葬到村落以外的地方去。墳前有低矮的土堆，似乎在預示公元后3到6世紀盛行的那種古墓。
彌生文化在日本很快地傳播開來。它由北方的九州開始，公元后1世紀末大約就到了關東平原。在關東的另一側，顯然存在著一道邊界。這裡有繩紋文化的遺蹟，也許還混合著阿伊努人的成分，日本人稱之為“蝦夷”。這個邊界一直存在到9世紀。這兩種文化雖然不同，這些人又屬於兩個民族，但除了在北部地區以外，彼此之間沒有嚴重的對立。更確切地說，在日本整個西部和中部，彌生人及他們的文化很容易地和原有的繩紋人互相補充、互相融合到一起了。
我們說彌生人的起源沒有確證，並不是否認他們或者是從韓國遷來的，也不是說在當時情況下這種遷移值得懷疑，因為東亞在公元前2、前3世紀時，正是動亂的年代。秦王朝在公元前221年統一了中國，它是幾乎用了兩個世紀才把各國制服的。在廣泛的戰爭同時，在北方也對遊牧民族採取了經常的軍事行動。統一使中國軍隊更向朝鮮深人，結果中國人也開始向那個方向流動。繼秦朝而起的漢朝實際上侵入了朝鮮半島，它於公元前108年征服了古朝鮮國，設立了樂浪郡，其首府就在今天的平壤。因此，秦漢王朝的統一和擴張，把移民運動沿著邊界推進，而新的文化影響也波及了朝鮮和日本。
大陸上這些情況，不僅反映在彌生人最初的遷移上，也影響到此後的文化發展。在稍晚的彌生遺址中，發現許多中國東西，例如西漢（公元前202到公元后9年）的銅幣和銅鏡，而這些東西繼續湧人有許多世紀之久。但是，還不到兩個世紀，彌生人就開始自己鑄造與大陸銅器不同的各種形狀和用途的銅器。特別有特色的，是大銅鐘和寬而薄的禮儀用武器，例如矛、腰刀和戟。武器的鑄造主要在北九州和瀬戸內海地區。銅鐘在瀬戸內海東端和更往東去的地帶發現得最多。朝鮮發掘出了銅武器，中國的銅鐘也很普遍。但他們的銅器都是為了實用，而這兩種銅器在日本完全不是為了實用，看來只是為象徵性的目的。這兩個地區銅器上的區別能否說明他們的起源和民族構成的不同，尚難肯定，但是可以證明，彌生人是由許多小群體組成，而這些小群體又分成了氏族。這些氏族遷到日本列島以後，就時有不和。
日本的考古記錄繼續證明，公元后3、4世紀時日本文化不斷變化。3世紀中葉，在大和平原地區的統治上層開始用巨大的土丘作為墳墓。大和平原是瀬戸內海東端發展得最好的地方。在半個世紀之內，這個做法就西傳到北九州。在此之前，技術革新的發展總是由西向東，而現在恰恰相反。日本學者稱為古墳的墳墓，常常是體積比埃及金字塔還要大的堂皇結構。最大的一個是仁德天皇的墳墓，到今天還有15英尺長、10多英尺高。墳墓有若干形式，圓的、方的都有，而最奇特的無過於前方後圓式。其他文化的墓葬中，沒有類似的。這種墳墓的出現，被當作日本史前發展的第三個階段，考古學家稱之為古墳文化。這種古墳的修建，一直延續到7世紀，在佛教的影響下才廢止。
3世紀到6世紀的墳墓，實際是當時日本上層人物生活習慣的資訊寶庫。在古墳下面，都有挖好的通道和寬敞的大石室存放死者。和遺體一起放著各式各樣的物件：從象徵財富和權力的鏡子、王冠、成串的寶石到日用雜物如腰刀、甲冑、馬飾、陶器和農具。在墳墓外面，土坡上立著一行行的陶柱，柱頂上有陶製人形，稱作埴輪。這些陶俑最生動地揭示了造墓者的生活。陶人穿著腰身合體、絎縫的棉衣，這是北方騎馬的遊牧民族的典型裝束。他們穿戴著盔甲保護自己，還帶著鐵製長刀和彎弓。馬也都裝備得很講究，並有馬鐙。他們用勾玉裝飾自己，也有文身的。他們的房屋現在已經在地面以上，房頂上覆以很厚的稻草，和今天的日本農家很相像。他們越來越多地用鐵作農具，說明在耕作技術方面進步很大。他們的陶器和彌生陶器形狀相近，但更堅硬，燒製得更好，帶有藍色，稱為須惠陶器。這種陶器技術上更完美、形狀上更多樣。從墓葬品中，可以清楚地看出武士貴族階級已經形成，他們擁有一個人口密集的鄉村的權力，同時從他們管轄的地區徵收農作物。
古墳和墳內的東西給我們提出了進一步的疑問。古墳時代有無可能是來自大陸的另一批侵略者帶來的北方草原上的通古斯人也許因為漢朝的分裂而漂流出來。是不是這些騎馬的侵略者拿著鐵刀、穿著鎧甲、長驅直下地衝向朝鮮半島，而把一個貴族政府強加給日本的彌生居民？古墳文化和朝鮮之間有許多密切接觸的跡象。朝鮮就有許多和日本相似的古墳（但不包括前方後圓式的），朝鮮新羅國王的金冠上，也有勾玉。但這些相近之處只能說明文化上的接近，不能看作是民族征服的證據。事實上，古墳文化可以看作是彌生文化本身的進化，當然它由於和大陸接觸而豐富了自己，但不依賴於來自大陸的任何侵略者。如果說有通古斯的因素，日本史學家傾向於主張這些因素已存在於原來的彌生文化中。
許多證據似可支援古墳文化是彌生文化自身進化的結果的理論。首先，我們知道最早的古墳是在日本中部發現的，而不是在侵略者出發的地點九州發現的。最早的那些古墳中的陪葬品，大半是彌生的製品。直到4世紀，古墳裡才開始有來源於大陸的東西。我們知道，4世紀時，中國在樂浪的殖民地解體了，朝鮮半島分裂為高句麗、百濟和新羅三個王國，歷時900年之久。歷史記載證明，日本的武力參加了這些王國的戰爭。日本人自己也說，他們在4世紀中葉曾在朝鮮南方的海岸伽倻或任那建立了一個軍事據點。可以設想，古墳文化的改變是日本人進入朝鮮並吸收了大陸影響的結果。日本領袖在國內外的擴張，也就表現在墳墓的增大。
我們一直把日本說成像是一個民族，而到了古墳時代，他們確實已成為一個民族。但是，我們必須回到本章開始時提出的種族成分問題。日本人是什麼時候作為一個可識別的民族出現的？繩紋人是今天日本人的直接祖先嗎？有的日本學者認為繩紋人的體格很像日本人，足以證明這種說法。但不論民族關係如何，繩紋文化沒有給以後日本人的生活方式留下任何重要的東西就銷聲匿跡，這一點是清楚的。也可能語言上有些殘餘成分，以及遺傳上的遺蹟，例如身材矮小、毛髮茂密。彌生人則完全不同，就他們的體格、文化和語言而言，更明顯地像日本人的祖先。同源語言演變史學家認為，在一千八九百年以前，說日本語的人群就和沖繩人分開。這個時間，似乎和日本彌生人與沖繩人的共同祖先分別遷入各自的家鄉，而以後遂失去聯絡的時間是吻合的。因此，我們雖不知道彌生人和早期的繩紋人如何融合，也不知道他們從高句麗移民吸收了多少東西，但到修建巨大古墳時期，彌生人已經是歷史上的日本人了。
