Thời kỳ Nara và Heian (710 - 1185)
Vào năm 710, thủ đô cố định đầu tiền của Nhật được thành lập ở Nara, một thành phố theo mô hình thủ đô của Trung Hoa. Những tu viện Phật giáo lớn được xây dựng ở thủ đô mới. Những tu viện này có một ảnh hưởng mạnh mẽ đến độ để bảo vệ vị trí của hoàng đế và chính quyền trung ương, thủ đô đã được dời đến Nagaoka năm 784 và cuối cùng đến Heian (Kyoto) năm 794, nơi nó tồn tại trong suốt hơn một nghìn năm.
Một đặc điểm của thời kỳ Nara và Heian là sự suy thoái của ảnh hưởng Trung Hoa, tuy những ảnh hưởng này vẫn còn rất mạnh. Rất nhiều những tư tưởng du nhập từ Trung Hoa đã được “Nhật hóa”. Chẳng hạn như để đáp ứng cho những nhu cầu của người dân Nhật Bản, nhiều cơ quan của chính quyền đã được thành lập bổ sung vào hệ thống chính quyền bắt chước của Trung Quốc. Trong các bộ môn nghệ thuật cũng vậy, những phong trào thuần túy Nhật Bản đã trở nên ngày một thịnh hơn. Sự phát triển các âm tiết Kana đã làm cho việc hình thành một nền văn học Nhật Bản trở thành hiện thực. Các môn phái Phật giáo du nhập từ Trung Hoa từ thời Hán cũng đã được “Nhật hóa”.
Trong số những thất bại của các cuộc cải cách Taika là việc cải cách đất đai và thuế khóa: thuế quá cao đánh vào những nông dân nghèo làm cho họ phải bán tài sản của họ và trở thành tá điền của những chủ đất lớn hơn. Thêm vào đó, nhiều người thuộc giai cấp qúy tộc và ở các tu viện Phật giáo lại được miễn thuế. Kết quả là thu nhập của đất nước giảm sút, và qua nhiều thế kỷ, quyền lực chính trị dần dần chuyển từ tay chính quyền trung ương sang những chủ đất lớn.
Gia đình Fujiwara đã nắm quyền kiểm soát chính trị trong thời kỳ Heian qua nhiều thế kỷ qua các cuộc hôn nhân chiến lược với gia đình hoàng tộc và qua việc chiếm giữ các cơ quan chính trị quan trọng ở Kyoto và các tỉnh lớn. Quyền lực của thị tộc này đạt đến đỉnh điểm vào thời Fujiwara Michinaga vào năm 1016. Tuy nhiên, sau Michinaga, quyền lực của các người lãnh đạo Fujiwara bắt đầu suy giảm, và trật tự công cộng không thể duy trì. Nhiều chủ đất đã thuê các samurai để bảo vệ tài sản của họ. Đó là lý do để giai cấp quân nhân ngày càng trở nên có nhiều ảnh hưởng hơn, đặc biệt là ở miền Đông nước Nhật.
Uy thế của Fujiwara chấm dứt vào năm 1068 khi hoàng đế mới Go-Sanjo quyết định đích thân cai trị đất nước, và Fujiwara không thể khống chế được ông. Năm 1086 Go-Sanjo thoái vị nhưng vẫn tiếp tục việc cai trị phía sau hậu trường. Hình thức mới này của chính quyền gợi là chính quyền Insei. Các hoàng đế Insei phát huy quyền lực của họ từ năm 1086 cho đến năm 1156 khi Taira Kiyomori trở thành người lãnh đạo mới của nước Nhật.
Vào thế kỷ thứ 12, hai gia đình có gốc quý tộc đã nắm được nhiều quyền hành: đó là các gia đình Minamoto (hay Genji) và gia đình Taira (hay Heike). Taira đã thay thế nhiều người quý tộc của Fujiwara trong các chức vụ quan trọng, trong khi đó Minamoto đã có được nhiều quyền lực quân sự bằng cách đưa một số phần của Bắc Honshu vào dưới sự kiểm soát của Nhật trong Cuộc chiến Chín năm Lần đầu (1050 - 1059) và Cuộc chiến Ba năm Lần sau (1083 - 1087).
Sau cuộc nổi dậy Heiji (1159), một cuộc xung đột quyền lực giữa hai gia đình, Taira Kiyomori nổi lên là người lãnh đạo nước Nhật và trị vì từ năm 1168 đến năm 1178. Những mối đe dọa chính và ông phải đối phó không những chỉ là đối thủ Minamoto và còn có cả những tu viện Phật giáo luôn xung đột với nhau và làm ảnh hưởng đến trật tự công cộng.
Sau khi Kiyomori qua đời, hai thị tộc Taira và Minamoto đã đối đầu với nhau bằng một cuộc chiến quyết định quyền lực tối thượng, đó là cuộc chiến tranh Gempei, kéo dài từ năm 1180 đến năm 1185. Cuối cuộc chiến, phe Mianmoto đã kết liễu quyền hành của phe Taira, và Minamoto Yoritomo trở thành người lãnh đạo Nhật Bản. Sau khi đã loại bỏ tất cả những kẻ thù hùng mạnh và sắc bén của mình, ông được chỉ định làm Shogun (vị chỉ huy quân sự cấp cao nhất, gọi là tướng quân) và thiết lập một chính quyền mới ở thành phố quê ông là Kamakura.