日本的学校教育制度在第二次世界大战后，制定了6/3/3/4基本制度。也就是6年的小学初等教育，3年中学的前期中等教育，接着3年高等学校的后期中等教育，共计12年。修完初、中等教育后，才可以往高等教育机关升学。
留学生可以入学的高等教育机构有（1）研究生部（2）大学（3）短期大学（4）专修学校（5）高等专门学校5种。这些高等教育机构依运营母体又可分为国立、公立、私立。
大学里设有一般学部，有的甚至还有研究生部。学部的修业年限通常为4年（医学、齿学、药学、兽医学部为6年），毕业后可取得“学士学位。研究生部一般可分为硕士课程（修业年限2年）和博士课程（修业年限5年），博士课程又可分为前期课程（一般2年，相当于硕士课程）和后期课程（一般3年）。修完硕士课程者可取得硕士学位，修完博士课程者则可取得“博士”学位。
短期大学一般修业年限为2年，修毕后可取得“准学士”学位。
专门学校分后期中等教育机关的高等课程（高等专修学校）、高等教育机关的专门课程（专门学校），以及实施一般课程教育（专修学校），但是留学生能入学的只有专门课程（专门学校）。修业年限为2年到4年，修业2年以上且修完1700小时以上课程的话，可取得“专门士”称号。专门学校不是大学那样的研究机构，提供对社会有用的务实型教育是它的特色。在设计、摄影、漫画及动画等领域，专门学校甚至比大学设置更多样丰富。
然而，日语教育机构（语言学校），并不归属于高等教育机构，而是类属于各种学校，或以各种学校为基准的教育机构。
日本的高等教育机构中，有大学、短期大学、高等专门学校、专门学校。大约70%的高中应届毕业生，继续上大学、短期大学或专门学校，日本在全球范围内也被认为是数一数二的高学历社会。
