時代的変化に影響されない違い"形態小変異形質"
頭骨のさまざまな形態小変異形質の有無を調べ、それらの形質の集団における頻度を推定するのが形態小変異の研究です。
例として、「舌下神経管二分」は、頭骨底の大後頭孔付近にある舌下神経の通る管が、普通は左右一対ですが、個体によっては2本に分かれていることがあります。これら2種類のタイプをもつ人間の比率を比べるわけです。
これらの形質が実際に遺伝するかどうかはまだ明らかになっていませんが、遺伝的要素が濃いと思われる間接的な証拠として、胎児のころからすでにこの変異が存在しますし、日本人集団では鎌倉時代からほとんど形質出現頻度に差がないことがわかっています。
石田肇のグループは、頭骨の16種類の形態小変異形質データをもとにして、日本列島のいろいろな時代の集団と、東アジア、シベリア、オセアニアの全23人類集団のあいだの近縁図を作成しました。

日本列島の集団は、アイヌ人・縄文人のグループと、弥生時代人・現代日本列島南部人(沖縄、先島、奄美、久米島)・現代日本列島本土人のグループの大きくふたつに分かれます。この見方をすると、石田らの図はアイヌ沖縄同系論を支持していることになります。
東ユーラシアにおける日本列島人の遺伝的位置
混血説の項でご紹介した尾本惠市と筆者(1997)は、日本列島人のあいだの遺伝的な近縁関係を調べるために、25遺伝子の遺伝子頻度データを用いて、アイヌ人、沖縄人、本土日本人(ヤマト人)、韓国人の4集団の遺伝距離を推定しました。この結果を系統ネットワークで示したものが、後出する図のうち上のものです。
中央にある長方形の横の辺はアイヌ人・沖縄人グループと韓国人・本土日本人グループとの違いを、縦の辺は、アイヌ人・韓国人グループと本土日本人・沖縄人グループとの違いを示しています。長さは遺伝的違いに比例して描いてあります。
本土日本人と沖縄人は遺伝的に近いとはいえ、両者の違いはアイヌ人と本土日本人との違いの一部に重なっており、日本列島の南北に位置する2集団の共通性がうかがわれます。ただし、アイヌ人への枝が長いので、この集団が他の3集団とは遺伝的にかなり異なっていることは事実です。
一方、日本列島の2集団と中国漢民族5集団との遺伝的関係について、個人間の違いが大きいマイクロサテライトDNA多型105種類を用いて山本敏充らが比較した研究結果を下の図に示しました。
名古屋周辺の集団と沖縄の集団は強くまとまっていますが、この日本人グループは、南北に多様性の大きい中国漢民族グループの中に含まれています。漢民族内部に大きな遺伝的変異があることは以前から指摘されていましたが、この図の特徴は、日本人集団が中国の他の3集団(西安、長沙、北京)よりも中国南部(福建省と広東省)の集団にやや近かったことです。従来は、日本人は中国北部の人々と遺伝的に近いと考えられていました。

遺伝子頻度による遺伝的関係の研究は、ミトコンドリアDNAを使うことも増えてきました。ミトコンドリアDNAは進化速度が速いので、ふたつの集団のあいだに一致している配列が多数発見された場合、これらのあいだに、最近、遺伝子の交流があったと考えることができます。
なお、ミトコンドリアDNAは古代DNAの研究でも用いられていますが、縄文人、弥生人、および現代日本列島人のあいだの近縁関係は、まだ明らかではありません。