Генетическая самонесовместимость контролируется, согласно гипотезе Оуэна, двумя локусами — S и Z. Несовместимость между пестикам и пыльцой возникает в том случае, если пыльца и пестик содержат одинаковые аллели генов — S и Z. Например, растения генотипа S1Z1S2Z2 несовместимы с пыльцевыми зернами генотипов S1Z1S2Z2, S2Z1. Согласно этой гипотезе, реакция несовместимости пыльцы определяется гаметофитно, т. е. зависит от того, какие аллели генов S и Z попали в пыльцевое зерно.

Между типом самонесовместимости и типом пыльцевого зерна имеется корреляция. Растения с гаметофитным контролем самонесовместимости имеют двуядерную пыльцу, а растения со спорофитным контролем — трехъядерную.

Зрелая пыльца сахарной свеклы содержит три ядра. При переводе с диплоидного уровня на тетраплоидный самонесовместимость сохраняется. Эти факты свидетельствуют о сложности генетики самонесовместимости и требуют дальнейшего исследования.

Понижение температуры в период цветения сахарной свеклы до 10—14°С приводит к нарушению реакции самонесовместимости, в результате чего завязываемость клубочков на изолированных растениях практически полная. Это явление, получившее название псевдосамосовместимость, используется при плановом получении самоопыленных линий.

Цитоплазматическая мужская стерильность. Впервые источник цитоплазматической мужской стерильности был обнаружен Оуэном в 1942 г. ЦМС обусловлена взаимодействием цитоплазмы S и двух пар рецессивных ядерных факторов (xxzz). В зависимости от того, присутствуют или нет в геноме стерильных растений доминантные факторы (XxZZ, xxZz, XxZz), различают три типа стерильности.

Полностью стерильные растения (Sxxzz) образуют белые пустые пыльники (МС). Неполная стерильность бывает двух типов: первый (1/2 MC-I) — цитоплазма S и гомозиготность или гетерозиготность по одному гену (SXxzz, SXXzz, SxxZz, SxxZZ), второй (1/2 MC-II) — цитоплазма S и гомозиготность или гетерозиготность по обоим доминантным генам (SXxZz, SXXZz, SXxZZ, SXXZZ). Полустерильные растения первого типа имеют желтые нерастрескивающиеся пыльники. Полустерильные растения второго типа образуют желтые пыльники с крупной жизнеспособной и мелкой стерильной пыльцой.

Среди растений с нормальной пыльцой имеются два типа, не различающиеся по внешнему виду, но дающие разные потомства при скрещиваниях с растениями, обладающими ЦМС. Условно обозначаемый тин «О», имеющий генотип Nxxzz (N — нормальная цитоплазма) — закрепитель стерильности. Закрепление схематически можно выразить следующим образом:

Sxxzz × Nxxzz →Sxxzz.

Растения второго типа с генотипом NXXZZ — восстановители фертильности. Число растений О-типа в зависимости от сорта колеблется от 1 до 33,5%, причем их больше у высокопродуктивных материалов. Частота встречаемости растений с ЦМС также различна.

Оуэн обнаружил среди американских сортов от 2 до 6% растений с мужской стерильностью, а в опытах И. Я. Балкова в 1963 г. из 400 тыс. семенников сорта Рамонская 023 улучшенная выделено только 111 полностью стерильных растений, у сортов Янаш 1 и Удыч в среднем на каждую тысячу кустов приходилась от одного до пяти растений типа МС. Источниками ЦМС чаще служат сорта и селекционные номера с высокой сахаристостью (Янаш 1, Рамонская 023 и др.).

Один из способов получения источников ЦМС — инцухтирование растений. При этом может наблюдаться рекомбинация дигетерозиготных форм с плазмой S. Иногда происходят мутации цитоплазмы из состояния N в состояние S. Стерильная цитоплазма у сахарной свеклы не влияет отрицательно на урожай и сахаристость корнеплодов.