Gdy różnicowanie się puli genowej populacji wewnątrz gatunku stanie się dostatecznie duże, może nastąpić przekształcenie populacji w niezależne gatunki.
W obrębie gatunku występuje w zasadzie swobodna wymiana genów. Stąd gatunek to zbiór osobników, które posiadają wspólną pulę genową. Dlatego też brak przepływu genów między populacjami prowadzi do specjacji, czyli powstania gatunku.
Warunkiem specjacji, obok zróżnicowania genetycznego gatunku, uwarunkowanego powstawaniem mutacji i działaniem doboru naturalnego, jest izolacja rozrodcza, która uniemożliwia krzyżowanie się osobników należących do różnych populacji danego gatunku. Tym samym niemożliwa staje się wymiana genów między populacjami w obrębie gatunku.
Ze względu na przyczyny izolacji rozrodczej wyróżnia się izolacje geograficzne oraz izolacje uwarunkowane właściwościami samych organizmów.
– Izolacje geograficzne spowodowane są rozdzieleniem przestrzennym populacji, np. przez występowanie różnych barier (góry, rzeki, morza, pustynie), uniemożliwiających kontakty życiowe osobników.
– Izolacje uwarunkowane właściwościami samych organizmów (morfologicznymi, fizjologicznymi lub behawioralnymi), które mimo braku fizycznego rozdzielenia między populacjami uniemożliwiają krzyżowanie i wydawanie płodnego potomstwa:
• izolacja ekologiczna polega na zajmowaniu odrębnych siedlisk przez populacje;
• izolacja sezonowa uwarunkowana jest rytmem życiowym organizmów, np. różnym okresem tarła, różną porą kwitnienia;
• izolacja etologiczna wynika z różnych form zachowań w okresie godowym;
• izolacja anatomiczna spowodowana jest niezgodnością w budowie narządów rozrodczych;
• izolacja genetyczna związana jest z obumieraniem gamet, zygot lub zarodników w narządach rozrodczych, względnie bezpłodnością mieszańców.
Stosując różne kryteria podziału, można wyróżnić kilka typów specjacji.
– Specjacja, która zachodzi w wyniku izolacji geograficznej, określana jest jako specjacja allopatryczna, natomiast specjacja sympatryczna spowodowana jest izolacją uwarunkowaną innymi niż geograficzne czynnikami.
– Ze względu na tempo zachodzenia procesu powstawania gatunku wyróżnia się specjację stopniową, która polega na gromadzeniu się drobnych różnic w pulach genowych izolowanych populacji, oraz specjację nagłą, która jest skutkiem mutacji (np. powstanie poliploidów u roślin, zarówno autopoliploidów, jak i allopoliploidów).
– Ze względu na liczbę powstających gatunków wyróżnia się specjację radiacyjną i filetyczną. Specjacja filetyczna polega na stopniowym przekształceniu się jednego gatunku w drugi. Specjacja radiacyjna (właściwa) zachodzi częściej i spowodowana jest rozgałęzieniem się linii rozwojowych jednego gatunku, co prowadzi do wyodrębnienia się dwóch lub więcej nowych gatunków.