Od bardzo dawna kajaki i canoe znane były w Polinezji, Afryce i Egipcie, o czym świadczą malowidła znalezione w kilku piramidach. Historię kajaka łączy się  jednak głównie z Eskimosami. Z ich języka pochodzi nazwa łódki. Słowo „ka-i-ak” należy przetłumaczyć jako „męskie czółno eskimoskie”. Canoe z kolei używali  Indianie z dzisiejszego pogranicza Kanady i Stanów Zjednoczonych , ale także mieszkańcy wysp Morza Karaibskiego. I być może pochodzi z ich języka, od słowa „canagua”, oznaczającego łódź drążoną w pniu drzewa, używana od blisko 150 lat. Łódź była w wielu miejscach jednym z podstawowym narzędzi człowieka już od najdawniejszych czasów. Służyła mu do podróżowania, polowania i walki.
Historia wodnych dyscyplin sportu sięga daleko wstecz, a świadczą o tym liczne, do dziś zachowane pamiątki z przeszłości.
W zależności od miejscowych  warunków i dostępnych materiałów powstały różne typy łodzi: od kanadyjek (canoe), używanych do dziś przez północnoamerykańskich Indian, poprzez pirogi  polinezyjskie do kajaków Eskimosów.
Za właściwego twórcę współczesnego kajakarstwa uznawany jest John Mc Gregor, szkocki prawnik, mieszkający w Londynie. W 1864 roku zbudował pierwszy  kajak i przepłynął na nim kilka rzek Wielkiej Brytanii. Twardy Szkot zademonstrował nową technikę wiosłowania, bo siedział w łódce twarzą w kierunku jazdy. Była to rewolucja , bo w wioślarstwie mającym już wówczas prawie stuletnie tradycje, siedziało się zawsze tyłem . Rok później udoskonalił swoją konstrukcję ,  którą ochrzcił imieniem szkockiego bohatera Rob Roya i ruszył na szlaki Europy. Jego kajak miał 4,57 m. długości i 76 cm szerokości, zbudowany został z drewna cedrowego.
Już w 1866 roku założono Royal Canoe Club, do którego masowo wstępowali dyplomaci ,politycy , przedsiębiorcy, ale także studenci. Od tego momentu kajakarstwo ruszyło na podbój świata , zaczynając od Europy i Ameryki Północnej. Wyczynowe kajakarstwo narodziło się bardzo szybko. 27 kwietnia 1867 roku , na wyznaczonym na Tamizie dystansie jednej mili, ścigało się 15 kajaków. Miało to miejsce niespełna rok po założeniu Royal Canoe Club . Przez długie lata  Brytyjczykom wystarczał królewski klub założony przez samego Mc Gregora, więc ich federacja wcale nie była pierwszą w świecie , a dopiero trzecią . Pierwszy  krajowy związek powstał w 1880 roku, w Stanach Zjednoczonych , drugi – w Niemczech, w 1886 roku , a dopiero trzeci rok później.
Na progu XX wieku czwarta federacja powstała w Kanadzie , potem kolejne we Francji, Szwecji, Czechosłowacji, Austrii, Danii
i Szwajcarii. Jedenasty na tej liście jest Polski Związek Kajakowy. Za początek zorganizowanej działalności uważa się rok 1928, kiedy to w ramach Polskiego Związku Narciarskiego powstała Komisja Kajakowa (z siedzibą w Krakowie). W 1930 roku Komisja przeistoczyła się w samodzielny Polski Związek Kajakowy. W Polsce za prekursora turystyki kajakowej uchodzi etnograf Zygmunt Gloger, który w 1872 odbył wycieczki po Wiśle, Bugu, Niemnie i Biebrzy.. Międzynarodowa organizacja, nazywana pierwotnie IRK (Internationale Repraesentschaft fuer Kanusport), a po II wojnie światowej przemianowana na ICF (International Canoe Federation) powstała 19 stycznia 1924 roku w Kopenhadze. W 1936 kajakarstwo regatowe, a w 1972 kajakarstwo górskie trafiło do programu olimpijskiego.