V roce 1862 se konalo ve Vídni v Zeleném sále akademie věd zakládající shromáždění Rakouského Alpského svazu. Spolek Österreichischer Alpenverein (ÖAV) si dal za cíl „ … rozšiřovat znalosti o Alpách, podporovat lásku k nim … usnadnit jimi cestování.“.
V roce 1869 založili němečtí a rakouští horolezci v Mnichově Německý Alpský spolek (Deutscher Alpenverein –DAV). Pojem „německý“ tehdy neznamenal Německo, nýbrž německy mluvící prostor Evropy a východní Alpy byly tehdy označovány jako „německé Alpy. Nebyl organizovaný centrálně, měl samostatné sekce. Ty spravovaly své oblasti, v nichž stavěly chaty, budovaly stezky, vzdělávaly horské vůdce a staraly se také o obyvatelstvo.
V roce 1873 oba spolky splynuly a tak vznikl Německý a rakouský alpský svaz „Deutscher und Oesterreichischer Alpenverein“), který měl především stavět chaty, budovat cesty a také školit horské vůdce. Velký podíl prostředků spolku plynul do vytváření map, zveřejňování, bádání a kulturních aktivit.
Do začátku první světové války vzniklo téměř 400 sekcí. V této době byla na prvním místě budování chat a horských stezek. V roce 1914 vlastnil svaz 319 chat s více než 8 500 lůžky a místy ke spaní.
Jména mnoha chat, jako např. Berliner Hütte, Prager Hütte připomínají ještě dnes sekci, která je založila a starala se o ně. Ano, i v Praze byla sekce Alpenvereinu. Velká část prostředků proudila do vydávání publikací , do výzkumu a kulturních aktivit. Kartografové spolku tvořili ty nejlepší mapy východních Alp.
Po první světové válce zmizelo mnoho sekcí a členů, stejně jako pracovních oblasti v jižním Tyrolsku. Přesto se pak v krátké době počet členů oproti stavu před válkou ztrojnásobil. Péče o alpskou původní krajinu vedla v roce 1927 k rozšíření stanov o „ zachovávání původnosti a krásy velehor“. Současně v nich byla zakotvena péče o putování mládeže.
V roce 1918 koupil Albert Wirth od sester Eichenegg 40 km2 půdy v oblasti Großglockner-Pasterze, a i se svým podílem je věnoval Alpenvereinu za účelem vyhlášení přírodního parku. Dalších 280 km2 Vysokých Taur získal Alpenverein ve 30. letech ze státního vlastnictví. Tím byl položen základní kámen národního parku Vysoké Taury. Jeho vyhlášení se však uskutečnilo až v roce 1971.
Už před 1. světovou válkou, ale zejména v prvních letech po ní, ovládly Alpenverein protižidovské proudy. Většina sekcí v Rakousku zavedla „árijské paragrafy“. Sekce „Donauland založená židovskými a liberálními členy byla v roce 1924 vyloučena, a za to se museli antisemité vzdát další agitace. S „Anschlussem“ Rakouska v roce 1938 se stal „Deutscher Alpenverein“ odborem pro horolezectví v státním Říšském svazu pro cvičení osob. Všechny ostatní horolezecké svazy byly zakázány. Mnoho malých alpských skupin a sdružení, ale také rakouský Alpenverein, bylo integrováno do sekcí nebo byly přijaty jako vlastní sekce DAV. Alpenverein tak převzal okolo tuctu vysokohorských alpských chat tehdejšího spolku Naturfreunde a zrušené sekce Donauland.
Sídlo Alpenvereinu, které se do té doby periodicky stěhovalo, zůstalo od roku 1938 v Innsbrucku.
Po roce 1945 byla další existence Alpenvereinu soudně prosazena u ústavního soudu. Jeho sekce byly částečně uznány, částečně se musely nově vytvořit. Od roku 1951 se svaz opět jmenuje „Oesterreichischer Alpenverein“ (Alpenverein). Německé sekce dostaly zpět svoje chaty v Rakousku po podepsání státní smlouvy v roce 1955 .
S normalizací života po válce a hospodářským rozmachem vzrůstaly také aktivity a počet členů Alpenvereinu. Hnutí za životní prostředí vedlo v Alpenvereinu v roce 1980 k zvýšení hodnoty ochrany přírody. Svaz mohl jako největší vlastník pozemků prosadit Národní park Hohe Tauern. Sportovní dění v horách se stalo pestřejším, vznikly nové sportovní trendy. Nejvýznamnějším byl rozvoj sportovního lezení.
Důsledné vzdělávání funkcionářů sekcí mělo pozitivní účinek. Od začátku devadesátých let stoupá razantně počet členů, také kvůli novým službám. Široké nadšení pro vědomě zdravý pohyb v přírodě posílilo význam horského sportu, práci s mládeží, která má vztah k přírodě, a rovněž posílil význam chat a cest. Dnes pracují spřátelené svazy DAV a ÖAV a rovněž AVS (Alpenverein jižní Tyrolsko) na mnoha společných projektech.
