A estação ferroviária de Rolandzek foi construída em 1856 e logo se tornou um destino de férias popular para a nobreza e elite cultural em toda a Europa. O edifício, que lembra uma villa renascentista italiana, recebeu concertos e jantares, e contou com a presença da Rainha Vitória, Otto von Bismarck, Heinrich Heine, Franz Liszt e George Bernard Shaw. A Primeira Guerra Mundial acabou com a diversão em Rolandzek, e foi somente em 1964 que exposições e concertos foram realizados novamente na estação; rapidamente se tornou o centro da vida cultural sob seu curador Johannes Wasmuth. Wasmut fundou uma espécie de comuna de artistas lá, que floresceu até sua morte em 1997. Houve uma nova calmaria, que terminou em 2004 quando a Fundação Hans Arp e Sophie Taeber-Arp, cujas obras da coleção foram exibidas durante a vida de Vasmut no hall do porão da estação, transformaram o edifício anteriormente restaurado no Museu Hans Arp.
Mas o próprio Vasmut também entendeu que 400 obras da coleção do fundo não teriam espaço suficiente em um edifício do século 19, mesmo em condições ideais; portanto, na década de 1980, ele recorreu ao arquiteto americano Richard Mayer com um pedido para criar um projeto para um novo prédio de museu - nas proximidades. A implementação deste plano foi dificultada por várias dificuldades, pelo que a construção começou apenas em 2004, e o cliente já não era a Vasmut, mas sim a Fundação Hans Arp e Sophie Taeber-Arp.
A estação de Rolandzek está localizada nas margens do Reno e, atrás dela, as paredes do vale do rio se elevam abruptamente. Portanto, um novo prédio só poderia ser erguido no topo de uma colina próxima. Mas um problema especial para Mayer era a conexão dos edifícios antigos e novos, uma vez que a inclinação entre eles é conveniente para alpinistas, mas não para os amantes comuns da arte. Mayer sugeriu cavar um túnel de 40 metros atrás do complexo da estação, levando para as profundezas da colina. De lá, os visitantes pegam um teleférico de 40 metros até a torre cônica de vidro do novo museu, que oferece uma vista panorâmica do Vale do Reno. O princípio do contraste prepara o espectador para perceber a diversa herança artística do casal Arp nos corredores iluminados do novo edifício. A sua ligação à estação é potenciada pela divisão de funções: o edifício inferior alberga o foyer, a bilheteira, a loja do museu e a biblioteca, enquanto todas as galerias se situam no piso superior. O túnel de concreto sob o morro é enfaticamente técnico e inóspito, o único detalhe que o revive é a espiral luminosa de 18 metros da escultura Kaa de Barbara Trautmann.
Um ambiente completamente diferente aguarda os visitantes no edifício superior: seu centro é um amplo foyer que conecta os três andares. No nível inferior, além das salas de exposições, existem também instalações administrativas e um centro educacional.
