La denominación de este parque de Chamartín se debe a una casualidad. En 1966, el entonces alcalde de la ciudad de Berlín Occidental, Willy Brandt, anunciaba su visita a Madrid, por lo que había que dedicar una calle o una plaza a la capital alemana. ¿Y que mejor lugar que este parque público? Su construcción estaba ya decidida: a menos de 200 metros del Colegio Alemán de la calle Concha Espina, era perfecto para la ocasión. El 9 de noviembre de 1967, tras dos años de obras, se inauguraba el Parque de Berlín en un acto al que no asistió Willy Brandt pero sí, entre otras personalidades, el embajador en España de la República Federal de Alemania, Helmut Allart, y el alcalde madrileño Carlos Arias Navarro. En la ceremonia, en la que un coro de niños del Colegio Alemán cantaron algunas canciones, se descubrieron un monumento sobre el que se alza la figura en bronce del oso berlinés y una placa con el nombre del parque.
En 1981 se añadió el monumento a Ludwig van Beethoven tras un acuerdo entre la capital española y la ciudad alemana de Bonn, entonces capital de la República Federal de Alemania y lugar de nacimiento del famoso compositor. El monumento consiste en una escultura con forma de piano sobre la que descansa el busto en bronce de Beethoven. Además, en la escultura se grabaron las primeras notas de la Novena Sinfonía.
El último recuerdo de la ciudad de Berlín llegaría en 1990, al colocarse tres piezas alargadas de hormigón de 5 metros de altura procedentes del Muro de Berlín. Fueron encargadas por el entonces alcalde de Madrid, Agustín Rodríguez Sahagún, y colocadas dentro del lago grande situado en la parte baja del parque junto a la calle de Ramón y Cajal.