En la temporada 1921-22, la directiva encargó al exjugador bilbaíno y entonces vicepresidente de la entidad madrileña Manuel Ansoleaga que ejerciera de entrenador del equipo, camiseta del atletico de madrid convirtiéndose así en el primer técnico de la historia del club. El primer año de la historia del Club en Segunda el equipo finalizó tercero, sumido en una crisis económica, deportiva y social alarmante y temiéndose su desaparición. Como curiosidad, aquella temporada se unió brevemente como jugador del Athletic de Madrid Santiago Bernabéu: si bien no llegó a disputar ningún partido oficial ya que no se lo permitía la normativa de la época, sí llegó a jugar de rojiblanco un encuentro amistoso frente al Español Foot-Ball Club. Se puede disfrutar del calentamiento del equipo a pie de campo por 105 euros o ver la llegada de los jugadores a la zona mixta del Metropolitano por 70. En días sin partido también se puede disfrutar de un Tour VIP, ver los vestuarios, sala de prensa e incluso tirar un penalti en el césped.

Pero a la vuelta, el Athletic finalizaría la última temporada antes de que estallara la Guerra Civil penúltimo, en puesto de descenso, debido a un penalti fallado por Chacho en los últimos minutos de la última jornada liguera. Creo que la amarilla, pese a Luis Aragonés (entrenador en aquella temporada). En cuanto a su devenir en la Liga de Campeones, comenzó el equipo la fase de grupos emparejado con Borussia Dortmund, Mónaco y Brujas, avanzando al cruce de octavos de final ante la Juventus tras convertirse Griezmann (ganador poco después del Balón de Bronce) en el máximo goleador de la historia del Club en competición europea, igualando a Luis Aragonés. Deportivamente, y coincidiendo con el inicio de la nueva competición liguera, el equipo se vio fuertemente debilitado al fichar el Real Madrid Foot-Ball Club a Monchín Triana en 1928 y a Luis Olaso y Cosme Vázquez en 1929, aprovechando «los merengues» la creciente inestabilidad generada durante la presidencia de Urquijo.

Disputada el 16 de mayo, con 0-0 en el marcador Franz Platko propinó a Monchín Triana un puñetazo en la cabeza, agresión que no fue sancionada pero el árbitro y que dejó resentido al rojiblanco para el resto del partido. Athletic conquistó por tercera vez el Campeonato Regional Centro tras derrotar por 1-3 al Real Madrid Foot-Ball Club en un partido de desempate por el título, ya que ambos habían empatado a puntos. A pesar de esta incorporación, también se resistiría el ascenso en la tercera temporada en la división de plata, finalizando el Athletic madrileño subcampeón a tres puntos del Oviedo. Copa de carácter oficial regional que el club rojiblanco conquistó tres veces. El 17 de junio, el club rojiblanco acabó perdiendo en la final contra el Real Madrid por 6-2 en un partido disputado en el Stadium Metropolitano. Club rojiblanco en un duelo apasionante decantado por la estelar actuación de Diego Costa, ganando la final por 2-4 (doblete del hispano-brasileño, remachado con goles de Saúl y Koke). Diez días después de este anuncio, el Atlético perdía (2-0) en el Camp Nou ante el F. C. Barcelona, con quien venía disputando el título de Liga, tras una temprana expulsión por roja directa a Diego Costa.

Pese a ello, los madrileños se adelantaron por 2-0 antes del descanso, resultado que sin embargo igualaron los catalanes, antes de que el colegiado anulase un gol a los rojiblancos a pocos minutos del final. Los rojiblancos derrotaron en la ida a los italianos (2-0), pero fueron eliminados tras un nefasto partido de vuelta, finalizando así el sueño de jugar la final en su estadio. Aunque volvió a ser subcampeón regional las temporadas 1928/29, 1930/31 y 1933/34, en Liga su desempeño fue más deficiente, convirtiéndose en el primer equipo de la historia en descender a Segunda División (en la primera edición de la Primera División no hubo descensos) al perder en la última jornada frente al Arenas, lo que unido a una remontada del Europa en los minutos finales de su partido frente al Real Unión supuso que finalizara en última posición la temporada 1929/30. Los aficionados del Real Madrid se mofaron cruelmente de este descenso pagando de su bolsillo una esquela, publicada en varios medios nacionales, certificando la «defunción» de su máximo rival. Coincidiendo con esta primera estancia del equipo de fútbol en Segunda División, es preciso destacar que otras secciones seguirían funcionando al máximo nivel, como muestran los títulos consecutivos de Liga obtenidos por el equipo femenino de hockey hierba, comandado por la pionera del deporte femenino en España: la rojiblanca Margot Moles.