
그러나 이날 새벽 4시께 세계 스포츠 역사에 남을 비극이 발생했다. 팔레스타인 무장 단체 '검은 9월단' 소속 테러범 8명이 이스라엘 선수단 숙소에 침입했기 때문이다.
테러리스트들은 대회에 앞서 숙소 건설 현장의 인부로 활동하는 등 치밀한 준비성을 보였다. 대회 준비 때부터 내부 정보를 알고 있던 이들은 헤매지 않고 순식간에 이스라엘 숙소를 점령할 수 있었다.

이후 테러리스트들은 건물 밖으로 종이 쪽지를 던졌다. 쪽지에는 "오전 9시까지 팔레스타인 포로들을 풀어주지 않을 시 인질 2명을 추가로 살해하겠다"고 적혔다.
서독과 올림픽 조직위원회는 대회 중단을 선언한 뒤 검은 9월단의 요구를 이스라엘 정부에 전달했다. 이스라엘 당국은 사건 발생 약 9시간 후인 오후 1시께 "테러범들과의 협상은 없을 것"이라는 공식 입장을 발표했다.
이에 서독은 검은 9월단과 인질 교환 협상에 나섰으나 합의를 끌어내지 못했다. 결국 오후 5시께 서독은 무장 경찰을 투입해 테러리스트들을 제압하기로 했다.

서독은 테러리스트들의 요구를 들어주는 척하면서 이들을 사살하기로 했다. 서독은 올림픽 숙소에서 약 25㎞ 떨어진 군공항에 비행기를 준비해놓고, 헬기 2대를 이용해 테러범들과 인질들을 군공항으로 이동시켰다.
서독은 군공항에 저격수와 승무원으로 위장한 경찰들을 배치, 테러범들이 군공항에 도착하면 제압하고자 했다. 하지만 이상한 낌새를 느낀 테러범들은 군공항에 내리자마자 총격전을 벌였다.
총격전 과정에서 서독 경찰 1명이 순직하고 인질 9명도 모두 사망했다. 검은 9월단 테러범 8명 중 5명은 사살됐고, 나머지 3명은 총알을 피해 도주하다 체포됐다.
하지만 생포된 3명의 테러범은 불과 2개월 만에 석방돼 자신들의 근거지로 돌아갔다. 시리아에서 독일로 향하던 보잉 727기 여객기를 검은 9월단이 납치, 승객들과 3명의 테러범 교환을 제시했기 때문이다. 독일은 테러리스트들의 요구를 받아들였고 세계적인 스포츠 축제를 피로 물들인 테러범들은 그렇게 풀려났다.