Bersama 1.600 pasukan muslimin, Nabi Muhammad SAW bergerak menuju Khaibar. Pada permulaan bulan Rabiulawal tahun ke-7 Hijriah itu, Rasulullah SAW benar-benar merahasiakan pergerakan pasukannya untuk mengagetkan pasukan Yahudi sekaligus mencegah bantuan-bantuan militer yang datang dari kabilah-kabilah Ghathfan.
Menurut buku Kisah-kisah Manusia Suci susunan Sayyid Mahdi Ayatullah, di bawah lindungan kegelapan malam kaum Muslimin mengepung benteng-benteng Khaibar dan mengambil posisi di antara pepohonan kurma. Pada pagi harinya, pertempuran pun pecah dan jatuhlah benteng-benteng tersebut satu demi satu.
Dalam Perang Khaibar ini, ada sebuah kisah menarik mengenai Ali bin Abi Thalib RA yang turut serta di dalamnya. Keberanian Ali RA dibuktikan dengan menerobos gerbang Khaibar tanpa pelindung sebagaimana dijelaskan melalui buku 125 Cerita Fakta Islam yang Unik & Menakjubkan tulisan Alifa Aryatna.

Sebelumnya, kaum Muslimin kesulitan menaklukkan dua benteng tempat kaum Yahudi berkumpul untuk melakukan perlawanan pada kaum Muslimin dengan menggunakan anak panah. Rasulullah SAW kemudian mengutus Abu Bakar RA memimpin sebagian kekuatan pasukan Islam, sayangnya beliau menelan kekalahan.

Akhirnya Nabi Muhammad SAW mengutus Umar bin Khattab RA, namun kaum Muslimin tetap kalah. Hal itu lantas mendorong kaum Yahudi untuk mengolok-olok kekalahan pasukan Islam.

Kemudian, Rasulullah SAW bersabda:
"Sungguh besok aku akan menyerahkan panji-panji kepada seorang lelaki yang mencintai Allah serta rasul-Nya, dan Allah serta rasul-Nya pun mencintainya. Ia akan bertempur terus dan tidak melarikan diri. Karenanya ia tidak akan kembali hingga Allah memberikan kemenangan kepadanya,"

Mendengar ucapan Nabi Muhammad SAW, pasukan muslim bertanya-tanya siapakah sosok tersebut. Ketika pagi tiba, Rasulullah SAW memanggil Ali bin Abi Thalib RA dan menyerahkan panji-panji kepadanya serta mendoakannya meraih kemenangan.

Ali bin Abi Thalib RA mengibarkan panji-panji dan bergerak bersama pasukan muslim untuk menghadapi musuh-musuh. Kaum Yahudi yang tengah terlena karena sebagian kemenangannya, sehingga sebagian kekuatan mereka berada di luar benteng.

Pada saat itu pula, Ali RA bersama pasukan muslim masuk dan melancarkan serangan tak terduga. Bahkan, Ali RA berhasil membunuh Marhab dan Al Harits yang kala itu merupakan pahlawan Yahudi hingga menimbulkan ketakutan dalam barisan Yahudi.

Setelahnya, pasukan Yahudi menarik diri ke dalam benteng dan mengunci seluruh pintunya. Kaum Muslimin menghalau agar mereka tidak masuk benteng. Namun, ketika pasukan Yahudi masuk dan mengunci pintu benteng, barisan muslimin tidak dapat mendobraknya.

Ali RA kemudian menjulurkan tangannya ke pintu benteng dan menggoyangkan pintu itu sekuat tenaga. Atas izin Allah, dicabutnya pintu tersebut dan dijadikan sebagai jembatan penyeberangan pasukan Islam.

Menyaksikan peristiwa itu, tentara muslim terkejut. Bagaimana bisa Ali RA mendobrak pintu itu seorang diri sementara sebelumnya mereka mencoba mendobrak pintu dengan kekuatan tujuh orang.

Setelah itu, pasukan muslim meraih kemenangan. Kaum Yahudi memohon perdamaian dengan Rasulullah dan meminta untuk tetap diizinkan menghuni rumah-rumah mereka, dengan catatan mereka menyerahkan separuh penghasilan setiap tahun kepada kaum Muslimin.