Nama Alor Gajah berasal dari tabiat sekumpulan gajah liar yang kononnya diketuai oleh seekor gajah putih. Gajah berkenaan dilihat sangat gemar berjalan secara berkumpulan melalui alur sebatang sungai yang terdapat di bandar ini. Disebabkan keadaan ini penduduk tempatan menamakan bandar ini sebagai Alor Gajah.

Bandar ini pada mulanya didiami oleh orang minangkabau pada kurun ke-12. Pada pemerintahan Kesultanan Melayu Melaka orang minangkabau berhujarah beramai-ramai ke Tampin. Sejak itu wujudlah pemerintahan Melayu di Bandar Alor Gajah.

Semasa penjajahan British di Tanah Melayu , Pejabat Daerah telah ditubuhkan untuk memudahkan pengurusan pengutipan cukai yang dilaksanakan. Seroang Pegawai British telah ditugaskan untuk menjaga Pejabat Dareah tersebut.

Alor Gajah sememangnya terkenal dengan Pahlawan Naning iaitu Dato’ Dol Said. Beliau adalah diantara yang menentang British semasa Perang Naning pada tahun 1832. Dipercayai juga kawasan yang terlibat adalah sebuah kawasan hutan yang dipercayai menjadi laluan gajah-gajah liar.

Kini Alor Gajah salah satu daerah yang membangun di negeri Melaka. Pengkalan adalah salah satu pekan atau kawasan yang terletak di dalam daerah Alor Gajah. Pekan Pengkalan terlatak hanya 10-15 minit dari bandar Alor Gajah.