Paus biru merupakan bagian dari famili Balaenopteridae, yang juga meliputi paus bungkuk, paus sirip, paus bryde, paus sei, dan paus minke.[9] Secara evolusioner, famili Balaenopteridae diyakini terpisah dari paus lain dalam subordo Mysticeti pada masa Oligosen. Masih belum diketahui kapan anggota-anggota famili tersebut terpisah satu sama lain.

Paus biru biasanya diklasifikasikan sebagai salah satu dari delapan spesies paus dalam genus Balaenoptera. Ada pula ahli yang menempatkan paus ini dalam genus Sibbaldus, walaupun pengklasifikasian ini tidak disetujui.

    Analisis rangkaian asam deoksiribonukleat (ADN) menunjukkan bahwa paus biru secara filogenetik lebih dekat dengan paus sei (Balaenoptera borealis) dan paus bryde (Balaenoptera brydei) daripada spesies Balaenoptera lainnya, dan lebih dekat dengan paus bungkuk (Megaptera) dan paus abu-abu (Eschrichtius) daripada paus minke (Balaenoptera acutorostrata dan Balaenoptera bonaerensis). Jika penelitian lebih lanjut memastikan hubungan ini, mungkin famili Balaenopteridae perlu direklasifikasi.

Pohon filogenetik hewan yang berhubungan dengan paus biru.
Paling tidak tercatat sebelas kasus persilangan antara paus biru dengan paus sirip di alam. Menurut Arnason dan Gullberg, jarak genetik antara paus biru dengan paus sirip kurang lebih mirip dengan jarak antara manusia dan gorila.  Sementara itu, beberapa peneliti yang bertugas di Fiji melaporkan bahwa mereka telah mengabadikan citra paus hasil persilangan antara paus biru dan paus bungkuk.

Deskripsi pertama paus biru dibuat oleh Robert Sibbald dalam karyanya yang berjudul Phalainologia Nova (1694). Pada September 1692, Sibbald menemukan seekor paus biru yang terdampar di Firth of Forth—seekor jantan dengan panjang 78 kaki—yang memiliki "plat yang hitam dan bertanduk" dan "dua bukaan besar yang bentuknya hampir seperti piramida".Nama spesifik musculus merupakan istilah dalam bahasa Latin yang dapat berarti "otot", namun dapat juga diterjemahkan menjadi "tikus kecil".  Linnaeus, yang menamai spesies ini di dalam Systema Naturae tahun 1758,mungkin mengetahui hal ini dan bermaksud menjadikannya sebagai sebuah ironi.

Spesies ini juga disebut sulphur-bottom (bagian bawah sulfur) oleh Herman Melville dalam novelnya Moby-Dick karena bagian bawah yang berwarna jingga-cokelat atau semburat kuning yang disebabkan oleh diatom di kulitnya. Nama lain yang pernah digunakan adalah rorqual sibbald (dinamai dari Sir Robert Sibbald), paus biru raksasa dan rorqual besar utara. Nama-nama tersebut kini sudah tidak digunakan lagi. Istilah paus biru pertama kali digunakan dalam novel Moby Dick, yang hanya menyebutnya secara sepintas dan tidak mengaitkannya secara spesifik dengan spesies ini. Nama tersebut berasal dari kata dalam bahasa Norwegia blåhval, yang dicetuskan oleh Svend Foyn setelah menyempurnakan senapan harpunnya; seorang ilmuwan Norwegia yang bernama G. O. Sars membuatnya menjadi nama umum dalam bahasa Norwegia pada tahun 1874.

Para ahli membagi spesies ini ke dalam tiga atau empat subspesies: B. m. musculus, paus biru utara yang terdiri atas populasi di Atlantik Utara dan Pasifik Utara; B. m. intermedia; paus biru selatan yang tinggal di Samudra Selatan; B. m. brevicauda, paus biru kerdil yang dapat ditemui di Samudra Hindia dan Pasifik Selatan; dan B. m. indica, rorqual hindia besar yang juga tinggal di Samudra Hindia, walaupun pengklasifikasian ini masih kontroversial karena subspesies ini mungkin merupakan subspesies yang sama dengan B. m. brevicauda.