Az Nmap egyik legjobban ismert tulajdonsága az operációs rendszerek távoli felismerése a TCP/IP verem ujjlenyomata alapján. Az Nmap egy sor TCP és UDP csomagot küld a célpont felé és gyakorlatilag a válaszok minden egyes bitjét kielemzi. Tesztek tucatjainak végrehajtása után - mint például a TCP ISN mintavételezés, a támogatott TCP beállítások, az IP ID mintavételezés és a kezdeti ablakméret ellenőrzése - az Nmap összehasonlítja az eredményeket az nmap-os-db adatbázisban tárolt több, mint 800 ismert ujjlenyomattal és egyezés esetén kiírja az adott operációs rendszer részleteit. Minden ujjlenyomathoz tartozik egy kötetlen formátumú szöveges leírás az operációs rendszerről és egy besorolás, mely megadja a gyártó nevét (pl. SUN), az alap operációs rendszert (pl. Solaris), az operációs rendszer genercióját (pl. 10) és az eszköz típusát (általános célú, útválasztó, kapcsoló, játékkonzol stb.).

Ha az Nmap nem tudja kitalálni az operációs rendszer típusát és a feltételek jók (pl. található legalább egy nyitott és egy zárt kapu), az Nmap megad egy webcímet, ahová elküdheti az ujjlenyomatot az operációs rendszer típusával, feltéve ha biztos benne. Ezzel hozzájárulhat az ismert operációs rendszerek adatbázisának bővítéséhez és segíthet az Nmap programot még pontosabbá tenni mindenki számára.

Az operációs rendszer érzékelésének során számos olyan adatot is felhasznál a program, melyeket más folyamatok során már begyűjtött. Az egyik az üzemidő felmérése, mely a TCP időbélyeg paramétert használja (RFC 1323) annak kiderítésére, hogy az eszközt mikor indították újra legutoljára. Ez csak azoknál az eszközöknél működik, melyek kiadják ezt az információt. A másik a TCP sorszám megjósolhatóságának osztályozása. Ez azt méri, hogy mennyire nehéz hamisított TCP kapcsolatot felépíteni a célponttal. Ez hasznos lehet a forrás IP cím alapú bizalmi kapcsolatokat (távoli bejelentkezés, tűzfalak, szűrők stb.) kihasználó támadások esetén a támadás valódi forrásának az elrejtésében. Ezeket a megtévesztéseket ma már ritkán használják, de elég sok rendszer sérülékeny velük szemben. Az aktuális bonyolultsági szám egy statisztikai mintavételezés alapján alakul ki és változhat. Általában jobb az angol nyelvű szöveges osztályozást használni, mint például a „méltó kihívás (worthy challenge)” vagy az „egyszerűen vicc (trivial joke)”. EZek csak a bőbeszédű (-v) üzemmód normál kimenetén jelennek meg. Ha a bőbeszédű üzemmódot a -O paraméter mellett használja, az IP ID sorszám előállításról is jelentést kap. A legtöbb eszköz a „növekményes (incremental)” osztályba tartozik, ami azt jelenti, hogy minden egyes elküldött csomagnál növelik az IP fejléc ID mezőjének értékét. Ez sebezhetővé teszi őket néhány fejlett információ gyűjtési és megtévesztési támadással szemben.

Az operációs rendszer érzékelésének működésével, használatával és testreszabásával kapcsolatban a https://nmap.org/osdetect/ címen talál egy leírást.

Az operációs rendszer érzékelése és vezérlése a következő paraméterekkel lehetséges: