Писатель родился в 1962 году в городке Льюистон, в США. В 1980 году окончил среднюю школу. С ранних лет увлекся мореходством. Учился в Университете штата Массачусетс в течение двух лет, а затем перевелся в Лос-Анджелес, мечтая стать режиссером. Первой сферой его профессиональной деятельности стало телевидение.

Поворотным моментом в жизни Нельсона стал приход в гавань Марина-дель-Рей реконструированного судна Дрейка «Золотая лань». В 1988 году он поступил на него матросом и с тех пор плавал на нескольких исторических судах, дослужившись до должности третьего помощника на Фрегате Его Величества «Мэри Роуз» (этот корабль снимали во многих исторических фильмах, в том числе «Хозяин морей»).

В 1992 году Нельсон сошел на берег, решив стать писателем. Два года спустя в свет вышла его первая книга By Force of Arms. С тех пор писательская деятельность стала для него главной. Большая часть его произведений базируется на военно-морской истории Америки.

Джеймс Нельсон живет в городке Харпсуэлл, штат Мэн, на побережье Атлантического океана с женой и четырьмя детьми. В 2004 году он получил литературную премию WY Boyd за выдающиеся достижения в жанре военной фантастики от Американской библиотечной ассоциации за роман Glory In The Name.