朱三收取青州后，開始了收取并州的進程。朱三派使者給張燕下了通牒，要求張燕率領黑山軍投降他，張燕畏懼朱三，當年張燕率領黃巾攻南皮的時候，朱三給張燕留下了深刻的印象，差點把張燕打哭。朱三在東光破百萬青州軍，給予了黃巾軍極大的威懾，加上這些年對黑山軍的滲透，公元194年冬，張燕率百萬黑山軍投降朱三，朱三裁撤老弱，選擇精壯之士3萬成軍，由張燕統帥。公元195年春，朱三帶領6萬6千軍隊進攻并州，高順的陷陣營、徐榮的丹陽兵、趙云的輕騎、張燕的黑山軍、典韋、賈詡出征。并州這時很亂，至少一半在匈奴手里，呂布老家九原已經是鮮卑地盤了，還有亂七八糟的太行山塔利班黑山賊、白波帥等，并州并無利害的大將防守，朱三花三個月的時間就橫掃整個并州，在這期間，敗匈奴單于于扶羅，授于夫羅官職于鄴城，將南匈奴劃分四部，廢除單于制度，各設首領一名，封候。設置官吏專門管理匈奴事務。敗并州鮮卑首領步度根，授步度根官職于鄴城，將并州鮮卑分為四部，各設首領一名，封侯。設置官吏專門管理并州鮮卑事務。在這兩場戰爭中，朱三、典韋、趙云殺人都超過5千人。使匈奴、鮮卑畏懼，為廢除匈奴、鮮卑的單于、大汗制度打下了基礎。只有朱三冊封的首領才合法，否則，各部共擊之。朱三令徐晃、張燕統帥3萬黑山軍鎮守并州，同時對并州境內的重要人物進行洗腦，朱三招募人才郝昭（善守城），讓朱三遺憾的是系統并不能給漢族以外的人進行洗腦。公元195年冬，朱三率軍回冀州。