诗一开头就引出山势高耸、道路纡曲的太行山区。“北上”二字，不仅表明了由邺城（今河北省临漳县西）到壶关（今山西省长治市东南）的行军走向，而且显示出旆旌悠悠，锐不可当的军容，以此笼罩全篇，气势逼人。紧接着文势一顿，发出“艰哉”的喟叹，先在心理土造成惊恐状态，而后围绕“艰”字写景抒情。这就在布局上避免了平铺直叙。并为下文创造出一个广阔的空间和一种步履维艰的气氛。
“北上太行山”，引出步履是怎样的维艰，“巍巍”叠用，展示出一座高耸入云的大山，挡住去路，呈现出强烈的可望而不可即的感觉。这是写仰望。接下去写平视：“羊肠坂诘屈。”坂曰“羊肠”，又以“诘屈”形容之，则狭窄而多盘旋之势，历历在目。写山写坡，都是纪实，都是从正面落笔；“车轮为之摧！”则是感慨，是烘托。笔法变化而又和谐统一，加强了具体感与真实性。再下去，笔分两头：一方面写自然景色凄苦，一方面写野兽当道，但又相互交错，以突出行军之艰险。写自然景色，一则曰“树木萧瑟”，再则曰“北风声悲”，三则曰“雪落霏霏”。通过“萧瑟”“霏霏”，写出了景色之阴暗、昏沉、凄凉；通过“声悲”，将客观的物和主观的我融为一体。写野兽，则是“熊罴对我蹲，虎豹夹路啼”。这两句都是写途中多野兽，但上句从形态方面描绘。“蹲”者，熊罴袭人之状也。“蹲”而“对我”，毛骨悚然。下句从声音方面渲染。“啼”者，虎豹清凄之声也。“啼”而“夹路”，倍感悲凉。诗人对阴森可怕的自然环境作了朴实的抒写之后，又对荒凉冷落的社会环境作了深刻的描述。在那低洼近水处行军，很少见到人的踪影，天黑了，竟找不到宿栖之处，还得担着行囊上山拾柴，拿着斧子凿冰取水……。这情景写得真切动人，感同身受。
曹操诗不以写景称著，但在写景方面，却有独特而成功之处。这首诗的写景就很成功。在诗人笔下，太行山之高，羊肠坂之阻，风雪之交加，树木之摇落，熊罴之状，虎豹之声，莫不逼真逼肖。视觉上，在那兀立的怪石上，萧瑟的树林中，一群群熊罴，不是蹲在那儿，以攫取的目光逼视着行人；听觉上，从那山路两旁，伴随着风吹雪飘，不是传来了一阵阵虎豹的长呜吗……这首诗的写景，就其描形、绘声、着色之精湛而言，可与《观沧海》中写繁媲美。两诗皆行军途中所作，尽管背景、内容、感情、风格都不同：一是率师出征，一是凯旋归来；一是写冬之山景，一是绘秋之海景；一是反映出统帅关切士卒的赤子之心，一是表现了英雄吞吐宇宙之概；一是苍凉悲壮，一是波澜壮阔；但其成功一样，可称曹操诗写景之双璧。
这首诗不仅以写景取胜，而且以抒情见长。这情是以真景真事为基础，因而不论是“叹息”，还是“怫郁”，也不论是“思东归”，还是“悲《东山》"，都真切动人。
首先是叹行军之艰险。在行军路上，既有太行巍巍，羊肠诘屈，野兽逞强，风雪肆虐的险阻，又有“水深桥粱绝”，“迷惑失故路”，“薄暮无宿栖”，“人马同时饥”的艰难，因而引起了诗人“东归”之思。统帅的一言一行，都关系到士卒斗志的高低，战役的成败。尤其是在开赴前线的路途中，即使艰难重重、险阻累累，作为一个统帅，不能也不应流露出丝毫畏惧、退缩情绪，更不允许直言出来，涣散军心，而诗人一反常规，直言不讳地说：“思欲一东归。”从这种毫不掩饰的言语中，窥察到诗人性格的一个方面：坦率。陈祚明说：“孟德所传诸篇，虽并属拟古，然皆以写己怀来……本无泛语，根在性情。”（《采菽堂古诗选》）钟惺也说：“……如‘瞻彼洛城郭，微子为哀伤’，‘生民百遗一，念之断人肠’，‘不戚年往，忧世不治’，亦是真心真话。”（《古诗归》）这些评论，用于《苦寒行》，也都恰切。
其次是哀生灵之涂炭。这一点，尽管只在“溪谷少人民”一句中吐露出来，但从全诗字里行间，都可以感受得到。“溪谷”，山谷有水处。吴淇说：“山居趁坳，泽居趁突。此山行而曰‘溪谷少人民’，则更无人民矣。”（《六朝选诗定论》）这话说得很对。深山区人民聚居的溪谷，尚且少人民，更何况其他地方。东汉末年，军阀混战，千村薜苈，万户萧疏，其惨象，目不忍睹，耳不忍闻。但诗人未作更多的具体描述，而是选择具有代表性的谿谷去写，这就收到了举一隅而以三隅反的艺术效果。“少”字精当。它与下文“薄暮无宿栖”的“无”，前后照应，相互补充，真实地反映了当时极其凄惨的社会现实。同时，也流露出诗人对处于水深火热之中的灾难人民的同情。这种感情，在《蒿里行》中倾吐得比较具体。他说：“铠甲生虮虱，百姓以死亡。白骨露于野，千里无鸡鸣。生民百遗一，念之断人肠。”这几句，是“谿谷少人民”最好的注脚。
再次是“悲彼《东山》诗”。这里有两层意思：《东山》，是《诗经》中名篇。写一位跟随周公东征三年获得生还的兵士在归途中的歌唱。全诗气氛是悲凉的，色调是凄苦的，反映了战争给人民带来深重的灾难，诗中“伊威在室，蟏蛸在户。町疃鹿场，熠耀宵行”等句，与诗人征高于途中所见略同，因而勾起了诗人对长期征战不得归家的士卒的深切关怀。另外，旧说《东山》是写周公的。汉毛苌说：“《东山》，周公东征也。周公东征，三年而归。劳归，士大夫美之，故作是诗也。”（《诗序》）此处与“周公吐哺，天下归心”（《短歌行》）联系起来看，显然含有自比周公之意。作者曾经说过：“设使国家无有孤，不知当几人称帝，几人称王。”这话非曹操莫能道出。他还以齐桓、晋文“奉事周室”自许，以“三分天下有其二，以服事殷”自励（《述志令》，见《魏志·武帝纪》裴注引《魏武故事》），而这里又以周公自比，是其真情实意的再次表露。曹操削平群雄、统一北方后，威震华夏，大权在握，废献帝、夺天下，如探囊取物，而曹操不为，实属难能可贵。
这首诗，如果只停留在抒写行军艰险、思欲东归上，那就失之平平了。它高就高在诗人将自身征途之苦同士卒思归之情、广大人民倒悬之急融为一体，将自己的理想抱负同周公事业联系起来，扩大了内涵，升华了主题，因而具有强烈的感染力和巨大的生命力。
这是一首融叙事、写景、抒情为一体的诗篇，它记叙了曹操征讨高斡的行军之苦，抒发了诗人关怀士卒的体恤之情，反映了汉末建安年间干戈动乱的社会生活，其内容具有诗史性的文献价值。诗篇在艺术表现方面，有其独特的感人魅力。首先，结构谨严，章法有致。开篇叙事，继之写景，再做抒情，三者交替有序出现。所叙之事清晰了然，所写之景形象生动，所抒之情深刻感人。其次，语言古朴直率，风格慷慨悲凉。全诗不见华彩藻饰之言，只用朴实常见之语，直言其悲凉之事，直抒其慷慨之情。