1914年，第一次世界大战爆发。维特根斯坦作为志愿兵加入奥地利军队。战争后期的一份战报称他“极其勇敢、镇定”，并因此受到广泛赞誉。不过，战争期间，他始终为身边战友的粗鄙感到痛苦。服役期间他一如既往写下大量哲学笔记。像李贺写诗那样，维特根斯坦总是把自己的思想以札记的形式记录下来，或对同事和学生口授这类片段。他把这些札记收集在一系列笔记本里，准备以它们为底本形成著作。这些笔记有一部分保存下来，其中主要部分在他死后由研究者编订出版，最重要的是《1914-1916年笔记》（下文将简写为《早期笔记》，这本笔记实际上止于1917年1月；此外还可参考韩林合编译的《战时笔记》）。这些笔记对解释他的《逻辑哲学论》有极大帮助，因为这部成形著作采用了极其简约的形式。通过这些笔记我们可以看到书中的语句怎样生长定型，例如在这些笔记里，我们第一次见到维特根斯坦的图象说：“语句是事实的图象。”但是这些笔记的价值也许更多在于其中包含了很多犹豫，相形之下，《逻辑哲学论》的语气非常决断，似乎掩盖了维特根斯坦对某些问题的困惑。例如他当时对事物是否可以分析到简单对象相当犹豫：“在分析中我们必然达到简单成分，这是先天地明白无疑的吗？例如，这是包含在分析的概念中的吗？”在《逻辑哲学论》里他断然采用了终极分析和简单对象的路线，从而建立了逻辑原子论。这当然不一定只是一个决断而可能是他那一时期得出的结论，但笔记中包含的怀疑后来还是占了上风：在后期哲学里，他对自己的“最终分析”的思想提出了严厉的批判。