儒墨两家根本上不同之处，在于两家哲学的方法不同，在于两家的“逻辑”不同。《墨子·耕柱篇》有一条最形容得出这种不同之处。
叶公子高问政于仲尼，曰：“善为政者若之何？”仲尼对曰：“善为政者，远者近之，而旧者新之。”（《论语》作“近者悦，远者来。”）
子墨子闻之曰：“叶公子高未得其问也，仲尼亦未得其所以对也。叶公子高岂不知善为政者之远者近之而旧者新之哉？问所以为之若之何也。……”
这就是儒墨的大区别，孔子所说是一种理想的目的，墨子所要的是一个“所以为之若之何”的进行方法。孔子说的是一个“什么”，墨子说的是一个“怎样”，这是一个大分别。《公孟篇》又说：
子墨子问于儒者，曰：“何故为乐？”曰：“乐以为乐也。”子墨子曰：
“子未我应也。今我问曰：‘何故为室？’曰：‘冬避寒焉，夏避署焉，室以为男女之别也。’则子告我为室之故矣。今我问曰：‘何故为乐’曰：
‘乐以为乐也。’是犹曰：‘何故为室？’曰：‘室以为室也。’”
儒者说的还是一个“什么”，墨子说的是一个“为什么”。这又是一个大分别。
这两种区别，皆极重要。儒家最爱提出一个极高的理想的标准，作为人生的目的，如论政治，定说“君君、臣臣、父父、子子”；或说“近者悦，远者来”；这都是理想的目的，却不是进行的方法。如人生哲学则高悬一个“止于至善”的目的，却不讲怎样能使人止于至善。所说细目，如“为人君，止于仁；为人臣，止于敬；为人父，止于慈；为人子，止于孝；与国人交，止于信。”全不问为什么为人子的要孝，为什么为人臣的要敬；只说理想中的父子君臣朋友是该如此如此的。所以儒家的议论，总要偏向“动机”一方面。“动机”如俗话的“居心”。
孟子说的“君子之所以异于人者，以其存心也，君子以仁存心，以礼存心”。存心是行为的动机。《大学》说的诚意，也是动机。儒家只注意行为的动机，不注意行为的效果。推到了极端，便成董仲舒说的“正其谊不谋其利，明其道不计其功”。只说这事应该如此做，不问为什么应该如此做。
墨子的方法，恰与此相反。墨子处处要问一个“为什么”。例如造一所房子，先要问为什么要造房子。知道了“为什么”，方才可知道“怎样做”。
知道房子的用处是“冬避寒焉，夏避暑焉，室以为男女之别”，方才可以知道怎样布置构造始能避风雨寒暑，始能分别男女内外。人生的一切行为，都是如此。如今人讲教育，上官下属都说应该兴教育，于是大家都去开学堂，招学生。大家都以为兴教育就是办学堂，办学堂就是兴教育，从不去问为什么该兴教育。因为不研究教育是为什么的，所以办学和视学的人也无从考究教育的优劣，更无从考究改良教育的方法。我去年回到内地，有人来说，我们村里，该开一个学堂。我问他为什么我们村里该办学堂呢？他说：某村某村都有学堂了，所以我们这里也该开一个。
这就是墨子说的“是犹曰：何故为室？曰：室以为室也”的理论。
墨子以为无论何种事物、制度、学说、观念，都有一个“为什么”。换言之，事事物物都有一个用处。知道那事物的用处，方才可以知道他的是非善恶。为什么呢？因为事事物物既是为应用的，若不能应用，便失了那事那物的原意了，便应该改良了。例如墨子讲“兼爱”，便说：
用而不可，虽我亦将非之。且焉有善而不可用者？（《兼爱·下》）