中国的水墨画，在世界上是很独特的画种。它不用或少用色彩，一般只有浓淡不同的黑色墨水，在白色的纸（或绢）上作画。水墨画之于中国画，就如同油画之于西方绘画，它是中国画的典型面目，也是最能代表中国艺术精神的形式之一。
一般认为，唐代诗人王维是中国第一位水墨画家，在他之前，中国绘画都是着色的。王维受到道家和禅宗哲学的影响，在中国书法的启发下，创造了水墨画。今天我们已经很难见到他的真迹，一幅名为《雪溪图》的作品，是北宋人的摹本，比较接近王维的风格。这幅水墨山水画的是郊外雪中溪流风光，完全不用色彩，用黑色的水墨，居然创造了一个平淡悠远的白雪世界。自他以后，水墨画法渐渐成为风尚，到了公元9世纪中后期（唐末五代到北宋初年），水墨画超过了着色画的影响，一跃成为中国画的主要形式。
在中国为什么会出现水墨画，这显然有技术材料和艺术传统方面的原因。水墨画一般画在纸和绢上，其中又以纸张为主。中国造纸技术很发达，具有良好质感和丰富渗透功能的纸张为水墨画的出现提供了基础。而中国有书法的传统，书法的创作方式对水墨画有直接的影响。但更主要的原因却来自观念方面。
用黑色的墨水在白色的纸、绢上作画，这是中国画家所钟情的“黑白世界”。黑白世界，对于中国人来说，是无色的世界，不是它完全没有颜色，而是说它没有绚烂富丽的颜色。中国画本来很重视色彩——早期的中国画被称为“丹青”，就是对色彩的强调。中国人色彩感受能力并不差，看一看中国京剧的服饰就可以明白这一点。中国画家本来就强调“以色貌色”——世界中有红，有黄，有蓝，有丰富的颜色，绘画应该以变化多样的色彩来表现。这种局面到唐五代发生了变化。
唐代书画艺术家在道家思想的影响下，提出了“同自然之妙有”的观点。“同自然之妙有”是说，书画艺术应该具有造化自然一样的性质，造化自然是最朴素的，它排斥人为，排斥文饰。这种“同自然之妙有”的追求，体现在山水画创作中，就是以水墨代替青绿着色。唐代绘画理论家张彦远曾对水墨山水画兴起的思想根源作了说明。他指出，自然万象的本体和生命是“道”，也就是阴阳的气化，它是自然的，不是人为的，所谓“阴阳陶蒸，万象错布，玄化无言，神功独运”。“道”（“气”）是最朴素的，但它蕴含着自然界的五色，产生着自然界的五色。自然万象的五彩，并不是依靠着丹碌、铅粉的着色，而是依靠朴素的“道” （“阴阳陶蒸”），所谓“草木敷荣，不待丹碌之采，云雪飘扬，不待铅粉而白”，“山不待空青而翠，凤不待五色而尽薄６难丈汀暗馈币谎铀亍Ｋ罱咏靶化无言”的“道”，最接近自然的本性，因此是最“自然”的颜色。它也和“道”一样，蕴含着自然界的五色，产生着自然界的五色。所以张彦远说“运墨而五色具”。水墨的世界，可以表现出色彩的感觉，同时还能表现出色彩无法传达的内容。画家如果“意在五色”，用“丹碌”的颜色涂草木，用铅粉的颜色涂云雪，就背离了造化自然的本性，用人工破坏了自然，结果就是如张彦远所说“物象乖矣”。张彦远的话说明，水墨山水画的兴起，和画家在道家思想影响下追求“同自然之妙有”的境界有着必然的联系。
张彦远的这个思想，也表现其他一些画论著作中，如托名王维的《画山水诀》一开始就说：“夫画道之中，水墨为上。肇自然之性，成造化之功。”这就是说，因为水墨的颜色最符合造化自然的本性，所以水墨山水画在绘画中占有最高的位置。
“画道之中，水墨为上”，从此成为中国绘画的主流观念。
