在一般人看來玉就是石頭。以礦物學分類，玉可以分為兩種，一種是鍵狀硅酸鹽中的角閃石組，包括透閃石和陽起石，也稱軟玉。還有一種是單鏈狀硅酸鹽堿性單斜輝石，又叫硬玉（如翡翠）。中國傳統的古玉大多是軟玉，包括新疆玉，岫玉等，只是在清代初年吳三桂追擊南明永歷皇帝進入并控制了云南及緬甸北部盛產翡翠的礦區之后，硬玉才正式進入中國并流行起來。

早在近萬年前的舊石器時代晚期，中國人的先祖就發現并開始使用玉石了。一般認為上古時的人們在制作、使用石制工具時發現了玉這種礦物。它比一般石頭更為堅硬，于是人們就用它來加工其他的石制品。它又有與眾不同的色澤和光彩，晶瑩通透，惹人喜愛，于是人們慢慢就用它來做裝飾品。又由于玉的數量不是很多而且加工困難，因此就只有族群里少數頭面人物如族長、祭師才有資格佩帶并使用它，這又使它漸漸演變成禮器、祭器或圖騰。正是在這種長期緩慢的進化過程中，玉由原來僅僅是一種特別性質的石頭轉化為代表權力、地位、財富、神權的象征。

我們現今看到史前早期的古玉大多是玉工具如玉刀、玉斧、玉針。然后就出現玉禮器（祭器）如良渚文化的玉宗、三叉型器，也有部分象形的玉器如紅山文化的玉龍、玉豬等，應是作為族群的圖騰而制作的。此一時期的玉器并不完全是由現代意義所指的玉石所制作的，它可以是玉，也可以僅僅是漂亮一點的石頭，如與變質大理石礦共生的透閃石原礦。及至新石器時代晚期到青銅時代，在中國主流文化區域內已再難見到玉工具了，代之而來出現的是大量的玉冥器、玉配飾如商代婦好幕出土的玉龍、玉風、玉鶴。此時已廣泛采用軟玉來制作器物了。

由老三代經秦漢至隋唐，玉器一直是皇公貴族的專有裝飾用品。兩宋時經濟發達，商業繁榮，由于手工業技術進步，玉器加工變得更方便快捷，玩玉賞玉之風大盛。此時出現大量制作精巧、加工細膩、構思奇妙的玉擺飾、玉佩件。

明清時玉器制作及玩賞達到頂峰，品種也更為豐富多彩，小到玉頭簪，玉鈕扣，大到整片的玉屏風、玉山、玉船。王公貴族家還常用玉石來制作日用具如玉碗、玉杯、玉壺等等。一般來說玉質以白玉（特別是新疆產的羊脂白玉）為上，黃玉次之，青玉再次，雜玉（如南方玉，河南玉）為下。

清初時翡翠傳入中原，其動人心魄的碧綠馬上贏得了國人的傾心。用翡翠制成的玉飾件大行其道，成為時人竟相追逐的時尚。但在傳統的中國人眼里，翡翠制成的玉飾卻遠遠比不上古玉。直到今天，如果我們拿起一件翡翠，我們只會去評價它的顏色，它的質地，它的制作。可當我們看見一件古玉，欣賞它的造型，它的沁色、它的質料的時候，心中油然而升的卻會是一種強烈的民族自豪感，究其原由，就是因為古玉里孕含著中華五千年文明的沉淀以及炎黃子孫的民族精神。