大葉黃楊是灌木或小喬木，高0.6-2.2米，胸徑5厘米；小枝四棱形（或在末梢的小枝亞圓柱形，具鈍棱和縱溝），光滑、無毛。葉革質或薄革質，卵形、橢圓狀或長圓狀披針形以至披針形，長4-8厘米，寬1.5-3厘米（稀披針形，長達9厘米，或菱狀卵形，寬達4厘米），先端漸尖，頂鈍或銳，基部楔形或急尖，邊緣下曲，葉面光亮，中脈在兩面均凸出，側脈多條，與中脈成40-50度角，通常兩面均明顯，僅葉面中脈基部及葉柄被微細毛，其余均無毛；葉柄長2-3毫米。
花序腋生，花序軸長5-7毫米，有短柔毛或近無毛；苞片闊卵形，先端急尖，背面基部被毛，邊緣狹干膜質；雄花：8-10朵，花梗長約0.8毫米，外萼片闊卵形，長約2毫米，內萼片圓形，長2-2.5毫米，背面均無毛，雄蕊連花藥長約6毫米，不育雌蕊高約1毫米，雌花：萼片卵狀橢圓形，長約3毫米，無毛；子房長2-2.5毫米，花柱直立，長約2.5毫米，先端微彎曲，柱頭倒心形，下延達花柱的1/3處。
蒴果近球形，長6-7毫米，宿存花柱長約5毫米，斜向挺出。花期3-4月，果期6-7月。