石菖蒲是多年生草本植物。根莖芳香，粗2-5毫米，外部淡褐色，節間長3-5毫米，根肉質，具多數須根，根莖上部分枝甚密，植株因而成叢生狀，分枝常被纖維狀宿存葉基。葉無柄，葉片薄，基部兩側膜質葉鞘寬可達5毫米，上延幾達葉片中部，漸狹，脫落；葉片暗綠色，線形，長20-30（50）厘米，基部對折，中部以上平展，寬7-13毫米，先端漸狹，無中肋，平行脈多數，稍隆起。
花序柄腋生，長4-15厘米，三棱形。葉狀佛焰苞長13-25厘米，為肉穗花序長的2-5倍或更長，稀近等長；肉穗花序圓柱狀，長（2.5）4-6.5（8.5）厘米，粗4-7毫米，上部漸尖，直立或稍彎。花白色。
成熟果序長7-8厘米，直徑可達1厘米。幼果綠色，成熟時黃綠色或黃白色。花果期2-6月。