武夷岩茶铁罗汉在宋代就已出名，其来源有以下两种说法：

一说是武夷山慧苑寺僧人积慧，通晓茶叶制造技术。因他身强体壮而肤色助黑，众人称他铁罗汉。一日他到慧苑岩下，发现蜂窠坑的岩壁上有一株茶树，便采下树上嫩芽带回寺庙，并制作成岩茶。茶泡开后有兰桂之香，具岩骨之香，众人便以积慧之名称此茶为铁罗汉。

另一说是十九世纪中，闽南惠安县商人施大成，在城关霞梧街开设集泉茶庄，晓得武夷铁罗汉可卖得好价，就在茶庄卖起以铁罗汉为名的茶。碰巧当时惠安县瘟疫猖獗，购买铁罗汉饮用的人歪打正着，疾病不药而愈，从此铁罗汉名声大振。

传说有待考证。确定的是，铁罗汉是武夷山最早的名丛，原产福建省武夷山市慧苑岩之内鬼洞（亦称峰窠坑），两旁悬崖峭壁，茶树植于一狭长地带的小溪涧旁。20世纪80年代以来，武夷山市已扩大栽培。国内一些科研、教学单位有引种。