传说起源于元代。当年元世祖忽必烈统帅大军南下远征。一日，人困马乏饥肠辘辘，他猛想起家乡的菜肴——清炖羊肉，于是吩咐部下杀羊烧火。正当伙夫宰羊割肉时，探马飞奔进帐报告敌军逼近。饥饿难忍的忽必烈一心等着吃羊肉，他一面下令部队开拔一面喊：“羊肉!羊肉!”厨师知道他性情暴躁，于是急中生智，飞刀切下十多片薄肉，放在沸水里搅拌几下，待肉色一变，马上捞入碗中，撒下细盐。忽必烈连吃几碗翻身上马率军迎敌，结果旗开得胜。

在筹办庆功酒宴时，忽必烈特别点了那道羊肉片。厨师选了绵羊嫩肉，切成薄片，再配上各种佐料，将帅们吃后赞不绝口。厨师忙迎上前说：“此菜尚无名称，请帅爷赐名。”忽必烈笑答：“我看就叫‘涮羊肉’吧!”从此“涮羊肉”就成了宫廷佳肴。