战国时代，有一个叫公明仪的音乐家，他能作曲也能演奏。他的七弦琴弹得十分好，他弹的曲子优美动听，很多人都喜欢听他弹琴，人们非常敬佩他。
公明仪不但在室内弹琴，遇上好天气还喜欢带琴到郊外弹奏。有一天，他来到郊外，清风慢慢地拂过，垂柳轻轻地动着，一头黄牛正在草地上吃着草。公明仪一时兴致来了，摆上琴，拨动琴弦，就给这头牛弹起了最高雅的乐曲《清角》来。老牛在那里却无动于衷，仍然一个劲地低头吃草。
公明仪十分不解，着急极了，拿出了自己全部的本领，将一首首曲子弹给老黄牛听。这回呢，老黄牛偶尔甩甩尾巴，赶着牛虻，仍然低着头闷不吱声地吃草。
最后，老黄牛还没等公明仪弹奏完，它就慢悠悠地走了。
公明仪见老牛始终无动于衷，很是失望。人们对他说：“你不要生气了！不是你的曲子弹的不好听，是你的曲子不对牛的耳朵呀！”最后，公明仪也只好叹口气，抱琴回去了。真是自找没趣呀！
这个成语，用以说明办任何事情，都必须看对象，因人制宜，因事制宜。后人用“对牛弹琴”这个成语，比喻向不懂道理的外行人讲高深道理是徒劳的。