海顿的父亲叫马蒂亚斯·海顿，他在1699年1月31日出生于海因堡。马蒂亚斯两岁的时候，父亲汤姆斯就去世了，留下了年轻的妻子和六个儿子，六个儿子中最大的只有12岁。
在那个兵荒马乱的年代里，一家人要生活下去，必须依靠男人。于是，在守寡四个月以后，马蒂亚斯的母亲就嫁给了一个车匠——西弗朗茨，她为他生了四个小孩。
西弗朗茨脾气暴躁，喜欢吵架，他的六个继子都跟着他学手艺，日子并不好过。
1717年，马蒂亚斯学完了手艺，就开始到处旅行，最远曾到德国的法兰克福。他回到家时，带回了一架竖琴，并无师自通地学会了弹奏。
凭着自己的手艺，马蒂亚斯攒了一笔钱，在海因堡附近的罗劳村盖了一栋房子。1728年，马蒂亚斯和比自己小8岁的玛利亚·科勒结婚。
海顿的母亲玛利亚·科勒出生于1707年11月10日，是一位集市仲裁员的女儿。那时罗劳村村民正在奋勇抵抗匈牙利人的入侵，玛利亚的父亲在抵抗中牺牲。后来，玛利亚到一个贵族家做厨娘。