上野原遺跡の住まいは竪穴住居です。地面に縦に底の平らな穴（竪穴）を掘り，屋根を付けたものです。
ここでの竪穴は上から見ると隅の丸い四角形をしています。また，竪穴のまわりには柱穴が巡っており，これらの柱は垂直に立ててあったようです。

現在復元してある竪穴住居は柱を垂直に立てて屋根のところでまとめる案を採っています。

ほとんどの縄文時代の竪穴住居内からは火を焚いた跡が見つかっており，これは家の中で煮炊きをしたり暖を取ったりした跡だといわれています。

しかし，上野原遺跡で見つかっている竪穴住居内には火を焚いた跡が見られません。煮炊きは家の外でしていたのかもしれません。

これらの住まいが何軒か集まっている状態をムラといいますが，ムラとしてもっとも古い部類に入るのが上野原遺跡です。