「代々木」は、その昔、この付近の丘陵に<さいかち>の木が多く、住民が代々生産当たったという説(東都一覧武蔵考)、あるいは、『代々木御料地なる旧井伊侯下屋敷に樅の老樹あり、幾年代を経しを知らず、すでに枯れて後継樹も喬木となり居れり、是れ当地に於いて最も有名なり、代々木の称は是より起これり』と、大日本名所図絵に記述されている説が残されています。
井伊家下屋敷は、加藤清正の子孫の屋敷地を、当時の彦根城主井伊直孝が拝領したもので、古くからの老大木が生えていたものでしょう。この樅の老樹は、よじ登ると芝浦鉄砲州まで一目に見えたといわれ、有名な絵師である安藤広重の錦絵「江戸土産」には、<代々木村の代々木>と題して、この大木が描かれています。
幕末のペリー来航の折は、井伊家の武士がこの木に登って、アメリカ艦隊の黒船の動きを見張ったと伝えられています。明治時代の調査によれば、幹の周囲が三丈六尺(約10.8メートル)もあったそうです。男性4人が両手を張って、ようやく囲むことができるほどの大木でした。高さが、どれぐらいあったのか確かな記録がありませんが、幹の太さからいって、50メートル以上はあったのではないでしょうか。
また、この木の下は古墳だといわれ、石棺が埋没しているともいわれます。しかしながら、明治時代に枯れてしまい、枯木の幹が残っていましたが、これも空襲の折りに撃墜された米軍機B29が落ちて、すっかり焼失してしまいました。
戦後、昭和27年4月3日、同じ場所に樅の木が植えられ、現在に至っています。
明治天皇は、一時御料地であったこの地をたいへん愛され、歌も詠まれています。