В настоящее время историки-кинологи склоняются к версии, что хины принадлежали к «игрушечным» китайским породам, происходящим от собак из Тибета. К таким собакам также относятся: мопс, лхаса апсо, пекинес, тибетский спаниель, ши-тцу. Для них характерны следующие черты экстерьера: большая голова и глаза, короткая шея, широкая грудная клетка, густой шерстный покров. Все эти особенности говорят о приспособленности животных к высокогорному климату. Родственную связь пород подтвердили недавние генетические исследования.
Первые письменные описания породы японский хин встречаются в источниках XII века. Содержать таких собачек было привилегией аристократии. Хины считались священными животными. Их изображения нередко украшали храмы, фарфоровые вазы, воплощались в изящных статуэтках из дерева, бронзы, слоновой кости. Простолюдинам строго запрещалось держать японских хинов. Их воровство каралось смертью.
Целенаправленное разведение породы началось в Японии в XIV веке. Сведения заносились в племенные книги и хранились в строжайшей тайне. В те времена особо ценными считались миниатюрные особи, помещающиеся на диванных подушечках и в рукавах одежд своих знатных владельцев.
Как возникло название породы тоже доподлинно не известно. Некоторые исследователи полагают, что слово «хин» происходит от китайского созвучного названия собственно собак. Другие считают, что оно родственно японскому «хий», что значить «драгоценность». Последнее отражает статусность этих собачек.
В Европу, предположительно, японских хинов завезли португальские моряки в 1613 году. Так пара таких собак оказалась при дворе английского монарха Карла II и ужасно полюбились его королеве, Екатерине Браганской. Считается, что примерно в это же время хины попали и к Испанскому двору. Однако по более подтвержденным данным хины появились в Старом и Новом Свете благодаря Мэтью Кэлбрайту, командору военно-морского флота Соединенных штатов, которому во всеми экспедиции в Японию в 1853 году было подарено несколько особей данной породы. 5 собачек он привез на родину, а одна пара была преподнесена в дар английской королеве Виктории.
Японские хины быстро прижились при королевских дворах Европы также в качестве декоративных собачек-компаньонов. Их, по традиции верхушки японского общества, активно преподносили в дар друг другу — скоро порода прижилась и получила широкое распространение. В России такие собачки также обрели популярность. Они стали любимцами семьи Николая II. В Советском союзе их также продолжали ценить. Например, один из известных владельцев японских хинов — маршал Г.К. Жуков.
Первая выставка с участием породы японский хин состоялась в 1873 году в Бирмингеме. Там она выступала под названием «японский спаниель». В 1888 году порода была признана Американским клубом собаководства под этим же названием. Оно продержалось вплоть до 1977 года.
Селекционные работы по усовершенствованию японского хина проводились в 20-х годах XX века. Наиболее крупные представители породы стали называться кобе, средние — ямато, карликовые — эдо. В 1957 году японский хин был признан самостоятельной породой Международной кинологической организацией (FCI) и отнесен к группе декоративных собак-компаньонов.