Historien börjar i det gamla Japan med Inu Yasha, en hanyõ (halvdemon), som stjäl Shikon-juvelen från en by (四魂の玉, Shikon no Tama), en juvel som kan öka alla varelsers krafter enormt. Han hinner inte långt förrän Kikyo, den unga mikon (prästinna) i byn, skjuter honom med en magisk pil och på detta sättet fånga honom vid ett träd för evigt. Dödligt sårad ber Kikyo sin lillasyster, Kaede, att hon ska bränna Shikon-juvelen tillsammans med Kikyos kropp för att hindra att den hamnar i fel händer.

I det moderna Tokyo är en högstadieelev vid namn Kagome på väg till skolan. När hon letar efter sin katt, Buyo, vid en gammal brunn, blir hon plötsligt anfallen av en tusenfotingdemon som tar henne till Sengoku-perioden i det gamla Japan.

Utan att veta var hon är vandrar Kagome runt i en skog nära brunnen hon föll igenom. Plötsligt ser hon Goshinboku-trädet där Inu Yasha är fångad och börjar gå ditåt. När hon når fram till trädet finner hon Inu Yasha, fortfarande fångad med den magiska pilen. Folk från byn fångar henne och tar henne till den gamla mikon i byn, Kaede. Kaede märker direkt att Kagome är en reinkarnation av hennes storasyster Kikyo och berättar historien om Kikyo och Inu Yasha.

Tusenfotingsdemonen anfaller igen och Kagome blir tvingad att släppa lös Inu Yasha för att kunna döda den. Efter att ha besegrat tusenfotingsdemonen gör Kaede ett magiskt halsband som hon sätter runt Inu Yashas hals för att hindra denne från att ta Shikon-juvelen.

Shikon-juvelen gör att fler demoner kommer till byn. I en strid mot en kråkdemon splittras Shikon-juvelen i tusen bitar över hela det gamla Japan.

Kagome och Inu Yasha reser iväg tillsammans för att hitta Shikon-juvelens många bitar. På vägen blir dom vänner med Shippo, en rävdemon; Miroku, en munk; samt Sango, en demonbekämpare. Gruppen stöter ofta på Inu Yashas halvbror Sesshomaru; Naraku, som var den som vände Inu Yasha och Kikyo mot varandra; samt Koga, en vargdemon som är förälskad i Kagome och tar till alla medel för att göra henne till "sin kvinna".