東海道山陽新幹線は長らく0系のみで運行を行っていたが、0系は増結や組み換え、老巧置き換えを繰り返すうちに、編成内の車両それぞれの製造年度がバラバラで仕様も異なる状態となり、運用上の不都合を生じていた。 国鉄末期になると設備も陳腐なものとなり、編成ごと新しく作り替える必要性が生じた。 そうした経緯で100系の製造がスタートした。
基本的なイメージは0系を踏襲しつつ、より時代に合った車両を目指して製造された100系の鍵を握るのは、紛れもなく「座席」。 というのも、後期の0系ではリクライニングシートを装備したが、この機構のために3列席の回転が不可能になり、向きが固定式になった。 これがもっとも不評であったからだ。 100系では3列席を回転させるために、ピッチを広げ、固定させた時の背もたれを垂直から見て6度というかなり立った状態で設計、更に0系よりも乗務員室を削減することで、0系と同等の定員で回転可能な座席を装備し、なおかつ広い空間を提供することに成功した。
時代にふさわしい座席がようやく完成し、車両についても出力が向上したため、コストの削減の意味を込めて、一部を動力を持たない車両とし、信号機器を積む先頭車両と、2階建ての車両2両を無動力とした。 2階建て車の1両は、見晴らしの良い食堂を2階に、厨房を1階に設置した食堂車とした。 もう一両は、かねてから客室の通りぬけがやや問題となっていたグリーン車を1両2階建てにし、1階は通りぬけ通路とすることを考えて個室を設定した。
先頭は0系のイメージを踏襲しつつ、より先端が伸びてシャープな顔つきになった。 なお試作車と量産車では、ライトの角度が異なり、試作車では怒ったようなツリ目顔だった。カラーはパールホワイトに窓まわりと下回りが青色。窓まわりの下に細いキャラクターラインが入る塗装であっった。
1985年の改正から、1編成のみ「こだま」として12両編成で足ならしを行い、翌年から正式デビューとなり、「ひかり」として新たなる新幹線のエースとして活躍をする。この食堂車連結の100系をX編成とした。
1987年の国鉄分割民営化では、全車両がJR化東海に所属した。 「シンデレラエクスプレス」「クリスマスエクスプレス」でヒットを飛ばし、JR東海では食堂車の代わりに新たに2階建てグリーン車を1両連結した編成を量産した。これはG編成とし、大量増備された。 JR西日本では、仕様を変えて、食堂車を含む2階建て車両を4両連結し、先頭車も含めた平屋の車両はすべて電動車とする100系を製造し、V編成とした。 これらは互いのエースとして運行を行っていた。
転機は1992年に登場した300系「のぞみ」だった。 100系よりも50km/hも速く走る車両が登場したことで、一気にエースから降りることになった。 それどころか速度差から、300系の前を走るには遅いため、300系の列車の前は300系へ、というふうに置き換えがあっという間に進んでしまい、1999年には0系が東海道から全廃したのに伴って「こだま」の主力車両として運転し、同年にJR東海から食堂車連結の編成が消滅。そのわずか4年後に東海道新幹線から引退することとなった。
1992年の阪神大震災以降、不通区間を挟んで互いの車両をメンテナンスを行った経験から、JR東海の100系G編成の一部がJR西日本に移籍が行われた。 JR東海から100系が引退すると、一部の100系がJR西日本に売却され、手持ちのV編成の中間電動車と先頭車を組み合わせて改造を行うなどして、短編成化を行った。
100系の最高速度は220km/hであるが、V編成は230km/hとなった。 またV編成は台車を履き替えて、275km/hで試運転を幾度か行った。
JR東海では、2003年9月16日に臨時列車「ひかり307号」を最後に運転を終了。 JR西日本では、2011年での運転終了が予告されている。