イギリスで消しゴムが発明されるまで鉛筆の文字は固くなったパンで消していた。1772年頃にはロンドンで消しゴムが市販されており、「rub out（こするもの）」と呼ばれた。これが今日ゴム一般を意味する英単語ラバー（rubber）の語源である。

ラバー（rubber）はゴムやタイヤなどの意味があり、主にイギリスでは消しゴムの意味でも使われる。一方、主にアメリカでは消しゴムはイレイサー（eraser）と呼ばれる。

消しゴムは鉛筆文化だったヨーロッパやアメリカへ広まり、日本に消しゴムが伝わったのは明治時代初期である。それまで日本は墨と筆で文字を書く毛筆文化だった。ヨーロッパやアメリカの教育の仕組みを取り入れる中で、同時に鉛筆と消しゴムを使うようになった。

1886年（明治19年）に東京の町工場・三田土ゴム製造株式会社で日本で初めての国産の消しゴム製造が始まった。その後、各社参入し改良が加えられ、1959年（昭和34年）に日本のシードゴム工業（現：株式会社シード）がより消去性に優れたプラスチック字消しを開発し、以後その性能から市場の主流となる。

日本は島国であり原材料の天然ゴムの輸入が不安定で、価格や品質が安定しなかったことがプラスチック消しゴムの誕生に起因している。天然ゴムは紙ごと削ることによって文字を消す「砂消しゴム」などの特殊用途の品を除き、原材料として現在はほとんど使用されていない。

プラスチック消しゴムは、主に石油と塩で作られるポリ塩化ビニルが原材料で、天然ゴムの消しゴムに比べて文字がよく消える。その一方で、時間が経つとプラスチックの引き出しやペンケース、下敷きなどとくっつくという問題があった。

その問題を解決するためにプラスチック消しゴムは紙のケースに入れられる。紙は安価で加工がしやすいという特徴がある。消しゴムを紙のケースに入れることで、消しゴムが周りのプラスチックとくっつくのを防ぐことができる。また、紙のケースには消しゴムを折れにくくする効果もある。