Kata pensil berasal dari bahasa Prancis kuno, pincel, yang artinya kuas kecil. Juga dari bahasa Latin penicillus (ekor kecil), berupa sikat halus dari bulu unta.
Alat itu digunakan sebelum ada kapur pensil. Biasanya untuk menulis naskah pada daun lontar.
Sebelum tahun 1560-an, Grey Knotts dari Desa Seathwaite di Borrowdale, Cumbria, Inggris, menemukan endapan grafit. Endapan grafit itu sangat padat dan murni. Namun, mudah dipotong dengan gergaji dan dibentuk menjadi tongkat ke bulu domba-domba. Agar membekaskan warna hitam ketika dicoretkan, digunakanlah arang.
Grafit temuan Knotts itu ternyata satu-satunya endapan padat berskala besar yang pernah ditemukan. Ketika itu ilmu kimia belum berkembang; orang menduga endapan padat itu timbal.
Sejak itu, pemakaian grafit makin massal. Tambang grafit dijaga karena mulai banyak pencurian. Karena grafit, Inggris memonopoli produksi pensil dunia.
Tahun 1560, pasangan Italia Simonio dan Lyndiana Bernacotti menciptakan pembungkus dari kayu untuk bubuk grafit. Kayu itu mula-mula berbentuk oval dan di dalamnya dibuat rongga untuk diisi bubuk grafit.
Teknik pembuatan terus dikembangkan. Sampailah kepada metode melubangi dua bagian kayu dan di dalamnya diletakkan batang grafit.
Lantas, kayu direkatkan kembali. Teknik inilah yang terus dipakai hingga dewasa ini.
Pensil modern tidak mengandung timbal sebagai “arang” pensilnya. Grafit dicampur tanah liat dan ditumbuk, ditambahkan air, dicelupkan dalam minyak atau lilin cair. Untuk membedakan kekerasannya ketika sudah menjadi pensil nanti, campuran tanah liatnya berbeda-beda porsi.