Pada awalnya, Google adalah nama sebuah proyek riset yang dilakukan oleh dua pendirinya, yakni Larry Page dan Sergey Brin. Proyek tersebut dilakukan ketika mengambil gelar Ph.D di Universitas Stanford, California.

Kata Google sendiri berasal dari kata "Googol" yang merupakan istilah matematika untuk mengucapkan 10100.

Kedua Pendiri itu membuat hipotesis tentang search engine, mereka menganalisis bahwa adanya keterkaitan antara situs - situs web akan menghasilkan performa pencarian yang lebih unggul apabila dibandingkan search engine yang menggunakan teknik konvensional pada saat itu. Teknik search engine yang ada saat hanya merangking urutan berdasarkan berapa banyak kata - kata kunci pencarian yang ditemukan dihalaman tersebut.

Google awalnya, diberi nama "BackRub" dikarenakan mereka membuat sistem yang melakukan pengecekan pada backlinks untuk mengestimasi tingkat kepentingan sebuah situs.

Awalnya, prototipe dari search engine Google diletakan diwebsite Universitas Standford, dengan nama domain Google.stanford.edu. Setelah berkembang , domain Google.com baru didaftarkan pada tanggal 14 September 1997.

Ketika Google Inc. didirikan pada tahun 1998 di Menlo Park California , investasi awal yang ditanamkan adalah 1,1 juta dolar  Amerika, termasuk di dalamnya sebuah cek dari Andy bachtolsheim salah seorang pendiri Sun Microsystem senilai 100 ribu dolar Amerika.

Pada bulan Maret tahun 1999, perusahaan ini memindahkan kantornya ke sebuah kompleks perkantoran di 165 University Avenue di Palo Alto. Kompleks ini merupakan markas dari beberapa perusahaan start-up Silicon Valley lainya.

Adapun gedung Amphitheatre Parkway, yang merupakan tempat yang digunakan oleh Google Inc. saat ini, mulai ditempati pada tahun 2003. Kompleks ini sekarang terkenal dengan nama Googleplex atau sering juga disebut Google Campus.