Tokopedia: Meningkatkan kapasitas demi lancarkan pesta belanja online lewat Google Kubernetes Engine

About Tokopedia

Tokopedia, sebuah perusahaan teknologi terkemuka yang juga merupakan salah satu situs marketplace terbesar di Indonesia, sanggup melayani 5,9 juta penjual dan 90 juta pengguna aktif setiap bulan. Dengan penetrasi e-commerce Indonesia yang ‘baru’ 5%, Tokopedia memiliki peluang besar dan tantangan menarik agar perdagangan berbasis teknologi dapat diakses untuk 260 juta penduduk Indonesia.

Industries: Barang Retail & Konsumen
Location: Indonesia

Tell us your challenge. We're here to help.

Contact us

Tokopedia memodernisasi Live Engagement Platform untuk menciptakan pengalaman belanja yang optimal di setiap kampanye pesta belanja online.

Hasil Google Cloud

  • Memungkinkan Tokopedia Play menangani 20 kali lipat peningkatan lalu lintas data berkat Google Cloud
  • Mendukung pertumbuhan dengan meningkatkan kapasitas 30 kali lipat menggunakan fungsi pelayanan otomatis
  • Mengurangi biaya operasional hingga 90% dengan bermigrasi ke Google Cloud

Melayani 1,5 juta pengguna Live Platform di Google Cloud secara serentak

Bagaimana cara terbaik menyiapkan acara belanja online besar-besaran sekelas Black Friday di Amerika Serikat dan Singles’ Day di Cina? Menurut Tahir Hashmi, Vice President of Engineering Tokopedia, kesuksesan itu sangat bergantung pada dukungan teknis dan jaringan yang andal.

Pada bulan Mei 2018, Tokopedia meluncurkan Ramadan Ekstra, sebuah festival belanja online pertama di Indonesia. Acara ini menarik lebih dari 332 juta kunjungan ke platform Tokopedia selama Ramadan dan begitu sukses sampai-sampai transaksi pada 25 Mei menyamai total transaksi selama lima tahun pertama Tokopedia. Tidak hanya itu, Tokopedia menyambut 73 juta pengunjung di platformnya dalam periode yang sama.

Kampanye besar tersebut tentu membantu Tokopedia memperoleh banyak pengguna baru, namun mereka memerlukan perencanaan yang cermat untuk meminimalisasi masalah yang mungkin timbul. Kesalahan apa pun yang terjadi di jaringan Tokopedia dapat memengaruhi jutaan pengguna dan menimbulkan keluhan, yang bisa berdampak buruk terhadap citra perusahaan. Menurut survei Unbounce Research pada tahun 2018, hampir 70% konsumen mengakui bahwa kecepatan sebuah situs untuk membuka halaman memengaruhi keputusan mereka dalam melakukan transaksi.

Untuk mengatasi peningkatan pengunjung dan transaksi di situs web, Tokopedia beralih ke Google Cloud Platform demi memberikan layanan tanpa gangguan kepada pembeli dan penjual.

“Secara internal, kami melakukan banyak persiapan dengan bantuan dari Google Cloud untuk memastikan bahwa sistem kami dapat bertahan di puncak permintaan tanpa ada gangguan,” kata Tahir Hashmi. "Sangat penting bagi kami untuk memberikan pengalaman berbelanja tanpa hambatan agar dapat membuat pelanggan baru datang kembali.."

"Untuk itu, kami memanfaatkan pengetahuan para engineer Google Cloud yang sudah berpengalaman dalam menjalankan acara berskala besar," kata Tahir. "Dengan begitu, kami mampu menjalankan teknologi baru lebih cepat dan lebih percaya diri dibandingkan jika kami melakukannya tanpa dukungan mereka."

Sebelum menyiapkan acara dan promosi besar-besaran, Tokopedia berkonsultasi dengan tim Google Cloud untuk melihat apakah rencana mereka bisa dijalankan di infrastruktur Google Cloud. Pada tahap persiapan, Tokopedia melakukan uji beban dan kinerja untuk menyimulasikan lalu lintas data berskala besar pada aplikasi. Latihan ini membuat tim memiliki banyak waktu untuk mengetahui di mana sumber kemacetan, lalu menyelesaikannya. Sebelum melaksanakan acara, Tokopedia berkoordinasi dengan tim Google Cloud untuk menunda perubahan apa pun selama jangka waktu promosi agar kinerja jaringan tidak terpengaruh oleh update software atau perbaikan bug.

“Kami terbantu oleh para engineer Google Cloud yang berpengalaman menjalankan acara berskala besar. Jika melakukannya sendiri, kami harus membaca banyak dokumen, menjalankan banyak percobaan, dan mungkin masih tetap berakhir dalam kebuntuan. "

Tahir Hashmi, Vice President of Engineering, Tokopedia

Meminimalkan downtime dengan penskalaan otomatis di Google Kubernetes Engine

Menurut sebuah studi oleh McKinsey, pendapatan ritel elektronik di Indonesia diperkirakan akan tumbuh dari $5 miliar pada tahun 2017 menjadi $40 miliar pada tahun 2022. Angka itu didorong oleh pelanggan yang kian melek teknologi dan bersedia membayar untuk kepraktisan berbelanja.

“Misi kami di Tokopedia adalah mendemokratisasikan perdagangan melalui teknologi. Kami ingin mengubah hidup banyak orang dengan mengurangi jarak antara penjual dan konsumen di negara tanah air kami yang besar ini,”kata Tahir. “Menjalankan platform e-commerce di Google Kubernetes Engine (GKE) telah membantu kami meningkatkan pengalaman pengguna dan membuat pembeli datang kembali.”

Sebelum pindah ke Google Cloud, Tokopedia mengalami masalah dengan penyedia layanan sebelumnya, terutama terkait skalabilitas dan keandalan layanan. Salah satu tantangan terbesar saat itu adalah fitur Tokopedia Play yang hanya dapat mendukung 55.000 pengguna secara bersamaan. Aplikasi ini lantas dibangun kembali hanya dalam lima minggu sebagai layanan-mikro pada GKE. Hasilnya? Tokopedia Play kini dapat mendukung 1,5 juta pengguna secara bersamaan. Mereka mengelola layanan-mikro dengan bantuan Istio serta mengkonfigurasi keseimbangan beban keseluruhan melalui GKE demi menjaga layanan.

"Tidak seperti penyedia virtual machine (VM) kami sebelumnya, fitur menambah dan menghapus kapasitas komputasi di Kubernetes sangat dapat diandalkan," kata Tahir. “Sebelumnya, kami harus bekerja keras untuk menghindari downtime parsial setiap kali menambah atau menghapus VM karena perubahan konfigurasi yang rumit. Kini, masalah memusingkan semacam itu jarang terjadi sejak memindahkan layanan ke Google Kubernetes Engine."

Penskalaan otomatis sangat berguna ketika Tokopedia menjalankan kampanye seperti Semarak Maret Mantap, atau ‘Great March’, yang mengajak pengguna membuka aplikasi Tokopedia Play di ponsel mereka dan mengocoknya untuk bisa memenangkan hadiah. Dengan dukungan Google Cloud, aplikasi itu secara otomatis menyesuaikan beban kerja, terutama ketika kampanye telah berakhir. Menurut Tahir, Tokopedia telah menghemat uang karena tidak harus menyediakan perangkat keras hanya untuk tujuan itu.

“Secara sederhana, skalabilitas adalah kemampuan aplikasi untuk menangani beban besar dengan menambahkan lebih banyak dukungan perangkat keras,” jelas Tahir. “Ketika pindah ke GKE, Tokopedia tidak hanya mendapatkan skalabilitas, namun juga elastisitas dalam sistem. Kami dapat meningkatkan dan menurunkan dukungan sebanyak yang diperlukan, tanpa harus mengkonfigurasi VM secara susah payah. ”

Meraih redundansi dengan load balancing global

Tokopedia menggunakan Cloud Load Balancing untuk menghadirkan layanan pendukung dari server Google Cloud di seluruh dunia. Fitur ini berguna untuk kesinambungan bisnis multi-kawasan yang direncanakan oleh perusahaan. Fitur load balancer tidak perlu ‘dipanaskan’ terlebih dulu untuk menangani lonjakan lalu lintas. Jika server di satu wilayah terganggu karena kesalahan manusia atau bencana alam, fitur load balancer ini bisa dengan mudah memindahkan lalu lintas ke server lain yang memiliki kapasitas paling memungkinkan.

“Salah satu fitur yang saya sukai di Google Cloud adalah load balancing global karena aplikasi kami tersedia melalui satu alamat IP global,” kata Tahir. “Sebelumnya, kami menggunakan DNS untuk penyeimbangan muatan aplikasi dengan mengkonfigurasi beberapa alamat IP pada domain yang sama. Metode itu berhasil, tetapi load balancing global menawarkan pengaturan DNS yang lebih skalabel dan kuat."

“Menjalankan platform e-commerce di Google Kubernetes Engine (GKE) membantu kami meningkatkan pengalaman pengguna dan membuat pembeli datang kembali.”

Tahir Hashmi, Vice President of Engineering, Tokopedia

Mengurangi keruwetan dengan menggunakan Istio di Google Kubernetes Engine

Konsep infrastruktur teknologi berbasis service mesh muncul dari kebutuhan untuk mengelola dan menggunakan sejumlah besar layanan-mikro. “Di Tokopedia, kami menjalankan beberapa ratus layanan-mikro, dan semuanya berinteraksi satu sama lain secara terus menerus. Karena itu, sulit untuk melacak di mana ada masalah jika kami tidak mengaudit setiap kode dan lalu lintas data," kata Tahir. “Untungnya, Istio di GKE memudahkan kami mengelola keseluruhan ekosistem layanan-mikro dan mengamatinya dengan mudah.” Tokopedia menjadi perusahaan pertama di Indonesia yang menggunakan Istio dalam menangani volume lalu lintas yang begitu tinggi.

Tokopedia berencana memanfaatkan kebijakan kontrol akses Istio untuk membantu mengamankan layanan-mikro yang berjalan pada GKE, di luar keamanan saat ini yang telah disediakan oleh IAM. Istio membantu memverifikasi layanan dan memberikan tingkat akses yang tepat ke data.

“Sebelumnya kami sering mengalami downtime parsial setiap kali menambah VM baru yang belum terkonfigurasi. Kini, masalah memusingkan semacam itu jarang terjadi sejak memindahkan layanan ke Google Kubernetes Engine."

Tahir Hashmi, Vice President of Engineering, Tokopedia

Mendemokratisasikan perdagangan melalui big data dengan Google BigQuery

Saat ini, Tokopedia menggunakan BigQuery untuk menganalisis lalu lintas dan data transaksi, seperti logistik dan penagihan, serta meneliti perilaku pelanggan. Data ini digunakan manajer produk untuk memperkirakan penjualan dan mengantisipasi berapa banyak anggaran yang dibutuhkan untuk promosi setiap hari, setiap minggu, bahkan setiap bulannya.

Karena Tokopedia menggunakan BigQuery yang terintegrasi dengan Google Workspace, karyawan dan para mitra dapat dengan mudah saling berbagi dan berkolaborasi ketika membuat laporan di Google Spreadsheets.

Ke depannya, Tokopedia berencana meningkatkan kepuasan pelanggan dengan data science. Kemampuan menganalisis data transaksi melalui BigQuery memungkinkan Tokopedia untuk memprediksi permintaan demi waktu dan biaya pengiriman logistik yang lebih efektif. "Ini memungkinkan penjual dan pelanggan dari pulau yang berbeda untuk menikmati pengiriman pada hari yang sama," kata Herman Widjaja, Senior Vice President of Engineering Tokopedia.

Tell us your challenge. We're here to help.

Contact us

About Tokopedia

Tokopedia, sebuah perusahaan teknologi terkemuka yang juga merupakan salah satu situs marketplace terbesar di Indonesia, sanggup melayani 5,9 juta penjual dan 90 juta pengguna aktif setiap bulan. Dengan penetrasi e-commerce Indonesia yang ‘baru’ 5%, Tokopedia memiliki peluang besar dan tantangan menarik agar perdagangan berbasis teknologi dapat diakses untuk 260 juta penduduk Indonesia.

Industries: Barang Retail & Konsumen
Location: Indonesia