Antipola: Menyimpan data berukuran lebih dari 256 KB dalam cache

Anda sedang melihat dokumentasi Apigee dan Apigee hybrid.
Lihat dokumentasi Apigee Edge.

Apigee menyediakan kemampuan untuk menyimpan data dalam cache saat runtime untuk persistensi dan pengambilan yang lebih cepat.

  • Data awalnya disimpan dalam cache dalam memori Message Processor, yang disebut sebagai cache L1.
  • Cache L1 dibatasi oleh jumlah memori yang dicadangkan untuknya sebagai persentase dari memori JVM.
  • Entri yang di-cache kemudian dipertahankan di cache L2, yang dapat diakses oleh semua Message Processor. Detail selengkapnya dapat ditemukan di bagian di bawah.
  • Cache L2 tidak memiliki batas mutlak pada jumlah entri cache, tetapi ukuran maksimum entri yang dapat di-cache dibatasi hingga 256 KB. Ukuran cache 256 KB adalah ukuran yang direkomendasikan untuk performa yang optimal.

Antipola

Antipola khusus ini membahas implikasi dari melampaui batasan ukuran cache saat ini dalam Apigee.

Jika data > 256 KB di-cache, konsekuensinya adalah sebagai berikut:

  • Permintaan API yang dijalankan untuk pertama kalinya di setiap Pemroses Pesan harus mendapatkan data secara independen dari sumber asli (kebijakan atau server target), karena entri > 256 KB tidak tersedia di cache L2.
  • Menyimpan data yang lebih besar (> 256 KB) di cache L1 cenderung memberikan lebih banyak tekanan pada resource platform. Hal ini menyebabkan memori cache L1 terisi lebih cepat sehingga ruang yang tersedia untuk data lain menjadi lebih sedikit. Akibatnya, Anda tidak akan dapat menyimpan data ke dalam cache seaktif yang Anda inginkan.
  • Entri yang di-cache dari Pemroses Pesan akan dihapus jika batas jumlah entri tercapai. Hal ini menyebabkan data diambil dari sumber asli lagi di Pemroses Pesan masing-masing.

Dua diagram alur. Satu untuk ukuran<=512 KB yang menunjukkan alur antara API Proxy dan Message Processors serta alur antara Message Processors dan Persistent Storage L2 Cache. Satu untuk ukuran>512 KB yang menunjukkan alur antara Proxy API dan Message Processor serta alur antara Message Processor dan Data/Response yang tidak disimpan di Cache L2.

Dampak

  • Data berukuran > 256 KB tidak akan disimpan di cache L2/persisten.
  • Panggilan yang lebih sering ke sumber asli (kebijakan atau server target) menyebabkan peningkatan latensi untuk permintaan API.

Praktik terbaik

  • Sebaiknya simpan data berukuran < 256 KB dalam cache untuk mendapatkan performa yang optimal.
  • Jika ada kebutuhan untuk menyimpan data > 256 KB, pertimbangkan:
    • Menggunakan database yang sesuai untuk menyimpan data besar

      ATAU

    • Mengompresi data

Bacaan lebih lanjut