Strategi desain prompt umum

Halaman ini memperkenalkan Anda pada beberapa strategi desain prompt umum yang dapat Anda gunakan saat mendesain perintah. Meskipun tidak ada cara yang benar atau salah untuk mendesain prompt, ada strategi umum yang dapat Anda gunakan untuk memengaruhi respons model. Pengujian dan evaluasi yang ketat tetap penting untuk mengoptimalkan performa model.

Model bahasa besar (LLM) dilatih dengan sejumlah besar data teks untuk mempelajari pola dan hubungan antar-unit bahasa. Ketika diberi beberapa teks (perintah), model bahasa dapat memprediksi apa yang mungkin terjadi berikutnya, seperti alat pelengkapan otomatis yang canggih. Oleh karena itu, saat mendesain perintah, pertimbangkan berbagai faktor yang dapat memengaruhi prediksi model yang akan muncul selanjutnya.

Berikan instruksi yang jelas dan spesifik

Memberikan petunjuk kepada model tentang apa yang harus dilakukan adalah cara yang efektif dan efisien untuk menyesuaikan perilaku model. Pastikan petunjuk yang Anda berikan jelas dan spesifik. Petunjuk bisa sesederhana daftar petunjuk langkah demi langkah, atau serumit memetakan pengalaman dan pola pikir pengguna.

Menentukan tugas yang akan dilakukan

Jelaskan secara mendetail tugas yang Anda inginkan untuk dilakukan model. Tugas ini dapat sesederhana daftar petunjuk langkah demi langkah atau serumit memetakan pengalaman dan pola pikir pengguna. Perintah berikut memberi tahu model untuk meringkas blok teks:


Summarize this text.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  

Quantum computers utilize quantum mechanical phenomena to perform computations significantly faster
than traditional computers. By exploiting the particle-wave duality of matter at tiny scales,
quantum computers leverage specialized hardware to solve problems beyond classical physics.
Potential applications include breaking encryption, developing better weather forecasting, and more.
However, current quantum computers are still largely experimental and impractical.

Menentukan batasan

Tentukan batasan apa pun untuk membaca perintah atau menghasilkan respons. Anda dapat memberi tahu model apa yang harus dilakukan dan tidak boleh dilakukan. Dari contoh sebelumnya, ringkasannya lebih pendek dari teks asli, tetapi mungkin Anda ingin ringkasannya lebih pendek. Dalam hal ini, Anda dapat menentukan batasan di prompt terkait berapa lama Anda ingin ringkasan:


Summarize this text in two sentences.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
    


Quantum computers use quantum mechanical phenomena to perform calculations much faster than
traditional computers. They have the potential to revolutionize various fields, but current quantum
computers are still experimental and impractical.

Menentukan format respons

Anda juga bisa memberikan petunjuk yang menentukan format respons. Misalnya, Anda dapat meminta respons diformat sebagai tabel, daftar berbutir, presentasi singkat, kata kunci, kalimat, atau paragraf. Perintah berikut menginstruksikan model untuk memberikan poin-poin informasi penting dalam teks:


Summarize this text as bullets points of key information.
Text: A quantum computer exploits quantum mechanical phenomena to perform calculations exponentially
faster than any modern traditional computer. At very tiny scales, physical matter acts as both
particles and as waves, and quantum computing uses specialized hardware to leverage this behavior.
The operating principles of quantum devices is beyond the scope of classical physics. When deployed
at scale, quantum computers could be used in a wide variety of applications such as: in
cybersecurity to break existing encryption methods while helping researchers create new ones, in
meteorology to develop better weather forecasting etc. However, the current state of the art quantum
computers are still largely experimental and impractical.
  

- Quantum computers leverage quantum mechanical phenomena for exponentially faster calculations than
  traditional computers.
- Quantum devices utilize specialized hardware to exploit tiny-scale matter behavior as both
  particles and waves.
- Their operating principles transcend classical physics.
- Potential applications include cybersecurity, weather forecasting, and more.
- Current quantum computers are largely experimental and impractical.

Ringkasan

  • Berikan petunjuk kepada model tentang hal yang harus dilakukan.
  • Buat instruksi yang jelas dan spesifik.
  • Tentukan batasan atau persyaratan pemformatan untuk output.

Menyertakan contoh few-shot

Anda dapat menyertakan contoh dalam perintah yang akan menunjukkan kepada model cara melakukannya dengan benar. Model ini mencoba mengidentifikasi pola dan hubungan dari contoh dan menerapkannya saat menghasilkan respons. Perintah yang berisi beberapa contoh disebut perintah few-shot, sedangkan perintah yang tidak memberikan contoh disebut prompt zero-shot. Perintah sedikit sering digunakan untuk mengatur pemformatan, frasa, cakupan, atau pola umum respons model. Gunakan contoh yang spesifik dan bervariasi untuk membantu model mempersempit fokusnya dan memberikan hasil yang lebih akurat.

Sebaiknya selalu sertakan contoh few-shot dalam perintah Anda. Perintah tanpa contoh few-shot mungkin kurang efektif karena menunjukkan kepada model cara menerapkan petunjuk. Bahkan, Anda dapat menghapus petunjuk dari perintah Anda jika contoh Anda cukup jelas dalam menampilkan tugas yang sedang dikerjakan.

Prompt zero-shot vs few-shot

Petunjuk zero-shot berikut meminta model untuk memilih penjelasan terbaik.


Please choose the best explanation to the question:

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  

Explanation1

Jika kasus penggunaan Anda mengharuskan model untuk menghasilkan respons yang ringkas, Anda dapat menyertakan contoh di perintah yang memberikan preferensi untuk respons yang ringkas.

Prompt berikut memberikan dua contoh yang menunjukkan preferensi terhadap penjelasan yang lebih singkat. Dalam respons, Anda dapat melihat bahwa contoh memandu model untuk memilih penjelasan yang lebih singkat (Penjelasan2) dibandingkan penjelasan yang lebih panjang (Penjelasan1) seperti sebelumnya.


Please choose the best explanation to the question:

Question: Why is sky blue?
Explanation1: The sky appears blue because of Rayleigh scattering, which causes shorter blue
wavelengths of light to be scattered more easily than longer red wavelengths, making the sky look
blue.
Explanation2: Due to Rayleigh scattering effect.
Answer: Explanation2

Question: What is the cause of earthquakes?
Explanation1: Sudden release of energy in the Earth's crust.
Explanation2: Earthquakes happen when tectonic plates suddenly slip or break apart, causing a
release of energy that creates seismic waves that can shake the ground and cause damage.
Answer: Explanation1

Question: How is snow formed?
Explanation1: Snow is formed when water vapor in the air freezes into ice crystals in the
atmosphere, which can combine and grow into snowflakes as they fall through the atmosphere and
accumulate on the ground.
Explanation2: Water vapor freezes into ice crystals forming snow.
Answer:
  

Explanation2

Temukan jumlah contoh yang optimal

Anda dapat bereksperimen dengan sejumlah contoh yang akan ditampilkan di perintah untuk mendapatkan hasil yang paling diinginkan. Model seperti PaLM dan Gemini sering kali dapat memahami pola menggunakan beberapa contoh, meskipun Anda mungkin perlu bereksperimen dengan sejumlah contoh yang mengarah ke hasil yang diinginkan. Untuk model yang lebih sederhana seperti BERT, Anda mungkin memerlukan lebih banyak contoh. Pada saat yang sama, jika Anda menyertakan terlalu banyak contoh, model mungkin mulai melebihi respons terhadap contoh tersebut.

Gunakan contoh untuk menampilkan pola, bukan antipola

Menggunakan contoh untuk menunjukkan pola yang harus diikuti ke model lebih efektif daripada menggunakan contoh untuk menunjukkan antipola yang harus dihindari kepada model.

⛔ Pola negatif:


Don't end haikus with a question:
Haiku are fun
A short and simple poem
Don't you enjoy them?

✅ Pola positif:


Always end haikus with an assertion:
Haiku are fun
A short and simple poem
A joy to write

Menggunakan format yang konsisten pada berbagai contoh

Pastikan struktur dan pemformatan contoh few-shot sama untuk menghindari respons dengan format yang tidak diinginkan. Salah satu tujuan utama menambahkan contoh few-shot dalam perintah adalah menampilkan format respons kepada model. Oleh karena itu, penting untuk memastikan format yang konsisten di semua contoh, terutama memperhatikan tag XML, spasi kosong, baris baru, dan pemisah contoh.

Ringkasan

  • Menyertakan contoh respons perintah dalam prompt akan membantu model mempelajari cara merespons.
  • Berikan contoh pola yang harus diikuti, bukan contoh pola yang harus dihindari.
  • Lakukan eksperimen dengan sejumlah prompt yang akan disertakan. Bergantung pada modelnya, terlalu sedikit contoh tidak efektif dalam mengubah perilaku model. Terlalu banyak contoh yang menyebabkan model overfit.
  • Menggunakan format yang konsisten pada berbagai contoh

Tambahkan informasi kontekstual

Anda dapat menyertakan informasi dan petunjuk perintah yang diperlukan model untuk menyelesaikan masalah, bukan berasumsi bahwa model tersebut memiliki semua informasi yang diperlukan. Informasi kontekstual ini membantu model memahami batasan dan detail tentang apa yang Anda minta untuk dilakukan.

Contoh berikut meminta model untuk memberikan panduan pemecahan masalah untuk router:


What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and
blinking slowly.
  

1. **Check the Cables:**
- Make sure that all cables are securely connected to your Google Wifi router and modem.
- Try replacing the cables with new ones to ensure they are not faulty.

2. **Reboot the Router:**
- Unplug your Google Wifi router and modem from the power outlet.
- Wait for at least 30 seconds.
- Plug the modem and router back in and wait for them to start up.

3. **Factory Reset the Router:**
- Resetting the router will restore it to its default settings.
- Find the small reset button on the back of the router.
- Press and hold the reset button with a paper clip or similar object for 10 seconds.
- Release the button and wait for the router to restart.

4. **Check Your Internet Connection:**
- Use a wired connection to connect a device directly to your modem.
- If the internet works, the issue may be with your router.
- If the internet still doesn't work, contact your Internet Service Provider (ISP).

5. **Update Router's Firmware:**
- Check if there is a firmware update available for your Google Wifi router.
- Download and install the latest firmware update from the Google Wifi app.

6. **Interference and Obstacles:**
- Make sure the router is not near electronic devices that can cause interference, like microwaves or cordless phones.
- Remove any obstacles between the router and your devices, such as furniture or thick walls.

7. **Change Wi-Fi Channel:**
- In the Google Wifi app, go to Settings > Network & General > Advanced Networking.
- Try changing the Wi-Fi channel to a less congested one.

8. **Contact Google Support:**
- If you've tried the above steps and the issue persists, contact Google support for further assistance.

Responsnya terlihat seperti informasi pemecahan masalah umum yang tidak spesifik untuk router atau status lampu indikator LED.

Untuk menyesuaikan respons bagi router tertentu, Anda dapat menambahkan ke perintah panduan pemecahan masalah router sebagai konteks yang dirujuk saat memberikan respons.


Answer the question using the text below. Respond with only the text provided.
Question: What should I do to fix my disconnected wifi? The light on my Google Wifi router is yellow and blinking slowly.

Text:
Color: Slowly pulsing yellow
What it means: There is a network error.
What to do:
Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Color: Fast blinking yellow
What it means: You are holding down the reset button and are factory resetting this device.
What to do:
If you keep holding down the reset button, after about 12 seconds, the light will turn solid yellow. Once it is solid yellow, let go of the factory reset button.

Color: Solid yellow
What it means: Router is factory resetting.
What to do:
This can take up to 10 minutes. When it's done, the device will reset itself and start pulsing white, letting you know it's ready for setup.

Color: Solid red
What it means: Something is wrong.
What to do:
Critical failure. Factory reset the router. If the light stays red, contact Wifi customer support.
  

Check that the Ethernet cable is connected to both your router and your modem and both devices are turned on. You might need to unplug and plug in each device again.

Ringkasan

  • Sertakan informasi (konteks) dalam perintah yang Anda inginkan agar digunakan model saat membuat respons.
  • Berikan petunjuk kepada model tentang cara menggunakan informasi kontekstual.

Tambahkan awalan

Awalan adalah kata atau frasa yang Anda tambahkan ke konten perintah dan dapat memiliki beberapa tujuan, bergantung pada tempat Anda menempatkan awalan tersebut:

  • Awalan input: Menambahkan awalan ke bagian input yang bermakna secara semantik ke model pada sinyal input. Misalnya, awalan "Inggris:" dan "Prancis:" mendemarkasi dua bahasa yang berbeda.
  • Awalan output: Meskipun output dihasilkan oleh model, Anda dapat menambahkan awalan untuk output dalam perintah. Awalan output memberikan informasi kepada model tentang apa yang diharapkan sebagai respons. Misalnya, awalan output "JSON:" akan memberi tahu model bahwa output harus dalam format JSON.
  • Contoh awalan: Dalam perintah few-shot, menambahkan awalan ke contoh akan memberikan label yang dapat digunakan model saat membuat output, sehingga mempermudah penguraian konten output.

Pada contoh berikut, "Text:" adalah awalan input, dan "Jawabannya adalah:" adalah awalan output.


Classify the text as one of the following categories.
- large
- small
Text: Rhino
The answer is: large
Text: Mouse
The answer is: small
Text: Snail
The answer is: small
Text: Elephant
The answer is:
  

large

Biarkan model menyelesaikan input parsial

Model bahasa generatif berfungsi seperti alat pelengkapan otomatis canggih. Jika Anda memberikan konten sebagian, model dapat memberikan konten lainnya atau yang dianggapnya sebagai kelanjutan dari konten tersebut sebagai respons. Saat melakukannya, jika Anda menyertakan contoh atau konteks, model dapat mempertimbangkan contoh atau konteks tersebut.

Contoh berikut menyediakan prompt dengan petunjuk dan input entity:


For the given order, return a JSON object that has the fields cheeseburger, hamburger, fries, or
drink, with the value being the quantity.

Order: A burger and a drink.
  

```
{
"cheeseburger": 0,
"hamburger": 1,
"fries": 0,
"drink": 1
}
```

Meskipun model melakukan seperti yang diminta, menulis petunjuk dalam natural language terkadang bisa menjadi tantangan dan hal ini sangat memengaruhi interpretasi model. Misalnya, menu restoran mungkin berisi banyak item. Untuk mengurangi ukuran respons JSON, Anda mungkin perlu menghilangkan item yang tidak diurutkan. Dalam hal ini, Anda dapat memberikan contoh dan awalan respons, serta membiarkan model menyelesaikannya:


Valid fields are cheeseburger, hamburger, fries, and drink.
Order: Give me a cheeseburger and fries
Output:
```
{
  "cheeseburger": 1,
  "fries": 1
}
```
Order: I want two burgers, a drink, and fries.
Output:
  

```
{
"hamburger": 2,
"drink": 1,
"fries": 1
}
```

Perhatikan bagaimana "cheeseburger" dikecualikan dari output karena bukan bagian dari pesanan.

Prompt model untuk memformat responsnya

Strategi penyelesaian juga dapat membantu memformat respons. Contoh berikut meminta model untuk membuat kerangka esai:


Create an outline for an essay about hummingbirds.
  

I. Introduction
A. Hook: Begin with an intriguing fact or description of hummingbirds.
B. Provide some background information on hummingbirds.
1. Mention their small size and long, thin beaks.
2. Highlight their unique ability to hover and fly backward.

II. Body
A. Anatomy and Physiology
1. Elaborate on their tiny size, making comparisons to other animals.
2. Describe their wings and how they enable hovering and swift flight.
3. Discuss their metabolism and energy requirements, emphasizing their caloric needs.

B. Feeding Habits and Diet
1. Explain their primary food source, nectar, and how they extract it from flowers.
2. Describe their ability to feed from a wide variety of flowers.
3. Mention their consumption of insects and the nutritional value they provide.

C. Migration Patterns
1. Discuss the incredible long-distance migrations of some hummingbird species.
2. Explain the phenomenon of seasonal migration and the environmental factors driving it.
3. Describe the routes taken by different species during migration.

D. Conservation and Threats
1. Highlight the importance of hummingbirds in ecosystems as pollinators.
2. Discuss the challenges and threats they face, such as habitat loss, nectar scarcity, and climate change.
3. Mention conservation efforts and ways to support hummingbird populations.

III. Conclusion
A. Summarize the main points covered in the essay.
B. Reinforce the importance of hummingbirds and their ecological role.
C. Provide a final thought or call to action to protect these fascinating creatures.

Perintah tidak menentukan format untuk garis batas dan model memilih format untuk Anda. Agar model menampilkan garis batas dalam format tertentu, Anda dapat menambahkan teks yang mewakili awal garis batas tersebut dan membiarkan model menyelesaikannya berdasarkan pola yang Anda mulai.


Create an outline for an essay about hummingbirds.
I. Introduction
   *
  

I. Introduction
* Capture the reader's attention with an interesting anecdote or fact about hummingbirds.
* Provide a brief background on hummingbirds, including their unique characteristics.
* State the main points that will be covered in the essay.

II. The Unique Characteristics of Hummingbirds
* Discuss the hummingbird's exceptionally rapid wing-beat, allowing them to hover and fly backward.
* Highlight their tiny size, making them the smallest birds in the world.
* Describe their long, slender beaks and tongues, allowing them to reach deep into flowers to extract nectar.
* Explain their iridescent plumage, which creates brilliant and vibrant colors.

III. Hummingbird Migration and Distribution
* Discuss the extensive migration patterns of hummingbirds, covering vast distances across continents.
* Describe the different habitats where hummingbirds can be found, including tropical rainforests, deserts, and urban areas.
* Explain the seasonal changes that influence hummingbird migration and habitat selection.

IV. Hummingbird Diet and Feeding Habits
* Focus on the hummingbird's primary food source, which is nectar from flowers.
* Describe their ability to consume insects, spiders, and other small invertebrates for protein.
* Explain how hummingbirds use their long, slender tongues to extract nectar from flowers.
* Discuss the importance of flowering plants in providing sustenance for hummingbirds.

V. Reproduction and Nesting Behavior
* Describe the mating rituals and courtship behavior of hummingbirds.
* Explain the process of nest-building, including the materials used and the unique characteristics of hummingbird nests.
* Discuss the role of the female hummingbird in laying and incubating eggs.
* Describe the development of hummingbird chicks and the role of both parents in providing care.

VI. Threats to Hummingbirds and Conservation Efforts
* Highlight habitat loss, climate change, and deforestation as significant threats to hummingbird populations.
* Describe the role of habitat conservation initiatives in protecting hummingbird habitats.
* Explain the importance of creating hummingbird-friendly gardens and landscapes.
* Discuss the efforts of organizations and individuals working to conserve hummingbird populations.

VII. Conclusion
* Summarize the main points covered in the essay, emphasizing the unique characteristics, migration patterns, diet, reproduction, and conservation of hummingbirds.
* Provide a closing statement that leaves a lasting impression on the reader and reinforces the significance of these fascinating creatures.

Ringkasan

  • Jika Anda memberikan input parsial kepada model, model akan melengkapi input tersebut berdasarkan contoh atau konteks yang tersedia dalam perintah.
  • Meminta model untuk menyelesaikan input terkadang lebih mudah daripada menjelaskan tugas dalam natural language.
  • Menambahkan jawaban sebagian ke prompt dapat memandu model untuk mengikuti pola atau format yang diinginkan.

Memecah prompt menjadi komponen sederhana

Untuk kasus penggunaan yang memerlukan perintah kompleks, Anda dapat membantu model mengelola kompleksitas ini dengan memecah berbagai hal menjadi komponen yang lebih sederhana.

Menjelaskan instruksi

Daripada menyediakan banyak petunjuk dalam satu perintah, buat satu perintah per petunjuk. Anda dapat memilih perintah yang akan diproses berdasarkan input pengguna.

Perintah jaringan bisnis

Untuk tugas kompleks yang melibatkan beberapa langkah berurutan, jadikan setiap langkah sebagai perintah dan gabungkan prompt secara berurutan. Dalam rantai perintah berurutan ini, output dari satu perintah dalam urutan menjadi input untuk perintah berikutnya. Output dari prompt terakhir dalam urutan tersebut adalah output akhir.

Respons agregat

Agregasi adalah saat Anda ingin melakukan tugas paralel yang berbeda pada bagian data yang berbeda dan menggabungkan hasilnya untuk menghasilkan output akhir. Misalnya, Anda dapat memerintahkan model untuk melakukan satu operasi pada bagian pertama data, melakukan operasi lain pada sisa data, dan menggabungkan hasilnya.

Ringkasan

  • Uraikan petunjuk kompleks menjadi satu perintah untuk setiap petunjuk dan tentukan perintah mana yang akan diterapkan berdasarkan input pengguna.
  • Bagi beberapa langkah berurutan menjadi perintah terpisah dan gabungkan perintah tersebut sehingga output pada perintah sebelumnya menjadi input untuk perintah berikut.
  • Uraikan tugas paralel dan gabungkan responsnya untuk menghasilkan output akhir.

Buat eksperimen dengan berbagai parameter value

Setiap panggilan yang Anda kirim ke model menyertakan parameter value yang mengontrol cara model menghasilkan respons. Model dapat membuat hasil yang berbeda untuk nilai parameter yang berbeda. Lakukan eksperimen dengan berbagai parameter value guna mendapatkan nilai terbaik untuk tugas. Parameter yang tersedia untuk model yang berbeda mungkin berbeda. Parameter yang paling umum adalah sebagai berikut:

  • Token output maks
  • Suhu
  • Top-K
  • Top-P

Token output maks

Jumlah maksimum token yang dapat dibuat dalam respons. Token terdiri dari sekitar empat karakter. 100 token setara dengan sekitar 60-80 kata.

Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang lebih panjang.

Suhu

Suhu digunakan untuk pengambilan sampel selama pembuatan respons, yang terjadi saat topP dan topK diterapkan. Suhu mengontrol tingkat keacakan dalam pemilihan token. Suhu yang lebih rendah cocok untuk perintah yang memerlukan respons yang lebih deterministik dan kurang terbuka atau kreatif, sedangkan suhu yang lebih tinggi dapat memberikan hasil yang lebih beragam atau kreatif. Suhu 0 bersifat deterministik, yang berarti bahwa respons probabilitas tertinggi selalu dipilih.

Untuk sebagian besar kasus penggunaan, coba mulai dengan suhu 0.2. Jika model menampilkan respons yang terlalu umum, terlalu pendek, atau model memberikan respons fallback, coba tingkatkan suhunya.

Top-K

Top-K mengubah cara model memilih token untuk output. Top-K 1 berarti token yang dipilih berikutnya adalah yang paling mungkin di antara semua token dalam kosakata model (juga disebut decoding greedy), sedangkan top-K 3 berarti token berikutnya dipilih di antara tiga token yang paling mungkin dengan menggunakan suhu.

Untuk setiap langkah pemilihan token, token top-K dengan probabilitas tertinggi akan diambil sampelnya. Kemudian token akan difilter lebih lanjut berdasarkan top-P dengan token akhir yang dipilih menggunakan pengambilan sampel suhu.

Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Top-K default adalah 40.

Top-P

Top-P mengubah cara model memilih token untuk output. Token dipilih dari yang paling mungkin (lihat top-K) hingga yang paling tidak mungkin sampai jumlah probabilitasnya sama dengan nilai top-P. Misalnya, jika token A, B, dan C memiliki probabilitas 0,3, 0,2, dan 0,1 dengan nilai top-P 0.5, model akan memilih A atau B sebagai token berikutnya dengan menggunakan suhu dan mengecualikan C sebagai kandidat.

Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak. Top-P default adalah 0.95.

Strategi iterasi prompt

Desain prompt adalah proses iteratif yang sering kali memerlukan beberapa iterasi sebelum Anda mendapatkan respons yang diinginkan secara konsisten. Bagian ini memberikan panduan tentang beberapa hal yang dapat Anda coba saat melakukan iterasi pada perintah Anda.

Gunakan frasa yang berbeda

Penggunaan kata atau frasa yang berbeda dalam perintah Anda sering kali menghasilkan respons yang berbeda dengan model, meskipun semuanya memiliki arti yang sama. Jika Anda tidak mendapatkan hasil yang diharapkan dari perintah Anda, coba susun ulang kata-katanya.


Version 1:
How do I bake a pie?

Version 2:
Suggest a recipe for a pie.

Version 3:
What's a good pie recipe?

Beralih ke tugas analog

Jika Anda tidak bisa membuat model mengikuti petunjuk untuk suatu tugas, coba berikan petunjuk untuk tugas analog yang mencapai hasil sama.

Dialog ini memberi tahu model untuk mengategorikan buku dengan menggunakan kategori yang telah ditentukan.


Which category does The Odyssey belong to:
thriller
sci-fi
mythology
biography
  

The answer: mythology

Explanations:

The Odyssey is an epic poem in ancient Greek literature. It is one of two major ancient Greek epic
poems attributed to Homer. The Odyssey is an epic poem that tells the story of Odysseus, a Greek
hero who fought in the Trojan War and then spent ten years trying to return home to Ithaca. The
Odyssey is a work of mythology.

Responsnya benar, tetapi model tidak berada dalam batas opsi. Anda juga ingin memodelkan agar hanya merespons dengan salah satu opsi, bukan dalam kalimat lengkap. Dalam hal ini, Anda dapat menyusun ulang petunjuk sebagai pertanyaan pilihan ganda dan meminta model untuk memilih sebuah opsi.


Multiple choice problem: Which of the following options describes the book The Odyssey?
Options:
- thriller
- sci-fi
- mythology
- biography
  

The answer is: mythology

Mengubah urutan konten prompt

Urutan konten dalam prompt terkadang dapat memengaruhi respons. Coba ubah urutan konten dan lihat pengaruhnya terhadap respons.

Version 1:
[examples]
[context]
[input]

Version 2:
[input]
[examples]
[context]

Version 3:
[examples]
[input]
[context]

Respons penggantian

Respons penggantian adalah respons yang ditampilkan oleh model saat perintah atau respons memicu filter keamanan. Contoh respons penggantian adalah "Saya tidak dapat membantu soal itu, karena saya hanya model bahasa".

Jika model merespons dengan respons penggantian, coba tingkatkan suhu.

Hal yang perlu dihindari

  • Hindari mengandalkan model untuk menghasilkan informasi faktual.
  • Gunakan dengan hati-hati saat mengerjakan soal matematika dan logika.

Panduan khusus tugas

Halaman ini menyediakan panduan desain prompt umum. Guna mempelajari panduan khusus tugas untuk kasus penggunaan umum, lihat halaman berikut:

Langkah selanjutnya