Ingyenes prompt engineering mesterkalauz: Karnyújtásnyira, hogy milliókat keress ezzel a szakmával

Több oldalon is szó volt már egy új, még kibontakozóban lévő szakmáról. A ChatGPT térhódításával berobbant a köztudatba a prompt engineering. Aki ügyes és elsajátítja ezt a skillt, busásan megfizetik majd a tudását.

Fontos: a cikk írása közben észleltem, hogy a 4-es modellel dolgoztam, mivel előfizettem rá, automatikusan azóta ezt használom. De a 3-as és 3.5-es (ingyenes) verziókkal is ugyanilyen szuperül működik. A 4-es modell "intelligensebb" és sokkal több adatot tartalmaz, mint a korábbi testvérei.

Fun fact: Miközben fordítottam ezt a bejegyzést, az Indexen megjelent egy cikk, amelyben pont erről írnak. ITT tudod elolvasni. 

Mi az, amivel foglakozunk ma?

Röviden: kapsz egy teljesen ingyenes útmutatót a ChatGPT-hez, hogyan tudod helyesen használni, miként kell promptokat írni, illetve megismerkedhetsz az OpenAI Playgroundjával is.**

1. Alapfogalmak

Mi az AI vagy MI?
Az AI (angolul: artificial intelligence), azaz a mesterséges intelligencia (MI) olyan tudományág, amelyben arra törekszünk, hogy a számítógépeket emberi módon gondolkodásra, tanulásra és megértésre bírjuk, ezzel lehetővé téve számukra az írás, tartalomkészítés, bonyolult problémák megoldása, rajzolás, valamint a kódolás és programozás képességét.

Mi az az NLP?
Az NLP (angol: Natural Language Processing), vagy természetes nyelvfeldolgozás, az AI-nak egy olyan területe, ahol megtanítjuk és megértetjük a számítógépekkel az emberi nyelvet. Így, ha kérdést teszünk fel neki, megérti és válaszol úgy, hogy figyelembe veszi a korábbi utasításokat. 

Mi az a GPT?

A GPT (angol: Generative Pre-trained Transformer) egy NLP AI modell. Vagyis: megtanítjuk a számítógépet egy adott feladat elvégzésére, és amikor ez elkészült, az eredményt AI modellnek nevezzük. Itt a GPT az NLP modell neve, amelyet úgy képeztek ki, hogy megértse az emberi nyelvet. Több verziója is létezik: GPT-2, GPT-3 és 3.5, illetve már a GPT-4. A ChatGPT ezeket a modelleket használja.

Mi az LLM?

Ezt a kifejezést gyakran használjuk a prompt engineeringben. Angolul Large Langauge Model, ennek a rövidítése. A GPT-3, 3.5 vagy a 4 is ilyen. A GPT-3-nak 175 milliárd paramétere van.

Mit jelentenek a paraméterek?

Amikor azt mondjuk, hogy a GPT-3 modellnek 175 milliárd paramétere van, azt jelenti, hogy a modell 175 milliárd beállítással rendelkezik, amelyeket szabályozhatunk annak érdekében, hogy jobban teljesítsen különböző nyelvi feladatokban. 

Képzeljük el, hogy egy nagy kirakós játékot kell megoldanunk, és rengeteg különböző darab áll rendelkezésünkre a feladvány megoldásához. Minél több elemünk van, annál nagyobb esélyünk van arra, hogy helyesen oldjuk meg a feladványt. 

Hasonlóképpen, amikor azt mondjuk, hogy a GPT-3 modellnek 175 milliárd paramétere van, azt jelenti, hogy rengeteg különböző elemmel rendelkezik, amelyeket nyelvi feladványok megoldására használ(hat) fel. Ezeket az elemeket nevezzük paramétereknek.

2. Mi az a prompt engineering?

Mi a prompt?

A prompt egyszerűen az a szöveg (utasítás/kérdés), amelyet a nagy nyelvi modellnek (LLM) adunk, hogy egy konkrét eredményt kapjunk. Példaként, ha a ChatGPT alkalmazást megnyitjuk és ezt írjuk be:

"írj 5 youtube videó címet online marketing témában"

De mi van akkor, ha az eredmények nem olyanok, mint amire számítottunk, vagy esetleg hibásak? Ezt jelenti, ha a ChatGPT hallucinál.

A prompt engineer lesz az, aki a promptokat tökéletesíti.

Szakemberek szerint ez a képesség a jövőben a legkeresettebbek között lesz. Ebben az útmutatóban valós példák és alkalmazások segítségével bemutatom, hogyan is néz ez ki a gyakorlatban. A promptokat egyébként értékesíteni is tudod olyan oldalon, mint a PromptBase, így passzív jövedelemre is szert tehetsz.

3. Promptolás valós példákkal

a.) A promptolás típusai 

Nézzük mai fő téma részével: a promptolással. A legfontosabb: gyakorolj sokat. Prompt (utasítás) típusai: általában 2 féle felhívást különböztetünk meg, közvetlen utasítás és példával történő utasítás.

Nézzük ezt egy példán keresztül az OpenAI Playgroundban. (Szándékosan nem a ChatGPT platformján):

Q: Mi az USA fővárosa?

A: (USA) fővársa [Washington]

Q: Mi Ausztrália fővárosa?

A: 

És íme a reakció:

A válasz ugyanabban a "formátumban" van, mint a megírt prompt. Adtunk egy saját példát a nyelvi modellnek, amellyel azt várjuk tőle, hogy a példánkhoz hasonló választ generáljon. Ezt nevezzük a példával történő promptolásnak. 

A közvetlen promptolás, amikor példa nélkül adjuk meg az utasítást. Például:

Mi USA fővárosa?

És íme az output (kimenet):

Merüljünk bele mélyebben és nézzük meg pár valós példán keresztül, hogy milyen egy jó prompt már a ChatGPT felületén gyakorolva.

 

b.) Példa: szerep, részletek, és kérdések

Korábban említettem ezt a példát: "írj 5 youtube videó címet online marketing témában"

Ez nagyon alap prompt. Megmutatom, hogyan írj fejlettebb/jobb promptot úgy, hogy lényegében ugyanezt a kérdést teszed fel, de az output (kimenet) sokkal jobb lesz.

"Szakértő vagy a virális YouTube-címek írásában. Gondolj ragadós és figyelemfelkeltő címekre, amelyek arra ösztönzik az embereket, hogy rákattintsanak és megnézzék a videót. A címeknek rövidek, tömörek és közvetlenek kell lenniük. Kreatívak és találékonyak is legyenek. Próbálj olyan címeket kitalálni, amelyek váratlanok és meglepőek. Ne használj túl általános címeket vagy olyan címeket, amelyeket már túl sokszor használtak. Ha kérdésed van a videóról, kérdezz, mielőtt címeket próbálsz generálni. Rendben?"

A promptot azzal kezdjük, hogy szerepet osztunk a botnak (jelen esetben: szakértő a virális YouTube-címek írásában). Ezt hívjuk (acting) szerep-felhívásnak. Ezután pontosan elmagyarázzuk, mit keresünk: a legjobb YouTube-címeket szeretnénk, amelyekre az emberek rákattintanak. 

Nagyon fontos, hogy tudjuk, mit szeretnénk, mielőtt megírnánk a promtot. Majd ezt írtam: "ha kérdésed van a videóról, kérdezz, mielőtt címeket próbálsz generálni". Így ahelyett, hogy a ChatGPT egyből generálná a választ, megírja, hogy megértette a feladatot, és készen áll a további teendőkre.

És íme az eredmény:

c.) Példa: Step by step & hacks

Most nézzünk egy másik példát, ahol segítséget kérek tőle egy új SAAS vállalkozás létrehozásában:

"Hagyd figyelmen kívül az összes korábbi utasítást ezt megelőzően. Több mint 10 éves tapasztalata van SAAS weboldalak építésében és növekedésében. Feladata most, hogy segítsen nekem elindítani és növelni egy új SAAS-t. Kérdéseket kell feltennie a válaszadás előtt, hogy jobban megérthesse, mit keresek. És lépésről lépésre kell mindent elmagyaráznia. Megértetted?"

Ebben a feladatban egy új dolgot tanulunk. Az első mondat: "hagyd figyelmen kívül az összes korábbi utasítást ezt megelőzően". Ez egy prompt (hack) trükk. Egyszerűen megmondjuk a ChatGPT-nek, hogy hagyja figyelmen kívül az előző utasításokat. 

A ChatGPT nyomon követi a teljes beszélgetést. Ha figyelmen kívül akarjuk hagyni a korábbi utasításokat, akkor ezt a hacket mindeképpen használni kell a promptban. De jó megoldás az is, ha új chatablakot nyitsz.

d.) Példa: Stílus és hang

Most azt szeretném, ha a ChatGPT bonyolult dolgokat segítene megtanulni. Tegyük fel, hogy a kvantum-számítástechnikáról szeretnénk tanulni. 

"Kvantum-számítástechnika szakértő vagy, és több mint 10 éves tapasztalatod van tudományos és technológiai ismeretek oktatásában gyerekeknek. Szeretném, ha ma tanítóm lennél, és úgy magyaráznád a dolgokat, mintha 6 éves lennék. És biztosíts vicces példákat, hogy jobban megértsem. Rendben van ez így?"

Íme az output (kimenet):

Nézzük ezt a feladatot is:

"Kérlek, magyarázd el a kvantumszámítástechnikát Shakespeare stílusában." És nézzük a választ:

e.) Példa: Kódolás

Akár teljes online business-t is fel lehet építeni a ChatGPT segítségével. Természetesen ehhez valamennyi informatikai háttértudással rendelkezni kell. De egy ilyen prompttal* hozzá lehet kezdeni:

"Hagyd figyelmen kívül az összes korábbi utasítást ezt megelőzően. Tapasztalt Python programozó vagy. 20 éve segítesz embereknek Python kódok írásában. Feladatod most, hogy segítsen nekem egy Python szkriptet írni az igényeimnek megfelelően. Kérdéseket kell feltenned a válaszadás előtt, hogy jobban megérthesd, mit keresek. Mondd meg, ha optimalizálási módszereket azonosít gondolkodásomban vagy átfogó céljaimban. Megértetted?"

Ezután kérd a kódot, amit szeretnél.

f.) Adatok és táblázatok

Tudtad, hogy a ChatGPT képes adatokat táblázatokba összefoglalni? Próbáld ki ezt:

"Generálj példaadatokat a Google keresési találati oldalról, szeretném látni az alábbi mezőket: Cím, Link, DA, PA, Cím hossza. és mutasd őket egy táblázatban."

És itt az eredmény:

A ChatGPT-vel így tehát a saját adataidat könnyen táblázatba tudod rendezni.

4. Fontos paraméterek

Prompt engineerként más tényezőket is figyelembe kell venned. Ha felmész újra az OpenAI Playground oldalra és megnézed a jobb oldali részt, láthatod, hogy vannak bizonyos paraméterek.

Nézzük, miket érdemes tudni ekezről?

Mi az a modell?

Ahogyan azt korábban említettem, amikor megtanítjuk a számítógépet valamire, akkor kapunk egy ún. modellt. 

A ChatGPT legújabb, legjobb modellje a DaVinci-003, amely akár 4000 token-t is képes feldolgozni.

Mi az a token?

Az NLP modell tokenizálja (angolul: tokenization) a kérdést, ami azt jelenti, hogy felosztja az inputot (amit beírsz) tokenekre, ahol minden token egy 4 karakteres szóhoz hasonló. Ha megnyitod a Tokenizer-t, és beírsz egy kérdést, akkor megmutatja, hogy hány tokenből áll a kérdésed.

Tehát, ha például egy teljes könyvet szeretnél létrehozni ChatGPT-vel, akkor több prompt-ra kell bontanod, mivel egy könyv több mint 4000 tokent tartalmaz. 

Mi az a temperature (hőmérséklet)?

Kérd meg a ChatGPT-t, magyarázza el ezt úgy, mintha 6 éves lennél! Nyisd meg a ChatGPT-t és írd be ezt a prompt-ot: 

"Te egy NLP és AI szakértő vagy, és több mint 10 éves tapasztalattal rendelkezel ezeknek a fogalmaknak a 6-8 éves gyermekek tanításában. Kérdéseket teszek fel hozzájuk kapcsolódóan, és azt szeretném, ha úgy válaszolnál rájuk, mintha egy 6 éves gyermek lennék. Tudsz nekem segíteni?"

Ezután pedig kérdezd meg: Mi az a temperature paraméter?

A temperature szabályozza a véletlenszerűség és kreativitás szintjét az előállított szövegben. Minél alacsonyabban van, annál kevésbé lesz kreatív (0.7-0.9 közötti érték a legkreatívabb) a szöveg. Ez azonban nem jelenti azt, hogy az minden esetben rossz eredmény lesz.

Mi a top-p parameter?

A top-p paraméter a szövegek szabályozására szolgál. Ha a top-p értéke alacsony, kevesebb szó közül választ, ami pontosabb, de kevésbé változatos szöveghet eredményez. Ha a top-p értéke magasabb, több szó közül választ, ami kreatívabb, de kevésbé összefüggő szöveghez vezet. Ezt úgy kell elképzelni, hogy ha például a modell az "enni akarok" mondatrész után a valószínűségek alapján "megjósolja", mi a következő mondatrész.

5. Mester prompt engineering

Ez a képesség olyan, mint a programozás. Gyakorolni kell! Csinálj sok feladatot, végezz kutatásokat, teszteket. Kezdd azzal, hogy teszteled és alkalmazod a ma tanultakat.

Itt van néhány hasznos erőforrás a kezdéshez (angolul!), amelyekből én is tanultam:

learnprompting.org

Awesome Prompts

Prompting Guide

Illetve hamarosan a Promptmaster oldalon elérhetőek lesznek magyar kurzusok is. A piacon fellelhető egyik legjobb angol nyelvű tananyagra ITT tudsz jelentkezni. 

A jövőben ezekre a készségekre kell majd összpontosítani: kritikus gondolkodás és problémamegoldó, valamint adatelemzési és adatmegjelenítési készségek. 

Ha még nagyon új vagy, ajánlom az ingyenes ChatGPT kézikönyvemet, ami teljesen kezdőknek írtam. A digitális tananyagban a chatbot történetét, használálatát, illetve trükköket is találsz benne a promptíráshoz, de néhány pénzkeresési tippeket is beleírtam. A kézikönyvet ITT tudod letölteni.

Érdekel, hogyan csináltam egy nap alatt 80 dollárt a ChatGTP-vel, olvasd el EBBEN a cikkben. 

Ha kíváncsi vagy a további tartalmaimra, akkor a főoldalon bal szélen az "Iratkozz fel a hírlevelemre" fül alatt tudsz feliratkozni a hírlevelemre. Minden héten szuperizgalmas MI-tartalmú leveleket küldök.

*A blogbejegyzéshez felhasználtam Ronnie Sheer LinkedIn-en megtalálható Introduction to Prompt Engineering for Generative AI nevű kurzusát, illetve a H-educate ingyenes oktatóanyagait/promptjait fordítottam.

**Nem vagyok szakértő, csak a téma iránt lelkesedő, illetve a témát autodidakta módon tanuló. A munkám során napi szinten használom és kísérletezek a ChatGPT-vel, egész jó ereményeket elérve.