Foto: Shantanu Kumar/Pexels

ChatGPT ne greši, mi postavljamo pogrešna pitanja - Šta je prompt inženjering i kako pomaže da dobijete prave informacije od veštačke inteligencije?

Da li vam se ikada dogodilo da u komunikaciji sa ChatGPT-jem ne dobijete adekvatan odgovor? Možda ste pokušali da formulišete pitanje iz različitih uglova, menjali reči ili dodavali detalje kako biste dobili željeni odgovor. Ako jeste, zapravo ste se bavili prompt inženjeringom, iako možda niste bili svesni toga. Prompt inženjering, termin koji će u godinama pred nama tek dobiti na značaju, je proces dizajniranja i optimizacije upita za veštačke inteligencije, posebno velike jezičke modele, kako bi se dobili precizni, relevantni i korisni odgovori. Ideja je da oblikujete upit na način koji omogućava modelu da jasno razume šta se od njega traži i da pruži kvalitetan odgovor, bez potrebe za dodatnom obukom ili modifikacijom samog modela. U suštini, prompt inženjering vam pomaže da od AI dobijete tačno ono što vam je potrebno.

- Prompt inženjering je proces optimizacije upita dok se ne dobije željeni odgovor od AI modela. U kontekstu veštačke inteligencije, prompt inženjering je važan zato što poboljšava performanse velikih jezičkih modela bez potrebe da se sam model modifikuje - objašnjava za eKapiju Tihomir Opačić, strateški direktor CDT HUB-a, AI konsultant i softverski inženjer sa više od 25 godina iskustva. Njegova kompanija Orange Hill Development održava i AI konsultacije i obuke za tradicionalne kompanije i software development timove, a bave se, između ostalog i edukacijom iz oblasti prompt inženjeringa.

Ključne komponente dobrog prompta, prema rečima našeg sagovornika, uključuju jasne instrukcije, kontekst, dodeljivanje specifične uloge modelu, zahtev za formatiranjem, ton i primer odgovora.

- Komponente kao što su jasne instrukcije i kontekst su esencijalne za dobijanje kvalitetnih odgovora - dodaje Tihomir, koji je inače osnivač i vlasnik, odnosno suvlasnik, dve kompanije - Orange Hill Development i Viking Code. Obavlja i funkciju strateškog direktora u CDT HUB-u i tehničkog direktora u holandskoj kompaniji Coding Chiefs.

Kako ističe, veliki jezički modeli imaju ograničeno znanje, posebno za skorašnje događaje.

- Tehnike kao što su Retrieval Augmented Generation (RAG) i implementacija AI agenata mogu pomoći modelima da pristupe aktuelnim podacima i daju precizne odgovore - kaže Tihomir.

Ove tehnike omogućavaju modelima da koriste spoljne izvore podataka kao kontekst, čime se poboljšava tačnost i relevantnost odgovora.

- Prompt inženjering je važan za sve profesije koje intenzivno koriste velike jezičke modele - objašnjava Tihomir, dodajući da profesije koje zahtevaju visoku preciznost, kao što su programeri, marketari, bankari i tehnička podrška, imaju najviše koristi od prompt inženjeringa.

Gde grešimo u kreiranju promptova?

Najčešće greške koje ljudi prave kada razgovaraju sa velikim jezičkim modelima su nedovoljno jasni promptovi (jasne instrukcije) i pružanje nedovoljne količine podataka (kontekst).

- Ljudi tada upadaju u zamku ukazujući modelu da je pogrešio na šta model najčešće kreće da se izvinjava zbog greške, pružajući zatim ponovo nezadovoljavajući odgovor formulisan na malo drugačiji način. Najveći broj nezadovoljavajućih odgovora modela može da se reši dostavljajući širi kontekst i jasnije instrukcije - kaže Opačić.

Komplikovaniji problemi, objašnjava, zahtevaju korišćenje naprednijih tehnika prompt inženjeringa kao što su few-shot prompting, chain-of-thought prompting, tree-of-thought prompting i ostalih prompt inženjering tehnika.

Budućnost prompt inženjeringa

Tihomir predviđa da će prompt inženjering postati još važniji u budućnosti.

- U poslednjih devet meseci na osnovu odgovora novih verzija velikih jezičkih modela kao što su OpenAI GPT 4o i Anthopic Claude 3.5 vidimo da se prompt inženjering tehnike koriste u samim bazičnim modelima kako bi se dodatno poboljšao kvalitet njihovih odgovora. Svakako, i dalje je važno da mi kao korisnici ovih sistema imamo dobro znanje o prompt inženjering tehnikama, kako bismo lako prepoznali situaciju u kojoj uz malo truda možemo da dobijemo značajno kvalitetnije odgovore - kaže.

U budućnosti, smatra AI konsultant, možemo da očekujemo da nas sam model kroz razgovor navede na korišćenje nekih od efikasnih promt inženjering tehnika, bez da mi, kao korisnici, uopšte budemo svesni da se to dešava, a sve to kako bi se poboljšao kvalitet odgovora. Kompjuterski naučnici, dodaje, širom sveta i dalje obavljaju istraživanja otkrivajući nove prompt inženjering tehnike. Inspiraciju često pronalaze u tehnikama koje su razvijene da bi se pospešila produktivnost nas ljudi.

- Kada posmatramo razgovore sa velikim jezičkim modelima, na kraju je veoma korisno povući paralelu sa razgovorima koje imamo sa ljudima. Ukoliko delegiramo radni zadatak čoveku ili modelu, ukoliko ne pružimo dovoljno kvalitetnih informacija i instrukcija, ni delegirani zadatak neće biti izvršen kvalitetno - zaključuje naš sagovornik.

Razgovarao: I. Žikić

Izvor: eKapija