Prompt engineering
Ultimo aggiornamento:
Che cos’è il prompt engineering
Ciò che un modello linguistico produce dipende molto da ciò che riceve. Lo stesso modello può dare una risposta vaga e dispersiva oppure precisa e ben strutturata, a seconda di come è formulata la richiesta e del contesto che la accompagna. Il prompt engineering è il lavoro di trovare input che portino in modo affidabile al risultato desiderato.
Il termine copre tutto, da una singola domanda ben formulata in un’app di chat alle istruzioni curate con attenzione dietro un chatbot in produzione.
Tecniche comuni
Nella pratica, il prompt engineering si riduce a poche buone abitudini:
- Essere specifici: indicare ruolo, pubblico, obiettivo e formato della risposta.
- Dare contesto: fornire i fatti necessari invece di dare per scontato che il modello li conosca.
- Mostrare esempi: una o due domande d’esempio con risposte ideali, il cosiddetto few-shot prompting, insegnano stile e formato più in fretta delle descrizioni.
- Fissare limiti: dire cosa fare quando mancano informazioni e quali argomenti sono esclusi.
- Scomporre i compiti: chiedere passaggi o un risultato strutturato quando il compito è complesso.
- Iterare: cambiare una cosa alla volta e confrontare i risultati sulle stesse domande di prova.
Esempio
Una prima bozza di istruzioni per un chatbot dice: «Rispondi alle domande dei clienti.» Le risposte risultano lunghe, a volte fuori tema, e ogni tanto tirano a indovinare i tempi di consegna. Una versione rivista dice: «Rispondi alle domande dei clienti di Ottica Aurora su occhiali, lenti, appuntamenti e consegne. Usa solo i contenuti forniti. Rispondi in due-quattro frasi. Se i tempi di consegna non sono nei contenuti, di’ che non puoi confermarli e rimanda alla pagina contatti.» Con le stesse domande di prova, la nuova versione dà risposte più brevi e in tema e ammette quando non conosce un tempo di consegna.
Perché il prompt engineering conta per i chatbot aziendali
In un chatbot aziendale, il prompt è la leva principale che controlli direttamente. Decide tono, ambito e il modo in cui il bot gestisce l’incertezza.
I suoi limiti contano altrettanto. Nessun prompt può far conoscere a un modello fatti che non ha mai ricevuto, e lunghe liste di regole possono contraddirsi. Le conoscenze mancanti si risolvono aggiungendo contenuti, non riformulando il prompt. È buona pratica tenere una serie di domande di prova, comprese quelle difficili e fuori tema, e ripeterle dopo ogni modifica.
Il prompt engineering in intoCHAT
In intoCHAT il prompt engineering si fa nel campo Istruzioni, partendo se vuoi da un modello, insieme al messaggio di benvenuto e alle domande suggerite. Non devi scrivere regole su grounding o resistenza alla prompt injection, perché intoCHAT le aggiunge in automatico. Nel playground puoi provare ogni modifica. Per le domande in cui conta la risposta esatta, una coppia di domanda e risposta è più affidabile di un prompt più lungo, perché le risposte Q&A hanno la precedenza sulle altre fonti.