Aizkulisēs: Kā ChatGPT Patiesībā Darbojas (Bez Žargona, Tikai Fakti)

Ja esat izmantojis mākslīgo intelektu, lai rakstītu e-pastu, tulkotu ziņu vai kopsavilkumi ziņojumu, jūs esat sastapies ar ChatGPT. Šī rokasgrāmata izskaidro, kā tas darbojas vienkāršā angļu valodā. Nav maģijas. Nav hype. Tikai mehānika: kā modelis tiek apmācīts, kā tas pārvērš jūsu vārdus atbildē, kāpēc tas dažreiz kļūdās un kā iegūt labākus rezultātus. Rakstnieks visā šajā rakstā parādīs praktiskus piemērus, kurus varat izmēģināt šodien, un vienkāršas vadlīnijas, kas palīdz izvairīties no problēmām. Katru reizi, kad mēs izmantojam vārdu ChatGPT, pieņemiet, ka mēs runājam par moderno valodas modeļu saimi, kuru pamatā ir transformatori, kas nodrošina jūsu izmantoto produktu lietotnē vai caur API.

Kas Padara ChatGPT Tik Efektīvu

Uztveriet sistēmu kā milzīgu modeļu atklājēju. Tā nolasīt jūsu komandu, sadala to nelielos gabalos, ko sauc par tokeniem, un prognozē, kas būtu nākamais. Tas atkārtojas atkal un atkal, pa vienam solim, līdz izveido pilnīgu atbildi. Aizkulises darbojas dziļā neironu tīkla ar miljardiem parametru, kas nosver visas iespējas un izvēlas ticamāko secību. Tas ir viss, ko šeit nozīmē “inteliģence”: ārkārtīgi ātra modeļu prognozēšana, kas iemācīta apmācības procesā. Kad cilvēki saka, ka ChatGPT “saprot” jūs, tas nozīmē, ka tā apgūtie modeļi saskan ar jūsu vārdiem pietiekami labi, lai radītu noderīgu tekstu. Tā kā tas pats mehānisms darbojas uz koda, tabulām un markdown, varat sarunāties ar ChatGPT, lai tas rakstītu SQL, tīrītu CSV failus vai skicētu JSON shēmu tikpat viegli, kā tas raksta dzejoli vai plānu.

Vienkārša Angļu Kopsavilkums

Pirms iedziļināmies detaļās, šeit ir īsā versija. Moderni mākslīgo intelektu modeļi tiek apmācīti uz milzīgiem tekstu un citu datu apjomiem. Apmācības laikā modelis mācās prognozēt nākamo tokenu secībā. Smalkā pielāgošanā tas tiek nedaudz virzīts, lai kļūtu noderīgāks, godīgāks un drošāks. Darbības laikā jūsu komanda tiek pārveidota par tokeniem, plūst cauri transformatoru tīklam, un tiek atgūti tokeni, kas atkodēti atpakaļ vārdos. Viss pārējais - rīki, attēli, balss un pārlūkprogramma - tiek pārklāts uz šīs bāzes cikla. Ja atceraties tikai vienu lietu, atcerieties šo: viss cikls ir ātrs cilpa paredzēt-tokenu, tad paredzēt nākamo.

Apmācības 101: Dati, Tokoni un Modeļi

Datu avoti. Modelis mācās no licencētiem datiem, datiem, kurus ir izveidojuši cilvēki, un publiski pieejama satura maisījuma. Mērķis nav iegaumēt lappuses; tas ir mācīties statistiskus modeļus daudzu stilu un domēnu virknē.

Tokoni. Datori neuztver vārdus tā, kā mēs. Tie izmanto tokonus - īsas rakstzīmju virknes. “Apple,” “apples,” un “applet” kartē līdzīgi ar pārklājošiem token modeļiem. Modelis prognozē tokonus, nevis burtus vai pilnus vārdus. Tieši tāpēc tas dažreiz rada dīvainas frāzes: matemātika darbojas ar tokoniem.

Apjoms. Apmācība notiek masveida daudzumos uz specializētas aparatūras. Vairāk datu un aprēķinu ļauj modelim uztvert plašākus modeļus (gramatika, fakti, rakstīšanas stili, koda struktūras). Taču apjoms vien negarantē kvalitāti; kā dati tiek sakārtoti un kā tiek veidoti apmācības procesi, ir tikpat svarīgi kā lielums.

Vispārināšana. Galvenais mērķis ir vispārināšana. Modelis mācās no miljoniem piemēru un pēc tam piemēro šos modeļus pavisam jauniem pieprasījumiem. Tas nevar “palikt” privātā datu bāzē, ja jūs nepievienojat to, un tas nav personīgo lietotāju atmiņu, ja vien tos nesniedz pašreizējā sesijā vai caur integrētajiem rīkiem.

Drošība. Satura filtri un drošības politikas tiek uzslāņoti ap modeli, lai kaitīgie pieprasījumi tiktu atteikti un jutīgi temati tiktu apstrādāti uzmanīgi.

Transformatori, Vienkārši Izskaidroti

Transformators ir pamatstruktūra. Agrākās tīklos teksts tika nolasīts no kreisās uz labo pusi. Transformatori lasa visu vienlaicīgi un izmanto pašuvēršu lai izmērītu, kā tokoni attiecas viens uz otru. Ja kāds vārds teikuma beigās ir atkarīgs no kāda vārda sākumā, uzmanība palīdz modelim izsekot šo tālo saiti. Stacked uzmanības un feed-forward bloku slāņi veido bagātīgākus attēlojumus, kas ļauj modelim pārvaldīt garus pieminējumus, kodu un jauktus stilus ar pārsteidzošu valdzinošību. Tā kā modelis uzreiz apskata visu secību, tas var saistīt pavedienus no tālu daļām jūsu komandu saistībā, kas ir iemesls, kāpēc garāki konteksta logi ir tik noderīgi. Stack beigās modelis izvada punktu katram nākamajam iespējamajam tokenam. Softmax funkcija pārvērš šos punktus varbūtībās. Tad dekoders paraug vienu tokenu, izmantojot jūsu iestatījumus.

No Pretraining līdz Smalkai Pielāgošanai

Priekšapmācība. Pamatmodulis apgūst vienu prasmi: prognozēt nākamo tokenu. Dots “Parīze ir galvaspilsēta”, labākais nākamais tokens parasti ir “Francija”. Tas nenozīmē, ka modelis “zina” ģeogrāfiju kā cilvēks; tas ir iemācījies spēcīgu statistisko modeli, kas sakrīt ar realitāti.

Vadīta smalka pielāgošana. Treneri nodrošina modelim piemērus ar augstas kvalitātes atbildēm. Tas māca toni, formatēšanu un uzdevuma izpildi (rakstīt e-pastu, sastādīt plānu, pārveidot kodu).

Pastiprināta mācīšanās no cilvēka atbildēm (RLHF). Cilvēki salīdzina vairākas modēļa atbildes uz to pašu pieprasījumu. Atlīdzības modelis apgūst, kura atbilde ir labāka. Tad pamatmodulis tiek optimizēts, lai radītu atbildes, kuras cilvēki dod priekšroku - pieklājīgas, par tēmu un mazāk riskantas. Arī drošības noteikumi tiek pievienoti, lai samazinātu kaitīgos rezultātus.

Rīku lietošana. Valodas mugurkaula virsotnē, dažās versijās var tikt izmantoti rīki: tīmekļa meklēšana, koda interpretētāji, vīzijas analizētāji vai pielāgoti API. Modelis nosaka (balstoties uz jūsu komandu un sistēmas iestatījumiem), kad izmantot rīku, izlasa rezultātu un turpina atbildi. Rīku iedomājieties kā papildu sajūtas un rokas, nevis kā paša smadzeņu daļu.

Loģika un Daudzsola Darbs

Lieli modeļi ir labi virspusējās atbildēs. Grūtiem uzdevumiem nepieciešami apzināti soļi. Ar rūpīgu pieprasījumu modeli var plānot: uzdevuma uzskaitījums, secīga problēmu risināšana un rezultātu pārbaude. Šo sauc par strukturētu loģisko spriešanu. Tas maiņa ātrumu par uzticamību, tāpēc kompleksi uzdevumi var ilgt ilgāk vai izmantot vairāk aprēķinu. Labākie pieprasījumi padara soļus skaidrus: “Uzskaitīt pieņēmumus, saskaitīt ciparus, tad paskaidrot izvēli.” Vēl viena ceļa ir sniegt piemērus (“nedaudzu pieprasījumu”), kas parāda modelim, kā izskatās labs risinājums, kad jūs to lūdzat savam. Ar pareizajiem ierobežojumiem, modelis var tulkot prasības kontrolsarakstos, pārveidot neskaidrus pieprasījumus par pārbaudāmiem soļiem un izskaidrot kompromisus saprotamajā valodā.

Multimodāli Ievadi

Daudzas modernas sistēmas var apstrādāt attēlus, audio un dažreiz video. Pamatideja ir tāda pati: viss tiek pārvērsts par tokeniem (vai iespaidiem), tiek palaists caur transformatoru un pārveidots atpakaļ par vārdiem, etiķetēm vai cipariem. Tas ir veids, kā modelis var aprakstīt attēlu, nolasīt diagrammu vai sastādīt alternatīvu tekstu. Balss režīmi pievieno runas-teksta ieslēgšanās laikā un teksta-runas izslēgšanās laikā. Pat tad, kad tas apstrādā attēlus vai skaņu, gala rezultātu joprojām rada valodas modelis, prognozējot nākamo tokenu. Tā kā interfeiss ir konsekvents, jūs varat lūgt ChatGPT stāstīt diagrammu, izklāstīt jūsu slaida saturu un pēc tam uzrakstīt runas piezīmes, nemainot rīkus.

Ierobežojumi un Kļūdu Režīmi

Halucinācijas. Modelis dažreiz saka lietas, kas šķiet pareizas, bet nav. Tas nav melošana; tā ir ticama teksta izgudrošana. Samaziniet risku, lūdzot to norādīt avotus, pārbaudiet ar kalkulatoru vai izmantojot rīku.

Novecošanās. Modelis iekšējā zināšanai ir izgriezuma punkts. Tas var pārlūkot vai izmantot savienotus datus, ja šī spēja ir iespējota; citādi tas nezina pēdējās nedēļas ziņas.

Neprecizitāte. Ja jūsu pieprasījums ir neskaidrs, jūs saņemsiet neskaidru atbildi. Sniedziet kontekstu, ierobežojumus un piemērus. Norādiet mērķi, auditoriju, formātu un ierobežojumus.

Matemātika un vienības. Neapstrādāti modeļi var kļūdīties ar aritmētiku vai vienību pārveidošanu. Lūdziet soli-pa-solim aprēķinus vai ieslēdziet kalkulatora rīku.

Neobjektivitāte. Apmācības datu atspoguļo pasauli, tostarp tās neobjektivitāti. Drošības sistēmas cenšas samazināt kaitīgumu, taču tās nav perfekti. Lielāka riska jomās (medicīniskā, juridiskā, finanšu) apsveriet rezultātus kā projektus, kurus pārskatīs kvalificētas personas.

Kur ChatGPT Kļūdās

Šeit ir ātrs kontrolsaraksts drošākiem rezultātiem:

• Prasiet avotus, kad fakti ir svarīgi.

• Aritmētikas gadījumā prasiet soļus un gala ciparus.

• Politikas vai likumiem tiek prasīts precīzs fragments un apņemšanās to pārbaudīt.

• Kodinga gadījumā veiciet vienotestus un sintakse pārbaudījumu.

• Radošajā darbā sniedziet stilta vadlīnijas un piemērus.

• Izmantojot savienotie rīki, apstipriniet, ko rīks atdeva, pirms rīkojaties.

• Saglabājiet pieprasījumus īsus, konkrētus un pārbaudāmus.

Pieprasījumu Veidošanas Rokasgrāmata (Pusaudžu Draudzīgā Versija)

1. Izvirziet lomu un mērķi. “Jūs esat HR koordinators. Sastādiet maiņu maiņas politiku 200 vārdos.”

2. Sniedziet kontekstu. “Mūsu komandas strādā 24/7. Pārāk slodze jāapstiprina iepriekš. Izmantojiet punktus.”

3. Uzsveriet ierobežojumus. “Izvairieties no juridiskiem padomiem. Lietojiet neitrālu toni. Iekļaujiet īsu atsacīšanos.”

4. Pieprasiet struktūru. “Piešķiriet H2 virsrakstu, punktus un noslēguma padomu.”

5. Pieprasiet pārbaudes. “Uzskaiti trūkstošo informāciju un riskantus pieņēmumus beigās.”

6. Iterējiet. Ielīmējiet atsauksmes un prasiet pārskatījumu, nevis sākt no nulles.

7. Izmantojiet piemērus. Parādiet vienu labu un vienu sliktu atbildi, lai modelis saprastu jūsu stilu.

8. Pārtrauciet mēroguma palielināšanos. Ja atbilde aizklīst no tēmas, atbildiet ar “Fokusējies tikai uz X” un tas pārkalibrēsies.

9. Pieprasiet alternatīvas. Divas vai trīs versijas palīdzēs izvēlēties labāko līniju vai izkārtojumu.

10. Saglabājiet bibliotēku. Saglabājiet labākos pieprasījumus un izmantojiet tos kā veidnes.

Iestatījumi, kas Maina Izvadi

Temperatūra. Augstākas vērtības pievieno dažādību; zemākas vērtības pieturas pie drošāka, vairāk prognozējama vārdu krājuma. Lielākajai daļai biznesa tekstu, saglabājiet to zemu līdz vidēji.
Top-p (nukleu paraugošana). Ierobežo izvēles līdz visvairāk ticamajiem tokoniem, līdz to kopīgā varbūtība sasniedz slieksni.
Maksimālie tokoni. Ierobežo atbildes garumu. Ja rezultāts apstājas teikuma vidū, palieliniet šo ierobežojumu.
Sistēmas pieprasījumi. Īsa, paslēpta instrukcija, kas nosaka asistenta lomu. Labi sistēmas pieprasījumi nosaka robežas un stilu, pirms lietotājs kaut ko ievada.
Apstāšanās secības. Virknes, kas pasaka modelim, kad pārtraukt ģenerēšanu — noderīgi, kad vēlaties tikai daļu pirms marķiera.
Sēkla. Ja pieejams, fiksēts sēklas skaitlis padara rezultātus atkārtojamākus testēšanai.

Piemērs: No Pieprasījuma līdz Atbildei

1. Jūs rakstāt pieprasījumu. Piemērs: “Uzrakstiet trīs punktus, kas skaidro, ko dara laika pulkstenis.”

2. Teksts tiek pārveidots par tokeniem.

3. Transformators lasa visus tokenus, izmanto uzmanību, lai nosvērtu attiecības, un prognozē nākamo tokenu.

4. Dekoders paraugo tokenu saskaņā ar jūsu iestatījumiem.

5. 3.–4. solis atkārtojas līdz apstāšanās simbolam vai garuma limitam.

6. Tokoni tiek pārvērsti atpakaļ par tekstu. Jūs redzat atbildi.

Ja rīka izmantošana ir atļauta, modelis var ievietot rīka zvanu vidū (piemēram, kalkulatora). Rīks atdod rezultātu, kuru modelis lasa kā vairākus tokenus, un pēc tam turpina atbildi. Ja ir iespējota ieguve, sistēma var izvilkt priekšmetus no jūsu dokumentiem, pateikt tos modelim kā papildu kontekstu un lūgt modelim atbildēt, izmantojot šo kontekstu. Šo pieeju bieži sauc par uz iegūšanu balstītu ģenerāciju (RAG).

RAG: Savieno Savu Pētīšanu

RAG savieno jūsu saturu ar modeli, nepārapmācot to. Soli ir vienkārši:

1. Sadaliet savus dokumentus mazās daļās.

2. Izveidojiet saskaņas (vektorus) katrai daļai un glabājiet tās datu bāzē.

3. Kad lietotājs uzdod jautājumu, ievērojiet jautājuma saskaņu un izgūtiet vislīdzīgākās daļas.

4. Nodrošiniet šīs daļas modelim kā papildu kontekstu ar jautājumu.

5. Lūdziet atbildi, kas norāda uz šīm daļām.

Tas palīdz saglabāt atbildes pamatotas jūsu datos. Ja izmantojat RAG darbā, pievienojiet kvalitātes pārbaudes: filtrējumam pēc pēdējiem datumiem, gandrīz identisko daļu dubultošana un avotu rādīšana, lai recenzenti varētu pārbaudīt. Tas arī samazina iespēju, ka ChatGPT izgudro detaļas, jo tas tiek lūgts pieturēties pie norādītā konteksta.

Smalkā Pielāgošana: Stila Mācība

Smalks pielāgojums liek pamatmodelim priekšroku jūsu tonim un formātiem. Jūs vācet pieprasījuma un vēlamo iznākumu pārus. Saglabājiet datu kopas mazas, tīras un konsekventas. Desmit lieliski piemēri ir vērtīgāki par tūkstoš nevīžīgiem. Izmantojiet to, kad jums nepieciešama viena un tā pati struktūra katru reizi (piemēram, atbilstības vēstules vai formu aizpildīšana). Smalkā pielāgošana par sevi nesniedz modeli privātajai zināšanai; salieciet to kopā ar RAG vai API, kad faktiem jābūt precīziem. Kad vērtējat smalki pielāgotu modeli, salīdziniet to ar spēcīgu tikai pieprasījumu izveidotu pamatversiju, lai pārliecinātos, ka papildu izmaksas ir tā vērtas.

Mīti pret Faktiem

Mīts: Modelis katru reizi pārlūko tīmekli. Fakts: Tas nedarbojas, ja vien pārlūkošanas rīks nav ieslēgts un aktivizēts.
Mīts: Tas uzglabā visu, ko jūs ievadāt mūžīgi. Fakts: Datu saglabāšana ir atkarīga no produktu iestatījumiem un politikām; daudzi biznesa plāni atdala apmācību no lietošanas.
Mīts: Vairāk parametru vienmēr nozīmē gudrāku uzvedību. Fakts: Datu kvalitāte, apmācības metode un saskaņojums bieži vien ir svarīgāki.
Mīts: Tas var aizstāt ekspertus. Fakts: Tas paātrina projektus un pārbaudes, bet ekspertu pārskats joprojām ir nepieciešams lēmumiem.
Mīts: Sarunu iznākumi ir nejauši. Fakts: Tie ir varbūtības, kuras var kontrolēt (temperatūra, top-p, sēkla), ko var pielāgot.

Uzņēmumu Kontroles Lapa

• Definējiet apstiprinātus lietošanas gadījumus un riska līmeņus.

• Izveidojiet sarkanās līnijas (nav medicīnisko padomu, nav juridisku spriedumu, nav PII pieprasījumos).

• Nodrošiniet standarta pieprasījumus un stila rokasgrāmatas.

• Augsta riska uzdevumus maršrutējiet caur rīkiem, kas pārbauda faktus vai aprēķinus.

• Monitorējiet rezultātus un ievāciet atsauksmes.

• Apmāciet komandas par privātumu, aizspriedumiem un atsaucēm noteikumu.

• Saglabājiet cilvēkus kā atbildīgus par galīgajiem lēmumiem.

Izmaksas un Izpildes Pamati

Valodas modeļu cenas tiek noteiktas pēc tokeniem, nevis vārdiem. Tipisks angļu valodas vārds ir ~1,3 tokeni. Garu pieprasījumi un garās atbildes maksā vairāk. Straumēšanas atbildes šķiet ātrākas, jo tokeni tiek rādīti, tiklīdz tie tiek dekodēti. Kešošana var samazināt izmaksas, ja atkārtoti izmanto līdzīgus pieprasījumus. Grupēšana un struktūrēti pieprasījumi samazina atkārtotas izmantošanas nepieciešamību. Smagām lietojumu mūlēm, kartējiet katru darbplūsmu: sagaidāmais garums, nepieciešamie rīki un pieņemamais kavējums. Ja izmantojat ChatGPT klientu saturam, izveidojiet rezerves iespējas, lai jūsu sistēma pieņemtu pakāpenisku degradāciju, ja tiek noteikti ātruma ierobežojumi.

Vērtības Mērīšana

Nepalaidiet no skata demonstrācijas. Izsekojiet rezultātus. Labi pamata metrika:

• Ietaupītās minūtes uz vienu uzdevumu (rakstīšana, kopsavilkums, formatēšana).

• Kļūdu procents pirms pret pēc (nelaipni soļi, nepareizi cipari, salūzušas saites).

• Caurlaide (biļetes apstrādātas, projekti sastādīti, testi ģenerēti).

• Lietotāju un recenzentu apmierinātības rādītāji.

• Pārnavilku procentuālā daļa pēc pārskatīšanas.

Veiciet A/B testus ar un bez AI palīdzības. Saglabājiet versiju, pieprasījumu un iestatījumus konstantus, kamēr mērāt. Ja ChatGPT tiek izmantots kā pirmie uzmetumi, mēriet, cik ilgs laiks būs pārskatam un cik daudz labojumu ir nepieciešams, lai sasniegtu publicējamo kvalitāti.

Kur Tas Palīdz Darbību Norisē

Atbalsts. Klasificējiet ziņas, izstrādājiet atbildes un ieteikt saites uz zināšanu bāzi. Saglabājiet cilvēka klātbūtni saziņā, lai saglabātu toni un risinātu sarežģītus gadījumus.
HR. Pārvērtiet politikas norādes kontrolsarakstos, pārveidojiet noteikumus par ievadapmācības soļiem un izstrādājiet paziņojumus.
Grafiks. Izveidojiet veidnes, izskaidrojiet pārklājuma noteikumus un sakārtojiet novirzījumu pieprasījumus vienkāršā valodā.
Finanses. Pārveidojiet pirkumu piezīmes par kategoriskiem ierakstiem; izstrādājiet noviržu kopsavilkumus ar skaidriem iemesliem un nākamajiem soļiem.
Inženierzinātnes. Rakstiet testus, aprakstiet API un pārskatiet žurnālus pēc paraugiem. Visā šajā ChatGPT darbojas kā ātrs palīgs, kas pārvērš nesakārtotu informāciju par tīrāku rezultātu, ko varat pārskatīt.

Shifton piemēru plūsmas

• Pārveidojiet neorganizētu pieprasījumu darbam novirzījumu pavedienu strukturētā tabulā ar vārdiem, datumiem un iemesliem.

• Pārveidojiet neapstrādātus laika pulksteņa eksporta datus par kopsavilkumu ar virsstundu karogiem un apstiprinājumu piezīmēm.

• Izstrādājiet ziņu komandai par grafiku izmaiņām, pēc tam pārtulkojiet to reģionālajām komandām.

• Pieprasiet kontrolsarakstu, ko vadītājs var izmantot, lai pārskatītu apmeklējuma anomālijas.

• Izveidojiet testu piemērus jaunam grafika noteikumam—nedēļas nogales ierobežojumam, virsstundām triggeriem un nodošanas laikam.

Šīs plūsmas darbojas, jo modelis ir labs atformatēšanā, apkopojumā un vienkāršu noteikumu ievērošanā. Kad lūdzat ChatGPT šeit palīdzēt, esiet skaidrs par mērķa formātu, auditoriju un ierobežojumiem.

Traucējummeklēšanas ceļvedis

Pārāk vispārīgs? Pievienojiet piemērus un aizliedziet žargonu. Pieprasiet skaitļus, soļus vai kodu.
Pārāk garš? Uzstādiet stingru limitu, pēc tam pieprasiet izvērstu versiju, ja nepieciešams.
Iztrūkusi doma? Pārrakstiet uzdevumu vienā teikumā un uzskaitiet, kāds ir veiksmīgs rezultāts.
Nepareizi fakti? Pieprasiet citātus vai pievienojiet pareizos datus norādē.
Jūtīga tēma? Pieprasiet neitrālu kopsavilkumu un pievienojiet savu spriedumu.
Apsēsts? Palūdziet modelim uzrakstīt pirmo paragrāfu un punktu uzskaiti, pēc tam turpiniet paši.
Regulēts saturs? Turiet cilvēka pārskatītāju saziņā un reģistrējiet galīgos lēmumus.

Pārvaldība vienkāršos vārdos

Uzrakstiet vienas lapas politiku. Iekļaujiet: pieļaujamos lietošanas gadījumus, aizliegtās tēmas, datu apstrādi, cilvēku pārskatu un kontaktpunktus jautājumiem. Pievienojiet vieglu apstiprinājuma veidlapu jaunām lietošanas gadījumiem. Saglabājiet žurnālus. Pārskatiet politiku ik ceturksni. Izskaidrojiet noteikumus visai kompānijai, lai neviens tos neuzzinātu pašdarbībā. Skaidri izdariet to, kurš ir atbildīgs par pieprasījumiem un rezultātiem, kas izveidoti ar ChatGPT jūsu organizācijā.

Izstrādātāju piezīmes (drošs nelietotājiem)

API saskarnēs ir tas pats kodols, ar kuru jūs runājat. Jūs nosūtat ziņojumu un iestatījumu sarakstu; jūs saņemat tokenus atpakaļ. Aizsardzības neatrodas jūsu kodā pēc noklusējuma—pievienojiet verifikatorus, pārbaudītājus un vienības testus ap API zvanu. Izmantojiet mazas, skaidras norādes, kas glabājas versiju kontrolē. Izsekojiet latenci un tokenu skaitu ražošanā. Ja jūsu produkts ir atkarīgs no API, izsekojiet API versiju izmaiņām, lai jūsu pieprasījumi nemanāmi nesabojātos.

Apakšējā līnija

Šīs sistēmas ir ātri parauga dzinēji. Sniedziet skaidrus ievaddatus, pieprasiet pārbaudāmus rezultātus un turiet cilvēkus atbildīgus par lēmumiem. Labi izmantotas, tās novērš garlaicīgus darbus un izceļ iespējas, ko varat palaist garām. Neuzmanīgi izmantotas, tās rada pārliecinošu troksni. Atšķirība ir procesā, nevis burvībā. Ārstējiet ChatGPT kā prasmīgu asistentu: lielisks projektos, pārveidojumos un skaidrojumos; nav aizstājējs pārbaudei vai atbildībai.

Tuvāks skatījums uz tokeniem un varbūtībām

Lūk, sīks, vienkāršs piemērs. Sakiet, jūsu pieprasījums ir “Debess ir”. Modelis aplūko savus apmācības paraugus un piešķir varbūtību daudziem iespējamiem nākamajiem tokeniem. Tas var piešķirt 0.60 “ zila”, 0.08 “ skaidra”, 0.05 “ spilgta” un mazas vērtības desmitiem citu. Dekoderis pēc tam izvēlas vienu tokenu saskaņā ar jūsu iestatījumiem. Ja temperatūra ir zema, tas gandrīz vienmēr izvēlēsies “ zila”. Ja tā ir augstāka, jūs varat redzēt “ skaidra” vai “ spilgta”. Pēc izvēles frāze kļūst par “Debess ir zila”, un proces atkārtojas nākamajam tokenam. Tāpēc divas reizes var izveidot dažādus, derīgus frāžu veidojumus. ChatGPT paraugo no sadales, nevis atkārto vienu atmiņas teikumu.

Tokenizācija arī izskaidro, kāpēc dažreiz gari nosaukumi tiek sadalīti dīvainā veidā. Sistēma strādā ar rakstzīmju blokiem, nevis vārdiem. Kad jūs ielīmējat garus sarakstus vai kodu, ChatGPT to labi apstrādā, jo tokenu paraugi komatiem, iekavām un jaunām rindām ir ļoti bieži apmācības datos.

Konteksta logi un atmiņa

Modelis var vienlaikus aplūkot tikai noteiktu tokenu skaitu, ko sauc par konteksta logu. Jūsu pieprasīšana, iekšējās loģiskas pakāpes, rīku zvanus un atbildi dalībnieki šajā logā. Ja saruna turpinās ilgu laiku, agrīnās daļas var izkrist no redzesloka. Lai to novērstu, apkopojiet vai pārrakstiet svarīgus punktus. Dokumentiem sagrieziet tos gabalos un nodrošiniet tikai atbilstošās sadaļas. Daži rīki pievieno meklēšanu, lai svarīgas pases varētu ievilkt atkārtoti, ja nepieciešams. Ja lūdzat ChatGPT atcerēties preferences vairākās sesijās, tam nepieciešama īpaša funkcija; pēc noklusējuma tas neatceras vairāk par pašreizējo tērzēšanu, ja vien jūsu plāns to neatļauj.

Pieprasījuma veidnes, kuras varat izmantot

Zemāk ir īsi, atkārtojami paraugi. Ielīmējiet, pēc tam pielāgojiet iekavas.

Analītiķis: “Jūs esat skaidrs, rūpīgs analītiķis. Izmantojot zemāk esošo tabulu, aprēķiniet [KPI]. Norādiet formulu un skaitļus. Uzskaitiet visus trūkstošos ievaddatus. Saglabājiet to zem 150 vārdiem.” Palaidiet to ar maziem CSV fragmentiem, un ChatGPT pārvērtīs tos sakārtotos kopsavilkumos.

Personāla atlases speciālists: “Uzrakstiet 120 vārdu kandidāta atjauninājumu atlases vadītājam. Amats: [nosaukums]. Posms: [posma nosaukums]. Stiprās puses: [saraksts]. Riski: [saraksts]. Nākamie soļi: [saraksts]. Saglabājiet to neitrāli.” Tas fokusē ChatGPT uz struktūru un palīdz saglabāt toni profesionāli.

Inženieris: “Ņemot vērā kļūdu žurnālu, piedāvājiet trīs sakņu-cēloņu hipotēzes. Pēc tam piedāvājiet vienu testu katrai hipotēzei. Izejas tabula ar kolonnām: hipotēze, tests, signāls, risks.” Tā kā formāts ir skaidrs, ChatGPT sniedz kaut ko, ko varat pielāgot.

Vadītājs: “Izstrādājiet vienas lappuses izvietošanas plānu [politikai]. Iekļaujiet: mērķis, apjoms, soļi, īpašnieki, datumi, riski un ziņojums darbiniekiem.” Pievienojiet savus ierobežojumus, un ChatGPT izklāsta plānu, ko varat apgriezt un pabeigt.

Mārketinga speciālists: “Pārveidojiet šos punkta sarakstus par 90-sekundīgu produkta demonstrācijas scenāriju. Divas ainas. Skaidri ieguvumi. Nav žargona. Pabeidziet ar konkrētu CTA.” Aizsardzības mehānismi palīdz ChatGPT izlaist nenozīmīgus punktus un sasniegt noteikto laiku.

Students: “Izskaidrojiet [tēmu] devītklasniekam. Izmantojiet vienkāršu piemēru un 4 soļu procesu, ko viņi var sekot.” Ar tiešu auditoriju un darbībām, ChatGPT rada īsus, noderīgus ceļvežus.

Aizsargmehānismi, kas darbojas praksē

• Pieprasiet numurētus soļus un pieņemšanas kritērijus. ChatGPT ir ļoti labs sarakstos.

• Faktu gadījumā pieprasiet citātus un pārbaudiet tos. Ja avoti trūkst, lūdziet to pateikt.

• Izklājlapu gadījumā sniedziet nelielus paraugus un pieprasiet formulas. Pēc tam nokopējiet formulas savā lapā.

• Koda gadījumā pieprasiet testus un kļūdu ziņojumus. ChatGPT var rakstīt abus.

• Jūtīgu tēmu gadījumā uzstādiet neitrālu toni un apstipriniet ar pārskatītāju.

• Izpildes gadījumā ierobežojiet garumu un vispirms pieprasiet īsu TL;DR, lai varētu apstāties agrāk, ja tas ir nepareizi.

• Tulkošanai iekļaujiet vārdnīcas un stila piezīmes. ChatGPT tos uzmanīgi ievēros.

Gadījuma izpēte: No nekārtīgas e-pasta līdz darbības plānam

Iedomājieties, ka vadītājs pārsūta samežģītu e-pasta saraksti par nedēļas nogales nodrošinājumu. Laiki ir nekonsekventi, uzdevumi ir neskaidri, un divi cilvēki izmanto dažādas laika zonas. Lūk vienkāršs veids, kā to labot:

1. Ielīmējiet saraksti un sakiet: “Izvelciet vārdus, maiņas un vietas. Normalizējiet laikus uz [zona]. Parādiet tabulu.”

2. Jautājiet: “Uzskaitiet trūkstošās detaļas un riskantos pieņēmumus.”

3. Jautājiet: “Uzrakstiet īsu, neitrālu ziņu, kas piedāvā maiņu plānu un jautā trīs precizējošos jautājumus.”

Trīs gājienos modelis pārvērš troksni par tabulu, kontrolsarakstu un uzmetumu, ko varat nosūtīt. Tā kā struktūra ir skaidra, to var ātri pārbaudīt. Ja detaļas ir nepareizas, pielāgojiet pieprasījumu vai ielīmējiet koriģētos datus un pieprasiet pārskatījumu.

Ētika bez izlocīšanās

Esi tiešs ar cilvēkiem. Ja AI palīdz uzrakstīt ziņu, kas skar darba vietas, sakiet to. Neievadiet privātus datus rīkos, ko neesat pārbaudījis. Izmantojiet versiju kontroli pieprasījumiem, lai zinātu, kas ko ir mainījis. Ja paļaujaties uz ChatGPT nostibrinājumā, pievienojiet cilvēka pārbaudi un saglabājiet galīgo apstiprinājumu logu. Tās ir tās pašas noteikumi, kuras labas komandas izmanto jebkuram jaudīgam rīkam.

Nākotnes virzieni (varbūt un noderīgi)

Sagaidiet ilgākus konteksta logus, kas ļauj modelim lasīt pilnus projektus uzreiz; labāku rīku izmantošanu, lai tas pats varētu iegūt datus un veikt pārbaudes; un lētākus tokenus, kas padara rutīnas lietošanu ekonomisku. Nelielie ierīces modeļi spēs risināt ātrus, privātus uzdevumus, kamēr lielāki mākoņu modeļi tiks galā ar sarežģīto darbu. Neuzgaidiet maģisku vispārējo intelektu nakts laikā. Bet prognozējiet pakāpeniskus uzlabojumus, kas padarīs ChatGPT ātrāku, drošāku un praktiskāku ikdienas uzdevumos.

Ātra atsauce: Dari un Nedari

Do

• Sniedz lomu, mērķi un auditoriju.

• Nodrošiniet piemērus un ierobežojumus.

• Pieprasiet struktūru un pieņemšanas kritērijus.

• Saglabājiet veiksmīgu pieprasījumu ierakstu.

• Sāciet ar nelielu, izmērēt un paplašināt.

Nedari

• Neievadiet noslēpumus vai regulētu datus bez apstiprinājumiem.

• Neuzskatiet, ka rezultāti ir pareizi. Pārbaudiet tos.

• Neļaujiet pieprasījumiem izplesties. Saglabājiet tos skaidru.

• Neļaujiet pieprasījumiem izplesties. Saglabājiet tos skaidrus.

• Neizmantojiet ChatGPT kā lēmumu pieņēmēju. Tas ir asistents.

Kā tas atšķiras no meklēšanas

Interneta meklētājprogramma atrod lapas. Valodu modelis raksta tekstu. Kad pieprasāt meklētājprogrammai, tā atgriež saites, lietojot signālus kā popularitāti un svaigumu. Kad prasāt modelim, tas tieši izveido teikumu. Abi ir noderīgi; tie vienkārši atbild uz dažādiem jautājumu veidiem.

Izmantojiet meklētājprogrammu, ja jums ir nepieciešami primārie avoti, jaunākās ziņas vai oficiālā dokumentācija. Izmantojiet modeli, ja jums ir nepieciešams uzmetums, pārrakstīta izgriezuma vai ātrs skaidrojums, kas balstīts uz iemācītajiem paraugiem. Praktiski labākā darba plūsma ir sajaukums: lūdziet ChatGPT plānu vai kopsavilkumu, pēc tam noklikšķiniet uz avotiem, lai pārbaudītu detaļas. Ja pieejami pārlūkošanas rīki, varat lūgt ChatGPT meklēt un citēt, rakstot, bet joprojām pašiem izlasiet saites pirms rīkošanās.

Vēl viena atšķirība ir tonis. Meklētājprogrammas nerūpējas par jūsu stila vadlīniju. ChatGPT var atdarināt toni, ja to iedodat piemēros. Dodiet tai īsu balss noteikumu—“vienkāršs, tiešs, bez mārketinga frāzēm”—un tas sekos stilam visā jūsu uzmetumos. Tas padara ChatGPT par spēcīgu kompanjonu iekšējiem darbiem, kur ātrums un skaidrība ir svarīgāki par perfektu prozu. Publiskiem darbiem apvienojiet ChatGPT ar cilvēku apskatu, lai saglabātu zīmola kvalitāti.

Parauga sarunas, kas darbojas

Pārveidojiet aptuvenu ideju par plānu.
Pieprasījums: “Es vadu mazu kafejnīcu. Es vēlos ieviest priekšapmaksas dzērienu kartes. Izstrādājiet soļus, lai pārbaudītu to vienu mēnesi. Iekļaut riskus un vienkāršu izklājlapu izkārtojumu, lai izsekotu pārdošanu.”
Kāpēc tas darbojas: loma, mērķis un ierobežojumi ir skaidri. ChatGPT piedāvās soļus, pārbaudes logu un mazu tabulu, ko varat nokopēt.

Apkopot, nezaudējot būtību.
Pieprasījums: “Apkopojiet trīs klientu e-pastus piecos punktos. Atzīmējiet jebkuru, kas izskatās pēc kļūdas, nevis funkciju pieprasījuma.”
Kāpēc tas darbojas: tas definē izlaidi un etiķetes. ChatGPT ir laba kategoriju atdalīšanā, kad pieprasiet skaidrus marķējumus.

Skaidrojiet kodu vienkāršā angļu valodā.
Pieprasījums: “Paskaidrojiet, ko šī funkcija dara vienā paragrāfā, pēc tam uzskaitiet divus iespējamos kļūdu gadījumus.”
Kāpēc tas darbojas: tas piespiež īsu skaidrojumu un risku pārbaudi. ChatGPT to labi apstrādā lielākajai daļai ikdienas koda.

Izstrādājiet jūtīgu ziņu.
Pieprasījums: “Uzrakstiet neitrālu, cieņpilnu piezīmi kontaktpersonai, kurā izskaidrojat, ka viņu nakts maiņa beidzas budžeta dēļ. Piedāvājiet divas alternatīvas maiņas un jautājiet par pieejamību.”
Kāpēc tas darbojas: skaidrs tonis un iespējas. ChatGPT radīs mierīgu uzmetumu, ko varat rediģēt pirms sūtīšanas.

Tulkot ar stila vadlīniju.
Pieprasījums: “Tulkot šo paziņojumu spāņu valodā noliktavas personālam. Saglabājiet teikumus īsus, izvairieties no žargona un saglabājiet lasāmu līmeni ap 7. klases līmeni.”
Kāpēc tas darbojas: tonis un auditorija ir skaidri. ChatGPT stingri ievēro stila nosacījumus.

Šie paraugi ir atkārtojami. Saglabājiet pieprasījumus, kas dod labus rezultātus, un izveidojiet nelielu bibliotēku. Kad jūsu komanda dalās ar šo bibliotēku, visi gūst labumus. Laika gaitā jūsu pieprasījumi kļūst tik pat svarīgi kā jūsu veidnes. Ja nomaināt rīku savā komplektā, jūsu pieprasījuma bibliotēka vēl joprojām darbojas, jo ChatGPT saprot nodomu, nevis specifisku izvēlnes ceļu.

Risks un preventīvi pasākumi regulētā darbā

Dažas komandas uztraucas, ka AI izplatīs datus vai ģenerēs padomus, kas pārkāpj juridiskās līnijas. Tie ir pamatoti riski. Atbilde ir process, nevis bailes. Saglabājiet jūtīgus datus ārpus, ja vien jūsu plāns to ļauj un jūsu politika to apstiprina. Izmantojiet meklēšanu, kas norāda ChatGPT pie apstiprinātiem dokumentiem, nevis atklātajam tīmeklim. Aptiniet modeļa izejas pārbaudēs: ierobežojiet, kas var publicēt, pieprasiet otrā pārskatītāja piedalīšanos riska atzīmētajos uzmetumos un saglabājiet žurnālus. Ārstējiet personālu pieprasīt citātus, kad fakti ir svarīgi, un pārbaudiet matemātiku ar kalkulatoru vai izklājlapu. Ar šiem pamatiem vietā ChatGPT kļūst par uzticamu asistentu, kas mazina rutīnas darbu, neriskējot ar jums.

Kāpēc tas ir svarīgi ikdienas darbā

Lielākā daļa komandu grimst nelielos uzdevumos: pārrakstīt šo piezīmi, formatēt šo tabulu, izstrādāt politikas pirmo versiju, tulkot ziņu partnerim vai izveidot kontrolsarakstu no gara PDF. Tieši šie ir punkti, kur ChatGPT izceļas. Tas var pārvērst nesakārtotu ievadu par tīru uzmetumu sekundēs, un jūs joprojām esat atbildīgs, jo jūs i vēl aizvien pārbaudāt un apstiprināt. To reizinot ar nedēļu, laika ietaupījums ir acīmredzams. Vēl labāk, ChatGPT padara labos paradumus vieglākus: jūs sākat pieprasīt skaidru struktūru, pievienojat pieņemšanas kritērijus, un atstājat pārskatu ceļu, jo pieprasījumus un izejas ir viegli arhivēt. Ieguvums ir vienkāršs: skaidrāki dokumenti, ātrāki nodošanas un mazāk kļūdu.

Nekas no tā neprasa jaunas titulus vai lielus budžetus. Varat sākt ar rīkiem, kādi jums ir šodien. Izvēlieties vienu procesu, pievienojiet ChatGPT pie trīs soļiem, nomēriet ietaupīto laiku un pierakstiet, ko esat mainījis. Atkārtojiet nākamajā nedēļā. Komandas, kas šos nelielus uzlabojumus savieno, klusi pārspēs tās, kas gaida perfekto plānu.