AI i appen din

Tabellen nedenfor er planen for denne veiledningen. Les den først: den forhindrer tre fjerdedeler av de dårlige valgene.

Én setning å holde fast ved skillet med: RAG-chatboten kjenner det du publiserte, ChatGPT-tillegget kjenner det modellen lærte. Den første kan ikke svare på et emne du aldri har dekket. Den andre svarer likevel, og det er av og til nettopp det du ikke vil ha.

De to kan leve side om side i den samme appen. En generell samtaleassistent på startskjermen og en dokumentarisk chatbot i arkivseksjonen konkurrerer ikke.

RAG står for retrieval-augmented generation. Prinsippet får plass i én setning: før den svarer, går assistenten og finner de relevante avsnittene i ditt innhold, og skriver svaret sitt ut fra de avsnittene.

Det er forskjellen mellom en assistent som kan emnet ditt og en assistent som kan sitt eget. For et artikkelarkiv på ti år, en reiseguide, en intern håndbok eller en base med ofte stilte spørsmål, er det den eneste formen som holder: svarene holder seg innenfor grensene av det du har skrevet, og de eldes i samme takt.

Chatboten er et tillegg før den er en seksjon, og rekkefølgen betyr noe. Alt starter fra RAG Chatbot-oppføringen i hovedmenyen, på første nivå mellom Notification og Statistics: det er der du legger til tillegget, og først når det er lagt til blir seksjonen tilgjengelig i appen din. Å lete etter den i listen over seksjoner før du har gått den veien betyr å ikke finne den.

Når den er på plass, oppfører den seg som enhver annen seksjon: den tar sin plass i menyen din, den teller mot de 120 seksjonene dine, og den plukker opp fargene og typografien til appen din.

Innstillingene åpnes fra den samme menyoppføringen, på en skjerm med fire faner: innstillinger, design, kildeseksjoner og rapporter.

Dette er innstillingen som avgjør kvaliteten på chatboten din, og det er også den folk haster forbi.

Sections-fanen lister dine, sortert etter innholdstype: artiklene dine, arrangementene dine, stedene dine. Du krysser av for dem som skal mate kunnskapsbasen, og du kan gå ned på kategorinivå: hele seksjonen med artikler, eller bare kategorien Praktisk.

Alt du publiserer i de seksjonene deretter havner der automatisk. Det finnes ingen oppdateringsknapp å huske, ingen eksport å gjøre om: kunnskapsbasen din følger det du publiserer.

En siste innstilling fullfører bildet: en grense for hvor mange elementer som beholdes fra hver valgte kilde, fra det nyeste og bakover. Å heve den gir assistenten mer materiale og bruker flere kreditter. En utgiver som publiserer hver dag og en stabil reiseguide trenger ikke den samme verdien.

To modeller settes hver for seg, og de gjør ikke den samme jobben.

Genereringsmodellen er den som skriver svaret. Listen går fra de nyeste modellene ned til Mini- og Nano-variantene deres, som er raskere og mer nøysomme. Den omfatter modeller fra OpenAI og modeller fra Mistral, noe som lar deg holde deg på europeisk infrastruktur når det betyr noe for deg.

Indekseringsmodellen er den som gjør innholdet ditt om til noe et søk kan arbeide med. Den store versjonen håndterer lange og nyanserte tekster bedre; den økonomiske versjonen er raskere og bruker mindre.

Den praktiske regelen: start med en økonomisk variant, mål kvaliteten på svarene mot dine virkelige spørsmål, og gå opp hvis du ikke er i mål. Å gjøre det motsatt koster penger til ingen nytte.

Et felt for skrivetone lar deg beskrive hvordan assistenten henvender seg til leserne dine: graden av formalitet, stilen. Dette feltet er ikke der for å legge til kunnskap, det er der for å sette stemmen.

Det bærer likevel den mest nyttige instruksen på hele skjermen: den som sier hva den skal svare når svaret ikke finnes i innholdet ditt. Uten den foretrekker en assistent ofte å improvisere framfor å innrømme det. Skriv det uttrykkelig: si til den at den skal si at den ikke vet, og peke på kontaktsiden din. Én setning, og chatboten din slutter å finne på.

To brytere avgjør hva som dukker opp under svarene. Interaktive kildekort viser artikkelen, arrangementet eller stedet svaret ble bygd fra, og leseren åpner det med ett grep. En andre bryter legger en kopieringsknapp på hver melding i samtalen.

Se på det svaret: det er ikke bare riktig, det sier hvor det kommer fra. Hver oppskrift som siteres bærer lenken sin til artikkelen, og raden med kort under samtalen tar leseren tilbake inn i innholdet. Det er den synlige forskjellen mellom en assistent som øser av deg og en assistent som snakker etter hukommelsen.

Slå på kildekortene. De gjør tre ting på én gang: de beviser at svaret virkelig kommer fra deg, de bringer leseren tilbake inn i innholdet ditt i stedet for å la dem bli igjen i samtalen, og de gir deg en måte å sjekke chatboten din på i ett blikk.

Et valg om tilgangsbegrensning lukker chatboten for forbipasserende besøkende og forbeholder den for folk som er logget inn eller abonnerer. Det lener seg på en av de to tilgangsfamiliene til plattformen, tillegget for medlemskap i appen eller tillegget Authentication, så en av de to må være aktiv i appen din.

De to familiene stables ikke: det er veiskillet som er beskrevet i «Bygge en community med appen din», og det avgjøres på forhånd, ikke etterpå. Hvis appen din lever på medlemskap i appen, er det det begrensningen går gjennom.

Det er en god kandidat til forbeholdt innhold. En assistent som kjenner ti år av arkivet ditt har en verdi en leser fatter umiddelbart, noe som sjelden gjelder for enda en artikkel.

RAG-chatboten er et tillegg, og oppføringen viser prisen som gjelder for appen din. Den omfatter en mengde kreditter, som fornyes hver måned, og en teller øverst på skjermen viser saldoen som er igjen sammen med neste fornyelsesdato. Mengden som er inkludert står på den samme oppføringen.

To ting bruker de kredittene, og ikke i samme forhold. Å indeksere innholdet ditt koster lite og skjer én gang, og deretter ved hver publisering. Spørsmålene til brukerne dine koster resten, og forbruket deres avhenger av modellen du har valgt og av hvor sammensatt spørsmålet er. Med andre ord følger regningen din publikummet ditt: det er gode nyheter, forutsatt at du så det komme.

Den andre typen assistent leser ikke innholdet ditt. Den kobler en instans av ChatGPT inn i appen din, og du gir den en rolle.

Som ethvert tillegg viser oppføringen prisen som gjelder for appen din, og det virker på begge produktlinjene, innholdsapper så vel som e-handelsapper.

Som RAG-chatboten er det et tillegg før det er en seksjon, og den samme rekkefølgen gjelder: du slår det på først i Extensions Store › All extensions, og seksjonen dukker først opp i listen over typer når det er gjort. Du finner deretter statusen på alle tilleggene dine i Extensions Store › Management.

Innstillingene åpnes fra menyen til seksjonen, gjennom oppføringen som setter opp assistenten. Skjermen har bare to faner, innstillinger og design, der RAG-chatboten har fire. Det er forskjellen i natur, synlig for det blotte øye.

Den første forskjellen ligger rett der, og den er ikke ubetydelig. En blokk for OpenAI-tilgang ber deg om en hemmelig API-nøkkel, som du oppretter på OpenAI-kontoen din. Det kommersielle forholdet blir mellom deg og OpenAI: GoodBarber tar ingenting for samtalene og tar ingenting underveis.

Hva det betyr i praksis: du åpner en konto hos OpenAI, du legger en betalingsmåte på den, og du følger forbruket fra deres dashbord, ikke fra back office. Enkelte nyere modeller krever også at organisasjonen din er verifisert hos OpenAI, noe skjermen gjør oppmerksom på.

Bare tre felter, og det tredje bærer alt det andre. Du skriver inn navnet på assistenten, du velger en genereringsmodell fra en liste som går fra den nyeste til den mest økonomiske, og deretter skriver du systemmeldingen.

Den teksten er det eneste som skiller assistenten din fra en helt vanlig ChatGPT. Den beskriver rollen, tonen, og framfor alt spennet av emner den går med på å ta. En assistent som ikke har fått vite hva den snakker om, kommer til å snakke om alt, også ting du ikke vil ha i appen din.

Skriv den i to deler. Først rollen, sagt enkelt: hvem den er, hvem den snakker til, om hvilket emne. Deretter avgrensningen, som er like viktig: hva den skal svare når spørsmålet faller utenfor emnet. Den andre halvdelen er den folk glemmer, og det er den som holder assistenten i sitt spor.

Som RAG-chatboten kan ChatGPT-tillegget forbeholdes de innloggede brukerne dine, gjennom det samme begrensningsvalget, og utseendet settes i designfanen.

Det følger direkte av måten den virker på: denne assistenten kjenner ikke innholdet ditt. Den vet ikke hva du publiserte i går, eller åpningstidene dine, eller prisene dine, eller navnet på den nye kolleksjonen din. Hvis en bruker spør, svarer den likevel, med det modellen tror den vet.

Systemmeldingen reduserer den risikoen, den fjerner den ikke. Behold derfor dette tillegget til bruksmåter der svaret ikke må komme fra deg: en assistent som gir råd, som omformulerer, som følger noen gjennom de første stegene. Så snart svaret må være nøyaktig og etterprøvbart, er det RAG-chatboten du trenger.

Spørsmålet avgjøres på én linje: må svaret komme fra deg?

Tre eksempler til å forankre regelen.

En skole. Paraigua publiserer kalenderne sine, reglene sine og rundskrivene sine. De samme spørsmålene kommer igjen hvert år, på de samme datoene, og hvert av dem har allerede svaret sitt skrevet et sted. Dette er skoleeksempelet på RAG: materialet finnes, det er bare dårlig tilgjengelig.

En reiseguide. Portland beskriver steder, arrangementer, ruter. En besøkende som spør «hva har åpent søndag morgen nær havnen» spør om noe innholdet svarer på, men som ingen meny lar dem formulere. RAG igjen.

En skjønnhetssalong. Freyja Spa har ingen samling dokumenter, men har kunder som nøler mellom to behandlinger. En assistent som er rammet inn av en systemmelding, som stiller to eller tre spørsmål og styrer mot den riktige tjenesten, er nyttig uten å måtte kunne katalogen utenat. ChatGPT-tillegget holder, og det koster ingenting mer.

RAG-chatboten finnes bare på innholdsapper. En e-handelsapp kan ikke slå den på i dag. På den linjen er ChatGPT-tillegget fortsatt tilgjengelig.

En chatbot svarer bare godt hvis innholdet ditt svarer. Dette er grensen som oftest oppdages for sent. En assistent koblet til tretti vage artikler gir tretti vage svar, og den gjør et innholdsproblem synlig som gikk upåaktet hen så lenge ingen stilte spørsmålet direkte. Før du slår den på, les gjennom det du publiserer og spør deg selv om en leser ville funnet svaret sitt der. Hvis ikke, er det innholdet som må arbeides med, ikke modellen.

Du er fortsatt ansvarlig for det appen din sier. En assistent snakker i ditt navn, i appen din, i fargene dine. Test den med dine virkelige spørsmål før du publiserer, også de ubehagelige, og behold instruksen som ber den innrømme det den ikke vet. En assistent som svarer «jeg vet ikke, skriv til oss» koster deg ingenting. En assistent som finner på åpningstidene dine koster deg en kunde.