Costruire rapidamente un assistente alla conoscenza aziendale con Dify

Oggi vediamo come costruire rapidamente un assistente alla conoscenza aziendale utilizzando Dify, che può anche essere integrato direttamente con l’IM aziendale, realizzando un robot intelligente interno all’azienda.

Iniziamo con semplici procedure aziendali come ferie, permessi e rimborsi. La maggior parte dei dipendenti non riesce a ricordare queste informazioni, processi e regolamenti, e deve continuamente cercare registrazioni o chiedere a persone competenti. Questo non solo riduce l’efficienza, ma le ripetute richieste possono anche portare a emozioni negative.

Nota: La costruzione di questo assistente si basa sul sito ufficiale di Dify; discuteremo dell’implementazione autonoma in un secondo momento.

Cos’è Dify

Dify è una piattaforma open source per lo sviluppo di applicazioni LLM. Offre capacità che vanno dalla costruzione di agenti alla pianificazione dei flussi di lavoro AI, recupero RAG, gestione dei modelli e altro, permettendo di costruire e gestire facilmente applicazioni native di AI generativa.

Banca dati aziendale

Organizzazione dei materiali

Il primo passo è organizzare i materiali interni dell’azienda in documenti; la banca dati Dify supporta vari formati di documento.

Sono supportati TXT, MARKDOWN, PDF, HTML, XLSX, XLS, DOCX, CSV, EML, MSG, PPTX, PPT, XML, EPUB, con un limite di 15MB per file.

Se si tratta di documenti di tipo domanda-risposta, è meglio organizzarli in forma di Q&A per ottenere risultati migliori. Ad esempio:

Q: Come posso presentare una richiesta di rimborso?
A: Presenta la richiesta di rimborso su Feishu, inserendo l’importo, la voce, le spiegazioni aggiuntive, ecc., e allegando la fattura e altre informazioni necessarie.

Creazione della banca dati Dify

Il secondo passo è aprire la pagina della banca dati Dify, creare la banca dati e caricare i documenti.

Dopo il caricamento del file, si passa al passaggio “Segmentazione e pulizia del testo”.

Sul lato destro della pagina è possibile visualizzare l’anteprima della segmentazione del testo.

Introduciamo brevemente le impostazioni di segmentazione:

1. Impostazioni di segmentazione:

   • Segmentazione e pulizia automatica: può completare automaticamente la segmentazione; se il documento non ha informazioni di segmentazione uniformi o non si è molto familiari con il documento, è possibile scegliere la segmentazione automatica.

   • Personalizzato: se si è abbastanza familiari con il documento e si hanno requisiti elevati per la segmentazione, è possibile scegliere la segmentazione personalizzata.

     

2. Modalità di indicizzazione:

   • Alta qualità: completata da un modello di embedding di terze parti, come il modello di embedding di testo di OpenAI, con maggiore accuratezza, ma richiede token. Il modello può essere configurato nelle impostazioni personali.

     

   • Economica: motore di vettori offline, con precisione inferiore ma senza consumo di token.

3. Impostazioni di recupero: iniziamo con le impostazioni predefinite; in seguito parleremo in dettaglio delle impostazioni di recupero, inclusi concetti come recupero misto e Rerank.

Dopo aver completato le impostazioni, è possibile salvare per completare l’elaborazione del documento.

Se ci sono aggiornamenti ai documenti, è possibile aggiungere file in qualsiasi momento.

Assistente aziendale

Una volta creata la banca dati, possiamo procedere a creare un assistente chat interno all’azienda.

Un semplice assistente informativo aziendale può essere realizzato utilizzando una semplice orchestrazione, richiedendo solo un semplice Prompt.

Scrittura e ottimizzazione del Prompt

Non sai scrivere un Prompt? Nessun problema, ti consiglio uno strumento di ottimizzazione dei Prompt https://promptperfect.jina.ai. Devi solo scrivere in modo semplice ciò che desideri che l’AI faccia e, utilizzando questo strumento, otterrai un Prompt ottimizzato.

Ad esempio, ho un semplice Prompt come segue:

Sei un assistente informativo interno all'azienda.
Devi aiutare i dipendenti a ottenere rapidamente le informazioni di cui hanno bisogno.
Non rispondere a domande esterne all'azienda.

Ecco il processo di ottimizzazione del Prompt:

Dopo l’ottimizzazione, verranno anche suggerite domande di miglioramento e integrazione. Se hai ulteriori aggiunte, continua a chattare con esso per integrarle. Vediamo la versione ottimizzata:

Come assistente informativo interno all'azienda, il tuo compito è aiutare i dipendenti a ottenere rapidamente le informazioni necessarie per il loro lavoro. Le tue risposte devono riguardare esclusivamente questioni interne all'azienda, rifiutando di rispondere a qualsiasi domanda relativa a questioni esterne.

Si prega di fare riferimento ai seguenti esempi:
Esempio di domanda 1: "Per favore, aiutami a trovare l'ultimo documento sulle politiche aziendali."
Esempio di risposta 1: "L'ultimo documento sulle politiche aziendali può essere trovato nella sezione politiche del sito intranet aziendale. Il percorso specifico è: homepage intranet -> Politiche e regolamenti."

Esempio di domanda 2: "Dove posso trovare l'annuncio di assunzione del dipartimento delle risorse umane?"
Esempio di risposta 2: "L'annuncio di assunzione del dipartimento delle risorse umane viene pubblicato nella sezione 'Informazioni sulle assunzioni' del sito intranet; puoi visitare: homepage intranet -> Dipartimento delle risorse umane -> Informazioni sulle assunzioni."

Esempio di domanda 3: "Dove posso ottenere l'ultimo rapporto finanziario dell'azienda?"
Esempio di risposta 3: "L'ultimo rapporto finanziario dell'azienda viene solitamente aggiornato nella pagina del dipartimento finanziario; il percorso è: homepage intranet -> Dipartimento finanziario -> Rapporti finanziari."

Ora, per favore, chiedi le informazioni interne di cui hai bisogno e farò del mio meglio per aiutarti a trovarle.

Incolla il Prompt ottimizzato nel campo di suggerimento dell’assistente chat.

Citazione della banca dati

Successivamente, introduciamo la banca dati che abbiamo appena aggiunto. “Contesto - Aggiungi - Seleziona la banca dati - Clicca su Aggiungi”.

Debug e anteprima

Una volta pronti la banca dati, il Prompt e altro, possiamo testare direttamente l’effetto sulla destra della pagina.

Confrontando il contenuto fornito dall’assistente con il contenuto originale dei documenti aziendali, è possibile verificare l’effetto finale. La pagina di debug mostrerà se il contenuto fornito dall’assistente ha utilizzato la banca dati, consentendo di valutare l’efficacia.

Così, un semplice assistente informativo interno all’azienda è stato configurato.

Pubblicazione e applicazione

Una volta configurato l’assistente chat aziendale, possiamo pubblicare questa applicazione. Dify offre tre modalità di pubblicazione (tutte e tre disponibili).

1. Esecuzione: un sito web accessibile e utilizzabile basato su Dify.
2. Incorporamento nel sito web: un codice HTML Iframe che può essere incorporato nel proprio sito web.
   
3. Accesso API: è possibile integrare il chatbot all’interno dell’azienda utilizzando l’API dell’applicazione di chat Dify, integrandolo in siti web interni, robot IM, ecc.

In seguito parleremo di come effettuare test di richiamo sulla banca dati e come utilizzare la ricerca online per migliorare il recupero in tempo reale.